BA025. Tìm kiếm ranh giới tối ưu — Toán học đằng sau Grid Search và Youden's J

Trong BA024 (BA024. Sự tiến hóa của EXAWin Bayesian Engine: Ngày dữ liệu tự điều chỉnh tham số), Phó Tổng Giám đốc Kinh doanh đã chứng kiến Auto-Tuner quét 3,240 điểm lưới để tìm tham số tối ưu. Trong 30 giây khi lưới trên màn hình chuyển từ xanh sang đỏ, bên trong engine đang vận hành những phép toán nào?

Bài viết này giải thích nguyên lý toán học đằng sau trụ cột đầu tiên của Auto-Tuner — Grid Search Optimization và Youden's J Index — cùng ý nghĩa kinh doanh của chúng.

1. Định nghĩa bài toán: "Tham số tốt" là gì?

Bayesian Engine của EXAWin phụ thuộc vào hai tham số cốt lõi.

T (Stage Weight — Trọng số giai đoạn): Mức độ ảnh hưởng của các tín hiệu xảy ra tại mỗi giai đoạn bán hàng (Discovery, Qualification, Solution-Fit, Negotiation, Closing) lên xác suất thắng. T càng cao, tín hiệu tại giai đoạn đó (tích cực hay tiêu cực) càng làm xác suất thay đổi mạnh.

k (Signal Sensitivity — Độ nhạy tín hiệu): Hệ số chuyển đổi cường độ tín hiệu (tích cực nhẹ, tiêu cực mạnh, v.v.) thành lượng cập nhật Alpha/Beta. k cao thì engine phản ứng nhạy với từng tín hiệu, k thấp thì phản ứng chậm.

Câu hỏi rất rõ ràng: T và k nên được thiết lập như thế nào để engine phân biệt chính xác nhất giữa "deal sẽ thắng" và "deal sẽ thua"?

Để trả lời câu hỏi này, trước tiên cần định nghĩa "phân biệt chính xác" nghĩa là gì trong toán học.

2. Chuyển đổi sang bài toán phân loại

Bản chất của engine bán hàng là một Bộ phân loại nhị phân (Binary Classifier).

Mỗi deal cuối cùng chỉ có hai kết quả — Thắng (Won) hoặc Thua (Lost). Engine tính xác suất thắng P(Win) cho mỗi deal, nếu vượt ngưỡng (Threshold) thì phán định "khả năng thắng cao," ngược lại là "có rủi ro."

Bốn tình huống phát sinh:

Bảng này gọi là Ma trận nhầm lẫn (Confusion Matrix) — điểm xuất phát để đánh giá hiệu suất của mọi bộ phân loại.

Ý nghĩa kinh doanh

Mỗi ô có ảnh hưởng rất khác nhau đến tổ chức bán hàng.

• TP (True Positive): Engine nói "sẽ thắng," và đúng vậy. → Hoạt động đúng. Nguồn lực đầu tư đúng chỗ.
• FP (False Positive): Engine nói "sẽ thắng," nhưng thua. → Lỗi nguy hiểm nhất. Đội sales lãng phí nguồn lực trong kỳ vọng hão huyền, bỏ lỡ cơ hội khác. Đây chính là "deal 68% nhưng thua" mà Phó Tổng trải nghiệm trong BA024.
• FN (False Negative): Engine nói "sẽ thua," nhưng thực tế lại thắng. → Bỏ cơ hội hoặc đầu tư thiếu, có thể bỏ lỡ thành công lớn hơn.
• TN (True Negative): Engine nói "sẽ thua," và đúng vậy. → Hoạt động đúng. Tránh lãng phí nguồn lực.

Engine lý tưởng tối đa hóa TP và TN, đồng thời tối thiểu hóa FP và FN. Nhưng thực tế, hai mục tiêu này ở trong quan hệ đánh đổi (Trade-off).

3. Sensitivity và Specificity: Cuộc kéo co vĩnh cửu

Hai chỉ số lượng hóa sự đánh đổi này.

Sensitivity (Recall, True Positive Rate)

"Trong các deal thực tế thắng, tỷ lệ engine phán đoán đúng 'sẽ thắng.'"

Sensitivity cao nghĩa là không bỏ lỡ bất kỳ cơ hội nào. Bắt được mọi deal thắng. Nhưng nếu chỉ đẩy Sensitivity lên cao, engine sẽ phán tất cả deal là "sẽ thắng" — FP (False Positive) bùng nổ.

Specificity (True Negative Rate)

"Trong các deal thực tế thua, tỷ lệ engine phán đoán đúng 'sẽ thua.'"

Specificity cao nghĩa là không tạo kỳ vọng hão. Lọc chính xác các deal sẽ thua. Nhưng nếu chỉ đẩy Specificity lên, engine trở nên cực kỳ bảo thủ, phán cả deal thắng thật là "sẽ thua." FN (False Negative) bùng nổ.

Thế lưỡng nan trong bán hàng

Cuộc kéo co này tương ứng chính xác với thế lưỡng nan hàng ngày trên thực địa:

• Chiến lược bán hàng tấn công (ưu tiên Sensitivity): "Có chút khả năng là đẩy hết." → Không lỡ cơ hội nào, nhưng nguồn lực phân tán và lãng phí tăng.
• Chiến lược bán hàng bảo thủ (ưu tiên Specificity): "Chỉ tập trung vào cái chắc." → Hiệu quả, nhưng bỏ lỡ cơ hội ẩn.

Tổ chức bán hàng giỏi nhất tìm được điểm cân bằng tối ưu giữa hai cực. Và đó chính xác là việc Youden's J làm.

4. Youden's J Index: Toán học của sự cân bằng tối ưu

Youden's J Index được đề xuất năm 1950 bởi nhà dịch tễ học William Youden để đánh giá hiệu suất xét nghiệm chẩn đoán. Công thức toán học đơn giản đến đáng ngạc nhiên:

Hoặc tương đương:

Trong đó FPR (False Positive Rate) = 1 - Specificity.

Cách đọc trực quan

• J = 0: Engine ở mức tung đồng xu. Không có khả năng phân loại.
• J = 1: Bộ phân loại hoàn hảo. Nhận đúng mọi deal thắng, lọc đúng mọi deal thua.
• Điểm J cực đại: Điểm cân bằng mà Sensitivity và Specificity đồng thời cao nhất.

Tại sao J? — Bẫy của Accuracy

Có thể hỏi: "Tại sao không tối đa hóa Accuracy?"

Accuracy đơn giản có một điểm yếu chí mạng: rất dễ bị đánh lừa bởi Class Imbalance (mất cân bằng lớp).

Ví dụ: 100 deal, 90 thắng và 10 thua. Nếu engine hô "sẽ thắng" cho tất cả — không phân tích gì — Accuracy đạt 90%. Nhưng Youden's J?

• Sensitivity = 90/90 = 1.0 (bắt đúng hết deal thắng)
• Specificity = 0/10 = 0.0 (không lọc được deal thua nào)
• J = 1.0 + 0.0 - 1 = 0.0

J Index chấm 0 điểm cho kiểu "lạc quan bất tài" này. Accuracy 90% nhưng J bằng 0, engine đó vô giá trị.

Đây là lý do Auto-Tuner dùng Youden's J — chứ không phải Accuracy — làm mục tiêu tối ưu hóa.

5. Grid Search: Sức mạnh của quét toàn diện

Bây giờ cần tìm tổ hợp tham số (T, k) tối đa hóa Youden's J. Phương pháp Auto-Tuner chọn là Grid Search (Tìm kiếm lưới).

Thuật toán

Nguyên lý Grid Search rất đơn giản: "Thử mọi tổ hợp khả thi, chọn cái tốt nhất."

1. Xác định không gian tham số: Mỗi T từ 0.1 đến 1.0, bước nhảy 0.05; k từ 0.5 đến 2.5, bước nhảy 0.1.
2. Tạo lưới: 5 Stage × 19 ứng viên T mỗi stage × 21 ứng viên k = hàng ngàn Grid Point.
3. Đánh giá từng điểm: Cho mỗi điểm lưới, đưa vào dữ liệu lịch sử (Won/Lost), tính Youden's J — mức P(Win) tính được với tham số đó khớp với kết quả thực tế đến đâu.
4. Chọn điểm tối ưu: Trả về tham số tại điểm lưới có J cao nhất.

Quy trình toán học (Đánh giá một điểm lưới)

Cố định một điểm lưới, gọi là θ = (T₁, T₂, ..., T₅, k).

Với N giao dịch lịch sử:

Step 1. Với mỗi deal, tính lại Alpha/Beta cho tất cả hoạt động bằng T và k của θ:

Trong đó impact(i) là điểm tác động của tín hiệu thứ i.

Step 2. Tính P(Win) cuối cùng từ Alpha/Beta đã tính lại:

Step 3. So sánh P(Win) của tất cả deal với kết quả thực tế (Won/Lost), tạo Confusion Matrix tại các ngưỡng khác nhau (ví dụ: 0.3, 0.4, 0.5, 0.6, ...).

Step 4. Tính Sensitivity và Specificity tại mỗi ngưỡng, tính J.

Step 5. Ghi lại J tối đa đạt được tại điểm lưới θ.

Lặp lại cho tất cả điểm lưới, chọn điểm có J cao nhất làm tham số tối ưu.

6. Đường cong ROC và ngưỡng tối ưu

Trong quá trình Grid Search, mỗi điểm lưới đều tạo ra một đường cong ROC (Receiver Operating Characteristic Curve).

Đường cong ROC là gì?

Đường cong ROC vẽ các cặp (FPR, TPR) trên mặt phẳng tọa độ khi ngưỡng liên tục thay đổi từ 0 đến 1.

• Trục X: False Positive Rate (1 - Specificity)
• Trục Y: True Positive Rate (Sensitivity)

Hình dạng và ý nghĩa

• Góc trên-trái (0, 1): Vị trí của bộ phân loại hoàn hảo. FPR=0, TPR=1.
• Đường chéo (y=x): Đoán ngẫu nhiên. Không có khả năng phân loại.
• Đường cong càng gần góc trên-trái, bộ phân loại càng tốt.

Mối quan hệ giữa Youden's J và ROC

Điểm mà Youden's J đạt cực đại tương ứng với điểm trên đường cong ROC có khoảng cách thẳng đứng lớn nhất đến đường chéo (y=x).

Ngưỡng tại điểm này trở thành tiêu chuẩn phân loại tối ưu cho tổ hợp tham số đó.

Ý nghĩa kinh doanh

Đường cong ROC là công cụ rất trực quan cho lãnh đạo sales:

"Đặt ngưỡng 50% sẽ bắt được 82% deal thắng nhưng cũng phán sai 15% deal thua là 'sẽ thắng.' Nâng lên 60% thì tỷ lệ bắt deal thắng giảm xuống 71%, nhưng false positive giảm còn 6%."

Hiển thị trực quan các đánh đổi và đưa ra câu trả lời toán học cho "Ranh giới phù hợp nhất cho tổ chức chúng ta ở đâu?" — đó chính là vai trò của ROC + Youden's J.

7. Giới hạn và bổ trợ của Grid Search

Grid Search rất mạnh, nhưng có hai giới hạn bản chất.

Giới hạn 1: Quét rời rạc (Discrete)

Grid Search chỉ đánh giá các điểm trên lưới. Với T quét bước 0.05, nếu giá trị tối ưu thật là 0.223, nó chỉ đánh giá 0.20 và 0.25 — bỏ lỡ khoảng giữa. Tăng độ phân giải cải thiện độ chính xác nhưng tính toán tăng theo cấp số nhân.

Giải pháp của Auto-Tuner: Grid Search đóng vai trò bộ lọc vòng 1. Tìm "vùng tối ưu gần đúng," sau đó MCMC ở giai đoạn 2 quét tinh trong không gian liên tục.

Giới hạn 2: Ước lượng điểm (Point Estimate)

Grid Search chỉ cho một câu trả lời: "điểm tối ưu có J=0.74." Nhưng các tham số lân cận có thể cũng có J tương đương. Nếu T(Discovery)=0.22 cho J=0.74 và 0.21 cho J=0.73, sự khác biệt có ý nghĩa thống kê không?

Giải pháp của Auto-Tuner: MCMC khám phá toàn bộ phân phối xác suất quanh điểm tối ưu, cung cấp ước lượng khoảng: "Bất kỳ đâu trong 0.19~0.25 đều an toàn với 95% xác suất."

Đây là lý do Auto-Tuner không dừng ở Grid Search mà tiến đến MCMC Ensemble Sampling.

8. Kịch bản kinh doanh: Before/After

Quay lại trường hợp của Phó Tổng Giám đốc Kinh doanh trong BA024.

Before (Cấu hình thủ công)

Youden's J với cấu hình này = 0.52. Phân loại đúng 52/100 deal.

After (Auto-Tuner Grid Search)

Youden's J với cấu hình này = 0.74. Cải thiện 42%.

Sự khác biệt thực chất

Trong 106 giao dịch lịch sử, 11 deal là FP (False Positive) dưới cấu hình Before — engine nói "sẽ thắng" nhưng thua — trong đó 8 deal được phân loại lại chính xác là "có rủi ro" dưới cấu hình After.

Điều này có nghĩa: nguồn lực sales đầu tư vào 8 deal đó (trung bình 3 tháng × 2 người/deal) sẽ không bị lãng phí. Chúng sẽ được tái phân bổ cho các deal thực sự có khả năng thắng cao hơn.

Tổng kết

Grid Search và Youden's J tạo thành trụ cột đầu tiên của Auto-Tuner. Tóm gọn vai trò của bước này trong một câu:

"Thử mọi tổ hợp tham số khả thi, và tìm ra điểm cân bằng tối ưu bằng toán học — nơi 'deal thắng không bị bỏ lỡ VÀ deal thua không bị tạo kỳ vọng hão.'"

Nhưng Grid Search chỉ cung cấp ước lượng điểm: "ngọn đồi này cao nhất." Bài tiếp theo sẽ khám phá cách MCMC Ensemble Sampling tạo ra ước lượng khoảng — "và 256 nhà thám hiểm đã đồng thuận rằng chiều cao này chính xác," và cách 5-Fold Cross-Validation kiểm tra "liệu kết quả này có còn hiệu lực trong tương lai."

📡 Tập tiếp theo

BA026. Sự đồng thuận của các hạt — Toán học MCMC Ensemble và Cross-Validation

Tại sao đúng 256 Walker? R̂ convergence diagnostics bảo đảm điều gì? HDI 95% khác với "khoảng tin cậy" thông thường như thế nào? Và tại sao 5-Fold Cross-Validation là phương pháp tốt nhất để phát hiện "sinh viên học thuộc đáp án"? Giải phẫu trụ cột thứ hai và thứ ba của Auto-Tuner.