Published on

BA04-5. [シリーズ4編/最終] ベイズA/Bテスト — どの営業戦略がより効果的か

BA04-5. [シリーズ4編/最終] ベイズA/Bテスト — どの営業戦略がより効果的か

ベイズA/Bテスト — どの営業戦略がより効果的か

"実験しない営業は成長しない。しかし、実験の結果を確率として読み取れなければ、学びもない。"


序論: 営業においてA/Bテストは可能か?

A/Bテストは主にウェブサイトのボタンの色やメールの件名を最適化するために使用される。しかし、営業活動においても「どちらの方法がより効果的か?」という質問は絶えず存在する:

質問戦略 A戦略 B
最初のアプローチメールでの提案書電話でのコールドコール
デモ方式技術中心のデモビジネス価値中心のデモ
価格提案割引提案 (10% off)価値バンドル提案
フォローアップ3日間隔7日間隔
資料の形態詳細な技術文書 (30p)核心の要約 (3p)

問題はサンプルサイズである。ウェブサイトのA/Bテストは数千人の訪問者で迅速に結論を出すことができるが、B2B営業は四半期あたり数十件に過ぎない。従来の頻度主義(Frequentist)A/Bテストは「まだ統計的に有意ではない(p > 0.05)」を繰り返すだけだ。

ベイズA/Bテストはこの限界を突破する。少ないサンプルでも「AがBよりも優れている確率が73%」という実用的な回答を提供する。


Part 1: 頻度主義 vs ベイズ主義 — 何が違うのか

1.1 頻度主義的アプローチ

戦略Aで20件試行 → 8件成功(コンバージョン率 40%) 戦略Bで20件試行 → 12件成功(コンバージョン率 60%)

頻度主義的検定:

z=pBpAp^(1p^)(1nA+1nB)z = \frac{p_B - p_A}{\sqrt{\hat{p}(1-\hat{p})(\frac{1}{n_A} + \frac{1}{n_B})}}

ここで p^=8+1240=0.50\hat{p} = \frac{8 + 12}{40} = 0.50

z=0.600.400.50×0.50×(0.05+0.05)=0.200.025=0.200.158=1.265z = \frac{0.60 - 0.40}{\sqrt{0.50 \times 0.50 \times (0.05 + 0.05)}} = \frac{0.20}{\sqrt{0.025}} = \frac{0.20}{0.158} = 1.265

p-value = 0.103. 有意水準0.05において「統計的に有意ではない」。

結論:「まだ分からないので、もっとデータを集めろ。」

B2B営業でさらに40件集めるには3〜6ヶ月かかる。その間、非効率的な戦略を使い続けなければならない。

1.2 ベイズ的アプローチ

同じデータをベイズ統計で分析する。

事前分布: 無情報事前分布 β(1, 1)

事後分布:

戦略 A:Beta(1+8,1+12)=Beta(9,13)\text{戦略 A}: \text{Beta}(1 + 8, 1 + 12) = \text{Beta}(9, 13) 戦略 B:Beta(1+12,1+8)=Beta(13,9)\text{戦略 B}: \text{Beta}(1 + 12, 1 + 8) = \text{Beta}(13, 9)

それぞれの期待値:

E[pA]=99+13=0.409(40.9%)E[p_A] = \frac{9}{9 + 13} = 0.409 \quad (40.9\%) E[pB]=1313+9=0.591(59.1%)E[p_B] = \frac{13}{13 + 9} = 0.591 \quad (59.1\%) 核心となる質問: 「BがAよりも優れている確率は?」

モンテカルロ・シミュレーション(10,000回):

  • Beta(13, 9)から10,000個のサンプルを抽出 → pBp_B サンプル
  • Beta(9, 13)から10,000個のサンプルを抽出 → pAp_A サンプル
  • pB>pAp_B > p_A となる割合を計算
P(B>A)=89.3%P(B > A) = \mathbf{89.3\%}

結論: 「戦略Bが戦略Aよりも優れている確率が89.3%である。」

頻度主義は「分からない」と言ったが、ベイズ主義は「89.3%の確率でBが良い」と答えた。そして、この回答はデータが追加されるほどより精巧になる。


Part 2: 営業タッチポイントの最適化

2.1 テスト可能な営業変数

営業プロセスのすべての段階でA/Bテストが可能である:

Discovery 段階:
変数A案B案
最初のアプローチ方式LinkedInメッセージメール
初期資料会社紹介書 (15p)成功事例1ページ
ミーティング提案「30分のコーヒーチャット」「60分のソリューションデモ」
Proposal 段階:
変数A案B案
見積もり構造単一の総額モジュール別の分離
割引戦略年間契約10%割引最初の3ヶ月無料
導入事例同じ産業の事例同じ規模の事例

2.2 実践例: 「3日後フォローアップ vs 7日後フォローアップ」

仮説: 初回ミーティング後のフォローアップ間隔がコンバージョン率に影響を与える。

設計:

  • 戦略 A: 3日後にフォローアップの電話
  • 戦略 B: 7日後にフォローアップのメール

8週間後の結果:

適用件数2次ミーティング進行コンバージョン率
3日後の電話 (A)15件9件60.0%
7日後のメール (B)18件7件38.9%

ベイズ分析:

pABeta(10,7),pBBeta(8,12)p_A \sim \text{Beta}(10, 7), \quad p_B \sim \text{Beta}(8, 12) P(A>B)=91.7%P(A > B) = \mathbf{91.7\%}

結論: 「3日後の電話フォローアップが7日後のメールよりも優れている確率91.7%。直ちにチーム全体に『3日後電話フォローアップ』の標準化を推奨。」

2.3 期待リフト(Expected Lift)の計算

戦略AがBよりもどれくらい優れているかも計算できる:

E[Lift]=E[pApBpB]E[\text{Lift}] = E\left[\frac{p_A - p_B}{p_B}\right]

モンテカルロ・シミュレーションにより:

E[Lift]=+54.2%E[\text{Lift}] = +54.2\%

3日後の電話フォローアップは、7日後のメールと比較してコンバージョン率を約54%向上させる。


Part 3: トンプソン抽出(Thompson Sampling) — 実験しながら同時に最適化する

3.1 探索(Explore)vs 活用(Exploit)のジレンマ

A/Bテストの根本的な問題:実験期間中、劣った戦略を適用された顧客は損害を被る。B2B営業において、これは「実験のために最適でないアプローチで顧客に接触する」ことを意味する。

トンプソン抽出は、このジレンマを優雅に解決する。

3.2 アルゴリズム

各戦略 kk に対して事後分布 Beta(αk,βk)\text{Beta}(\alpha_k, \beta_k) を維持する。

新しい顧客が入ってくるたびに:

  1. 各戦略の事後分布からランダムなサンプルを一つ抽出する:θkBeta(αk,βk)\theta_k \sim \text{Beta}(\alpha_k, \beta_k)
  2. 最も高いサンプル値を持つ戦略を選択する:k=argmaxkθkk^* = \arg\max_k \theta_k
  3. 選択された戦略を適用し、結果(成功/失敗)を観察する
  4. 該当する戦略の αk\alpha_k または βk\beta_k を更新する

このアルゴリズムの核心:成果の良い戦略は自然とより頻繁に選択され、成果の悪い戦略は自然と淘汰される。しかし、完全には放棄せず、後で逆転する機会も残しておく。

3.3 実践適用シナリオ

3つのデモ戦略の比較:
ラウンド技術デモ (A)ビジネスデモ (B)ハイブリッド (C)
初期Beta(1,1)Beta(1,1)Beta(1,1)
5ラウンド後Beta(3,3)Beta(4,2)Beta(2,4)
10ラウンド後Beta(5,6)Beta(8,3)Beta(3,8)
20ラウンド後Beta(8,13)Beta(15,6)Beta(5,16)

10ラウンド後のトンプソン抽出の選択確率:

P(A 選択)15%,P(B 選択)80%,P(C 選択)5%P(\text{A 選択}) \approx 15\%, \quad P(\text{B 選択}) \approx 80\%, \quad P(\text{C 選択}) \approx 5\%

ビジネスデモ(B)が自然に80%の比重で選択される。技術デモ(A)は15%でまだ機会が残っており、ハイブリッド(C)は事実上淘汰される。

20ラウンド後:

P(B 選択)95%P(\text{B 選択}) \approx 95\%

ビジネスインパクト: 従来のA/Bテストは20件中約7件を非効率的な戦略に「浪費」する。トンプソン抽出は5ラウンド(5件)で最適戦略へと傾き始め、浪費を最小限に抑えながら学習する。


Part 4: 組織学習システムへの進化

4.1 個人の実験が組織の知識になる

営業担当者Aが「3日後電話フォローアップ」が効果的であることを発見すると、そのデータは組織全体の事前分布(Prior)に反映される。

次の四半期、新人営業担当者Bが同じ実験を始める時、事前分布は Beta(1, 1) ではなく Beta(10, 7) — つまり、Aの経験を受け継いだ状態でスタートする。

個人の事後分布組織の事前分布次の個人の出発点\text{個人の事後分布} \rightarrow \text{組織の事前分布} \rightarrow \text{次の個人の出発点}

これが組織学習のベイズ循環である。各営業担当者の経験が消滅することなく、αとβという数字の中に永遠に蓄積される。

4.2 戦略ライブラリ

時間が経つにつれ、組織は次のようなベイズ戦略ライブラリを持つことになる:

戦略適用件数成功件数事後分布P(成功)信頼度
3日後電話フォローアップ45件28件Beta(29, 18)61.7%🌳
LinkedInでの最初のアプローチ62件31件Beta(32, 32)50.0%🌳
ビジネスデモ38件25件Beta(26, 14)65.0%🌳
成功事例1ページ55件35件Beta(36, 21)63.2%🌳
モジュール別の見積もり28件19件Beta(20, 10)66.7%🌿

活用: 新人が「デモはどのようにすれば良いでしょうか?」と尋ねた時、ライブラリからビジネスデモ(P=65.0%, 🌳 Mature)を推奨する。これは先輩の勘ではなく、38件の実践データが裏付ける推奨である。


Part 5: 実践設計ガイド

5.1 営業A/Bテストのチェックリスト

  1. 変数は一つだけ変更する: フォローアップ間隔をテストしながら、同時に資料の形態も変えてはいけない。
  2. 最小サンプルサイズ: ベイズ推定は10件から意味のあるシグナルを感知するが、20件以上であれば信頼度が高まる。
  3. ランダム割り当て: 顧客をA/Bグループにランダムに割り当てる。「簡単な顧客はB、難しい顧客はA」は禁止。
  4. 同一期間に実行: Aを1月に、Bを2月に実行すると、季節要因が混ざってしまう。
  5. 結果測定基準の事前定義: 「成功」が2次ミーティングなのか、見積もり依頼なのか、契約なのかをあらかじめ決定しておく。

5.2 意思決定の基準

P(A>B)90%Aを標準戦略として採用P(A > B) \geq 90\% \rightarrow \text{Aを標準戦略として採用} 75%P(A>B)<90%追加データの収集(トンプソン抽出を継続)75\% \leq P(A > B) < 90\% \rightarrow \text{追加データの収集(トンプソン抽出を継続)} P(A>B)<75%まだ判断不可、実験を継続P(A > B) < 75\% \rightarrow \text{まだ判断不可、実験を継続}

シリーズの終わりに: ベイズ推定が変える営業の未来

4編にわたるこのシリーズで我々が扱ったことを整理する:

主題核心となる質問核心ツール
1編エンジンの原理「この案件の成功確率は?」ベータ分布、P(Win)、信用区間
2編ポートフォリオ「パイプライン全体の期待売上は?」加重パイプライン、EVV、カバレッジ
3編競合分析「競合が来たら確率はどう変わるか?」CIF、条件付き確率、Win Factor
4編戦略最適化「どの営業手法がより効果的か?」ベイズA/B、トンプソン抽出

この4編を貫く一つの原則がある:

「不確実性は排除するものではなく、管理するものである。」

すべての営業には不確実性が存在する。顧客の心、競合の動き、市場の変化 — これらを完全に予測することは不可能である。しかし、ベイズ・フレームワークはこの不確実性を定量化し、追跡し、最小化する体系的な方法を提供する。

EXAWinのベイズ・エンジンは単なるツールではない。これは営業組織の思考方式を変えるパラダイムである。

直感から証拠へ。 感覚から確率へ。 経験からデータへ。

そして、その変化の始まりは、次のミーティング後にEXAWinに一つのシグナルを記録することから出発する。


著者: EXA Bayesian Research Lab
発行: EXAWin Technical Series — Vol. 4 (最終編)
キーワード: #BayesianABTest #ThompsonSampling #SalesOptimization #OrganizationalLearning #EXAWin

Bayesian EXAWin-Rate Forecaster

交渉のあらゆる微細な信号をベイズ更新でリアルタイム分析し、営業の成功確率を精緻に予測。EXAWinにより、直感の営業이 완벽한 데이터 사이언스へと進化します。

Comments0

Deep Dive

More in Bayesian

Explore Archive
ラインのPQC事案:不良を断定せず、証拠で管理する方法
Bayesian
Exa Omni+
EXA Intel

ラインのPQC事案:不良を断定せず、証拠で管理する方法

主力製造ラインを基準プロセスとして、ライン巡回PQCで発見されたNGがLOT、ライン、位置、不良類型、処置状態、供給品リスク、納期影響へ接続されていく過程を扱うSCMビジネスシナリオです。紙とExcel中心の品質記録がExa Omni+の中で標準化され、反復する証拠がリスク判断を更新する仕組みを説明します。

ANALYSIS
一つのPOP入力が出荷までつながる瞬間:ライン実行統制の一日
Bayesian
Exa Omni+
EXA Intel

一つのPOP入力が出荷までつながる瞬間:ライン実行統制の一日

電気毛布生産ラインで、作業者のPOP実績入力がラインサイド在庫、WIP状態、WMS入出庫、生産リスク警報R/Y/G、日本本社の管制までつながっていく過程を扱うビジネスシナリオです。現場が複雑なアルゴリズムではなく、作業指示、実績、リスク信号を中心にExa Omni+を使用する姿を説明します。

ANALYSIS
1階入庫から外部完成品倉庫まで:在庫が会社資産として残る方式
Bayesian
Exa Omni+
EXA Intel

1階入庫から外部完成品倉庫まで:在庫が会社資産として残る方式

原材料の1階入庫から2階IQC検査、Keepingロケーション管理、Picking、工程投入、そして外部3PL完成品倉庫での保管まで続くリアルタイム入出庫同期シナリオです。その他払出、Scrap、返品、棚卸調整など、現場例外が全社在庫精度へ整合されていく過程を説明します。

ANALYSIS
BA04-5. [シリーズ4編/最終] ベイズA/Bテスト — どの営業戦略がより効果的か | EXA Enterprise