22 / A/B TEST

A/Bテスト有意差計算機

コントロール・テストのCVRを比較し、統計的有意差をZ値で判定します

コントロール(A)

テスト(B)

有意差判定
コントロールCVR
テストCVR
改善率
Z値

使い方

  1. 1コントロール(A案)の訪問者数とCV数を入力してください。
  2. 2テスト(B案)の訪問者数とCV数を入力してください。
  3. 3「計算する」をタップすると有意差判定結果が表示されます。
  4. 4Z値が1.96以上で95%有意、2.576以上で99%有意と判定されます。

計算式・考え方

Formula
コントロールCVR = コントロールCV ÷ コントロール訪問者
テストCVR = テストCV ÷ テスト訪問者
改善率 = (テストCVR − コントロールCVR)÷ コントロールCVR × 100
Z値 = (テストCVR − コントロールCVR)÷ √(p×(1-p)×(1/n1+1/n2))
※ p = 合算CVR、n1・n2 = 各訪問者数

|Z値|≥1.96で95%信頼水準(p<0.05)、|Z値|≥2.576で99%信頼水準(p<0.01)での有意差ありと判定します。有意差ありの場合、B案の優位性は偶然でないと言えます。

よくある質問

AとBの差異が偶然でなく意味のある差である確率が十分に高い状態を指します。一般的に95%以上の信頼水準(p値0.05以下)で有意差ありと判断します。
Z値(Z統計量)は、2つのコンバージョン率の差が統計的にどれほど大きいかを示す値です。|Z値|≥1.96で95%信頼水準、|Z値|≥2.576で99%信頼水準での有意差ありと判定します。
一般的に各バリアントで最低1,000〜5,000のセッションが必要です。検出したい改善率が小さいほど、またCVRが低いほど大きなサンプルが必要になります。
有意差なしはテスト失敗ではありません。サンプル数が不足している場合は測定を継続し、一定期間後も有意差が出ない場合は仮説を見直して新たなテストを設計することをお勧めします。
改善率はテスト群のCVRがコントロール群に対して何%向上したかを示す数値です。有意差はその差が統計的に信頼できるかどうかの判定で、改善率が高くても有意差がなければ偶然の可能性があります。

関連ツール