TAMKO
計測と評価

Google広告のABテストでは、変更する対象に合わせて種類を選び、各群のコンバージョン数から検出できる差の大きさを見積もって期間を決めたうえで、スコアカードの信頼区間で結果を判定する

Google広告のテスト機能で入札戦略の変更を検証し、結果の画面(スコアカード)にコンバージョンの「+14%」が表示されても、その値をそのまま変更の効果と判断することはできません。差の割合は推定値であり、コンバージョン数が少ない場合は、偶然による変動の範囲に収まることがあります。

例として、TAMKOが提供するGoogle広告アカウント診断の報告書サンプル(以下「診断サンプル」)で用いている架空の会社、B社(アウトドア用品のEC事業者)を取り上げます。B社の9月の「検索_商品の語」キャンペーンは、費用が40,000円、購入による売上が150,000円です(診断サンプルの値)。B社の例では、コンバージョンを「購入」と表記します。このキャンペーンの購入が月15件の場合(説明用の架空の数値)、トラフィックを50%ずつに分割して4週間テストすると、各群の件数は約7件にとどまり、スコアカードに+14%の差が表示されても、その差を変更の効果とは判断できません。この試算と、Google 広告 ヘルプに記載のない判断の基準は、本記事によるものです。

本記事では、Google広告の[テスト]ページで行うABテストについて、仕組みと種類、トラフィックの分割方法、期間中のコンバージョン数から検出できる差の大きさを見積もる方法、スコアカードの信頼区間の読み方、テストの実施中の変更と適用を、Google 広告 ヘルプの記載に沿って解説します。

想定する読者は、Google広告を自社で運用している方と、運用を外部に委託して、配信の方針を社内で決定している方です。Google広告のABテストで担当者が判断に迷いやすいのは、次の3つの場面です。

TAMKOはGoogle広告アカウント診断を提供しています。以下では、TAMKOが診断で確認している管理画面の箇所を中心に、テストの計画から結果の判定までを解説します。

【結論】Google広告のABテストでは、種類と分割方法を選び、各群のコンバージョン数から検出できる差を見積もって期間を決め、信頼区間で結果を判定する

Google広告のABテストは、[テスト]ページの機能で、同じ期間のトラフィックと予算を、変更を加えない側(対照群)と変更を加えた側(介入群)に分割して行います。変更する対象に合わせて種類と分割方法を選び、期間中に各群で得られるコンバージョン数から、検出できる差の大きさを見積もって期間を決めてから、テストを開始します。結果は、スコアカードの差の割合ではなく信頼区間で判定し、95%の信頼区間の下限が0%を上回る場合に限り、介入群の変更を適用します。

Google広告のABテストを計画し、結果を判定する4つの手順:種類の選択、分割方法と割合の決定、各群のコンバージョン数に基づく検出できる差の大きさと期間の見積もり、スコアカードの信頼区間による判定
手順3の見積もりは本記事による近似の目安で、Google広告による信頼区間の算出方法とは異なる。手順4の95%は、ヘルプ「テストで使用される統計手法」で有意性の判定に用いるとされている水準である。

Google広告のテスト機能の仕組み:同じ期間のトラフィックを対照群と介入群に振り分け、両群の成果を比較する

よくある場面

入札戦略を変更した月と前月の購入件数の比較だけで、担当者が変更の効果を判断している。

変更前後の比較では、季節・セール・競合の動向など、同じ時期に起きた外部要因の影響と変更の効果を区別できません。テスト機能は、同じ期間のトラフィックを対照群と介入群に無作為に振り分けます(振り分けの単位は分割方法によって異なります)。期間による外部要因の影響が両群に等しく及ぶため、両群の差を変更の効果とみなすことができます。

Google広告のABテストで使うテスト機能と変更前後の比較の違いを示した図:前後の比較の差には季節や競合の変化が含まれ、テスト機能は同じ期間のトラフィックを対照群と介入群に振り分けて両群を比較する
Google 広告 ヘルプ「カスタムテストについて」「テストで使用される統計手法」の記載をもとに作成した。図中の例は説明用の架空のものである。

テストは、[キャンペーン]メニューの[テスト](旧称:下書きとテスト)から作成します。カスタムテストでは、元のキャンペーンの複製として作成されるテスト キャンペーンについて、実施期間と、元のキャンペーンから割り当てるトラフィックと予算の割合を指定します。

Microsoft広告にも同じ目的のテスト機能がありますが、画面の名称やテストの作成条件が異なるため、別の記事で解説しています(関連:Microsoft広告の入札戦略|自動入札への切り替えの条件とテスト機能での比較方法)。

種類の選び方:変更する対象に合わせて、広告バリエーション・カスタムテスト・AI 最大化設定テスト・動画テストから選ぶ

よくある場面

複数のキャンペーンに共通するレスポンシブ検索広告の見出しの変更について、担当者がキャンペーンごとのカスタムテストでの検証を検討している。

レスポンシブ検索広告の広告文(見出し・説明文)や最終ページ URL など、広告の変更は、複数のキャンペーンやアカウント全体を対象にできる広告バリエーションで検証します。入札戦略・キーワードのマッチタイプ・オーディエンス・広告グループなど、キャンペーンの設定の変更には、カスタムテストを使用します。ランディング ページの変更は、広告バリエーション(最終ページ URL の更新)とカスタムテストのどちらでも検証できます。ショッピングとアプリのキャンペーンでは、カスタムテストを作成できません。

Google広告のABテストで使うテスト機能の種類を、検証する変更の対象に応じて選ぶ図:広告文と最終ページ URL など広告の変更は広告バリエーション、入札戦略などキャンペーンの設定の変更はカスタムテスト、AI 最大化設定は AI 最大化設定テスト、動画広告は動画テスト
Google 広告 ヘルプ「AI 最大化設定テストについて」「広告バリエーションをセットアップする」「[テスト] ページ(旧称: 下書きとテスト)について」の記載をもとに作成した。ランディング ページの変更は、広告バリエーション(最終ページ URL の更新)とカスタムテストのどちらでも検証できる。デマンド ジェネレーションにはカスタムテストのほかに専用のABテストがあり、P-MAX には専用のテストがある。

ヘルプによると、広告バリエーションは、レスポンシブ検索広告の変更や、複数のキャンペーンに共通する1つの変更の検証に使用します。カスタムテストは、入札戦略(ヘルプでは「スマート自動入札」)・キーワードのマッチタイプ・ランディング ページ・オーディエンス・広告グループのテストに使用します。広告文の変更でも、キャンペーン全体ではなく特定の広告グループだけを対象にするときは、カスタムテストを使用します。

「カスタムテストについて」では、対象を検索・ディスプレイ・デマンド ジェネレーション・動画の各キャンペーンとし、アプリとショッピングのキャンペーンはカスタムテストの対象外と記載されています。利用できる種類は記事によって記載が一部異なるため、テストの作成画面で確認します。アプリ キャンペーンにはアプリアセットのテスト、通常のショッピング キャンペーンには P-MAX キャンペーンとの比較テストがあります。

元のキャンペーンとして選べるのは、ステータスが有効で、個別の1日の予算(共有予算ではない)と、標準の入札戦略(ポートフォリオ入札戦略ではない)を使用しているキャンペーンです。サポートが終了したテキスト広告と拡張テキスト広告を含むキャンペーンでは、テストを作成できません。

トラフィックの分割方法:Cookie ベースと検索ベースの違いと、割合を50%にしても費用が均等になるとは限らない理由

よくある場面

分割の割合を50%に設定したテストで、テスト キャンペーン(介入群)の費用が元のキャンペーン(対照群)より多いことを、担当者が設定の誤りと判断している。

検索キャンペーンのカスタムテストでは、ユーザーごとにどちらか一方の群の広告だけを表示する Cookie ベース(推奨)と、検索ごとにその検索を対照群か介入群に割り当てる検索ベースのいずれかを選びます。分割の割合は50%が推奨されていますが、この割合はオークションへの参加機会を等しくするもので、インプレッション数や費用は、両群の入札単価やアセットの違いによって異なることがあります。

Google広告のABテストで、トラフィックを分割する Cookie ベースと検索ベースの違いを示した図:Cookie ベースはユーザーごとに一方の群の広告だけを表示し、検索ベースは検索ごとに割り当てるため、1人のユーザーに両群の広告が表示されることがある
Google 広告 ヘルプ「カスタムテストを設定する」「テストで使用される統計手法」「広告バリエーションをセットアップする」の記載をもとに作成した。

ヘルプでは、元のキャンペーンとテスト キャンペーンを最も効果的に比較できるよう、分割の割合を50%にすることが推奨されています。この割合はテストの作成後に変更できないため、見直す際は新しいテストを作成します。Cookie ベースでオーディエンス リストを使用するときは、リストに10,000人以上のユーザーが登録されていることが推奨されており、それより少ない場合は結果の精度が低下する可能性があります。

ヘルプ「テストで使用される統計手法」によると、分割の割合は、ターゲティングが反映される前の段階で、対象となるオークションに対して適用され、50%ずつの場合は両群に同じ数のオークションが割り当てられます。ただし、広告枠ごとにオークションが行われ、両群の入札単価やアセットが異なるとオークションの落札数が変わるため、一方の群でインプレッション数が多くなることがあります。どちらかの群が先に1日の予算の上限に達すると、その群のその日の広告配信は停止されます。両群の費用の差だけを根拠に、設定の誤りと判断しないようにします。

ABテストの期間とコンバージョン数の目安:期間中に各群で得られる件数から、検出できる差の大きさを見積もる

よくある場面

テストの開始から1週間の時点で、介入群のコンバージョン単価が改善していないことを理由に、担当者がテストの終了を検討している。

テストの期間は、介入群の成果が安定するまでの7〜14日と、クリックからコンバージョンまでの日数を含めて設定します。テストの開始前に、各群で得られるコンバージョン数を見積もり、その件数で検出できる差の大きさが、変更によって生じると想定する差より小さいかを確認します。小さくない場合は、期間・成功指標・対象のキャンペーンを見直します。

Google広告のABテストで、各群のコンバージョン数から95%の信頼区間の幅の目安を求める式:1.96×√(2÷各群のコンバージョン数)。各群100件の場合は約±28%
本記事による目安である。コンバージョンが互いに独立して発生すると仮定し、両群の件数の比(差の割合)について信頼区間を近似したもので、Google広告の算出方法(ジャックナイフ法)とは異なる。実際の区間は、日ごとの変動などにより、これより広くなる場合がある。80%の信頼区間を求める場合は、1.96の代わりに1.28を用いる。

ヘルプによると、介入群の成果が安定するまで7〜14日かかり、入札戦略の学習期間は通常7日間です。[結果]列に[最も掲載結果の高い組み合わせは特定されていません、または処理中]と表示されている場合は、2〜3週間のテストが推奨されています。ショッピング キャンペーンと P-MAX キャンペーンのテストに関するヘルプには、クリックからコンバージョンまでの日数が長い場合は少なくとも4〜6週間、コンバージョン サイクル(クリックからコンバージョンまでの日数)1〜2回分の期間を確保すること、最初の7日間のデータを結果から除くことも記載されています。カスタムテストなどでは、テストの作成時に設定する終了日を、開始日の2〜12週間後の範囲で設定します(実施中に延長できます)。

コンバージョン数については、ヘルプ「カスタムテストについて」に、信頼性の高い結果を得るための最小要件の例として「1日あたりのコンバージョン数が100以上」と記載されています。デマンド ジェネレーションのABテストでは、コンバージョン ベースの入札戦略の場合、各群あたり50以上のコンバージョンが必要とされています。特にこれらの条件を満たさないキャンペーンでは、テストの開始前に、図の式(1.96×√(2÷各群のコンバージョン数))で95%の信頼区間の幅の目安(区間の中心から上限・下限までの大きさ)を求め、検出できる差の大きさを見積もります。件数ごとの目安は次の表のとおりです。差の割合の大きさ(プラス・マイナスを除いた値)が幅の目安を上回らない限り、95%の信頼区間には0%が含まれます。

各群のコンバージョン数95%の信頼区間の幅の目安(区間の中心から上限・下限まで)
7件±105%
25件±55%
100件±28%
400件±14%
800件±10%
1.96×√(2÷各群のコンバージョン数)で求めた本記事の目安であり、Google広告による信頼区間の算出方法とは異なる。

B社の「検索_商品の語」の購入が月15件の場合(説明用の架空の数値)、トラフィックを50%ずつに分割して4週間テストすると、各群の購入は約7件(15件×28日÷30日÷2)で、幅の目安は±105%です。入札戦略の変更による差を10〜20%程度と想定する場合、この件数では、その差が変更によるものかを判定できません。期間を12週間に延ばしても各群は約21件で、幅の目安は±60%です。このようなキャンペーンでは、検証する変更を、購入より件数の多い指標(クリック数など)を成功指標にできるものに絞るか、検証する変更が広告文であれば、広告バリエーションで複数のキャンペーンを対象にして件数を確保するなどの方法を検討します。

スコアカードの読み方:差の割合・信頼区間・青いアスタリスクでテスト結果を判定する

よくある場面

スコアカードの[コンバージョン]の「+14%」だけを根拠に、担当者がテストを元のキャンペーンへ適用することを検討している。

スコアカードの各指標の2行目には、元のキャンペーンと比較した差の割合とその信頼区間が表示されます。差の割合は推定値のため、区間に0%が含まれるかどうかで結果を判定します。統計的に有意な結果には青いアスタリスクが付きます。区間の既定は80%のため、判定の際は95%に切り替えて確認し、区間の下限が0%を上回る場合に適用を検討します。

Google広告のABテストの結果を、スコアカードの95%の信頼区間で判定する図:区間の下限が0%を上回れば介入群が優れていると判断し、上限が0%を下回れば対照群が優れていると判断し、区間に0%が含まれれば差があるとは判断しない
判断の基準は本記事の考え方による。Google 広告 ヘルプ「テストの結果をモニタリングする」「テストで使用される統計手法」の記載をもとに作成した。区間の例は説明用の架空の数値である。コンバージョン単価のように値が低いほど成果がよい指標では、区間の上限が0%を下回る場合に介入群が優れていると判断する。

スコアカードは、[テスト]ページでテストを選択すると表示されます。既定の指標は、[費用][インプレッション数][クリック数][クリック率][すべてのコンバージョン]の5つで、指標名の横のメニューから[コンバージョン]や[コンバージョン単価]などに切り替えられます。[すべてのコンバージョン]には、入札に使用しないサブ(副次)のコンバージョン アクションのデータも含まれるため、購入などメイン(主要)のコンバージョンで判定する場合は[コンバージョン]に切り替えます(関連:Google広告のコンバージョン主要と副次の違い|購入以外が混ざると何が起きるか)。

各指標の1行目には、テスト キャンペーンの値が表示されます。ヘルプの例では、[クリック数]の2行目に「+10%」と表示される場合、テスト キャンペーンのクリック数は元のキャンペーンより10%多いと推定されます。信頼区間[+8%、+12%]は、差が8〜12%の範囲にある可能性を示します。データが不足している間は「--」が表示されます。区間の水準は、既定の80%から95%などに変更できます。

ヘルプ「テストで使用される統計手法」によると、Google広告は、対照群と介入群のデータをそれぞれ20個のバケットに分け、ジャックナイフ法(リサンプリングの手法)で指標の差の割合のばらつきを計算したうえで、95%の信頼区間を使用した両側検定で統計的有意性を判定しています。80%の信頼区間は95%より狭いため、80%では0%を含まない結果でも、95%では含む場合があります。

次の表は、B社の「検索_商品の語」で入札戦略の変更をトラフィック50%ずつ・4週間テストした場合のスコアカードの例です(説明用の架空の数値)。クリック数は95%の信頼区間にも0%が含まれないため、偶然による増加である可能性は低いと判断できます。一方、コンバージョン(購入)は差の割合が+14%でも、区間が[−91%、+119%]と0%を含み、幅も大きいため、差があるとは判断しません。成功指標をコンバージョンにしている場合は、クリック数の区間ではなくコンバージョンの区間で判定するため、このテストの変更は適用しません。

指標差の割合80%の信頼区間(既定)95%の信頼区間判定
クリック数+15%[+7%、+23%][+2%、+28%]区間に0%を含まない
コンバージョン(購入)+14%[−54%、+82%][−91%、+119%]区間に0%を含む
数値は説明用に仮定したものである(B社は診断サンプルの架空の会社)。月のクリック数を1,000回、購入を15件とし、各群をそれぞれ約470回・約7件として、本記事の近似(80%は1.28、95%は1.96を用いる)で区間を求めた。

[すべてのテスト]の表の[結果]列には、[対照群キャンペーン][介入群キャンペーン][最も掲載結果の高い組み合わせは特定されていません、または処理中]のいずれかが表示されます(画面の表示名)。ヘルプでは、結果が統計的に有意にならない理由として、テストの期間の不足、キャンペーンのトラフィックの少なさ、トラフィックの過度に細かい分割、変更による有意な差がないことの4つが挙げられています。

テストの実施中の変更と適用:同期で反映される範囲と、自動適用の設定を確認する

よくある場面

テストの実施中に元のキャンペーンの広告文を編集すると、その変更がテスト キャンペーンの広告にも反映されることを、担当者が把握していない。

ディスプレイ キャンペーンと検索キャンペーンのカスタムテストでは、作成時に既定でオンになる[テストの同期]により、元のキャンペーンの変更がテスト キャンペーンにコピーされます。広告は両群で共有されるため、同期の設定にかかわらず、広告の編集は両群に反映されます。テストの終了後は、元のキャンペーンへの適用か、新しいキャンペーンへの変換(画面では[新しいキャンペーンに切り替える])を選びます。テスト キャンペーンの結果が元のキャンペーンより良好な場合にテストを自動で適用する設定(自動適用)は、利用できるテストでは既定で有効なため、テストの作成時に作成画面で確認します。

Google広告のABテストの終了後に、テストを元のキャンペーンに適用する場合と、新しいキャンペーンに変換する場合の違いを示した図
Google 広告 ヘルプ「カスタムテストを適用する」「カスタムテストを設定する」の記載をもとに作成した。どちらの場合も、元のキャンペーンとテスト キャンペーンそれぞれの掲載結果のデータはそのまま残る。

ヘルプによると、テストの同期は元のキャンペーンからテスト キャンペーンへの一方向にだけ機能し、反映には通常15分程度かかります。同期による変更は、現時点では変更履歴に反映されないと記載されています。同期はテストの作成時にオフにできますが、作成後は切り替えられず、オフにした場合は元のキャンペーンでの編集を手動でテスト キャンペーンに反映する必要があります。また、広告を一括アップロードした場合は、同期の設定にかかわらず、テスト キャンペーンと元のキャンペーンの両方が変更されます。

テストの実施中に元のキャンペーンやテスト キャンペーンの設定を変更すると、結果の分析が難しくなるほか、入札戦略などの変更では学習期間が始まるため、実施中の変更は控えるよう記載されています。

自動適用は、カスタムテスト・AI 最大化設定テスト・P-MAX のテストなど一部のテストで利用でき、既定で有効です。テスト キャンペーンの結果が元のキャンペーンより良好な場合、テスト キャンペーンが自動的に適用され、トラフィックの100%がテスト キャンペーンに移行されます。自動適用の有効・無効はテストの作成時に設定し、作成後に無効にする場合は[レポート]ページで操作します。95%の信頼区間で結果を判定してから適用する場合は、テストの作成時に自動適用を無効に設定します。

設定した終了日より前にテストを終えるには、終了日を変更するか、[編集]から[今すぐ終了]を選びます。終えたテストは再開できず、終了日も編集できません。

TAMKOのGoogle広告アカウント診断・お試し運用

テストの種類の選定と期間の見積もりや、スコアカードによる結果の判定に充てる時間を社内で確保できない場合は、TAMKOのGoogle広告アカウント診断を利用する方法もあります。

変更を判断する材料が必要か、テストの設定と結果の判定まで委託するかで、診断とお試し運用のいずれかを選ぶ

テストの種類の選定と期間の見積もり、結果の判定に充てる時間を社内で確保できない場合

  • 変更を検証する前に、キャンペーンごとの成果と、それにもとづく判断の材料が必要Google広告アカウント診断無料(毎月2社まで)
  • テストの設定と結果の判定まで委託するお試し運用1施策から、1か月・5万円(税別)
お試し運用は1か月で終了し、自動では更新されない。

アカウント診断の料金は無料です(毎月2社まで)。診断では、検索広告・P-MAX・YouTube・ディスプレイ・ショッピングまでキャンペーンの種類ごとに確認し、続けてよいか・やめるべきものはあるか・広告で伸ばせるかに根拠を添えて答えます。予算を決める方向けのエグゼクティブサマリー・運用する方向けの調査報告書・分析の明細(Excel)・オンラインの説明会1回をお渡しします。

テストの設定と結果の判定まで委託する場合は、お試し運用をご利用いただけます。Google広告を1施策から、1か月・5万円(税別)でお預かりします。期間は1か月で終了し、自動では続きません。

よくある質問(FAQ)

Q01ランディング ページのABテストはできますか?

できます。広告バリエーションの[URL の更新]で最終ページ URL を変更して検証するか、カスタムテストでテスト キャンペーンのランディング ページを変更して検証します。

ランディング ページの構成や文言を比較する場合は、2つのページを別の URL で用意し、それぞれを対照群と介入群の最終ページ URL に設定します。

Q02テストを実施すると、広告費は増えますか?

カスタムテストでは、1日の予算の合計は増えません。元のキャンペーンの予算をテスト キャンペーンと分け合うためです。

ただし、デマンド ジェネレーションのアセットのABテストでは、介入群のキャンペーンは対照群のキャンペーンの複製として作成され、1日の予算も同額になるため、両群の予算の合計は元の予算より多くなります。テストの種類ごとに、作成画面で予算を確認します。

Q03複数のテストを同時に実施できますか?

1つのキャンペーンで同時に実施できるテストは1件です。テストのスケジュールは最大5件まで設定できます。

ヘルプでは、複数のテストが互いに影響して結果の信頼性が低下するおそれがあるため、1つずつ順番に実施することが推奨されています。

Q04A/A テストとは何ですか?

2つの群の設定や条件を完全に同一にして行うABテストです。

ヘルプ「テストで使用される統計手法」によると、A/A テストでクリック数・インプレッション数・クリック率・クリック単価に統計的に有意な差が生じなければ、テスト機能が正しく動作していると判断できます。

Q05広告を停止した場合の成果の変化は、テスト機能で確認できますか?

カスタムテストは、この用途を想定した機能ではありません。カスタムテストは、設定を変更したテスト キャンペーンの成果を、元のキャンペーンの成果と比較する機能です。

指名キーワードの広告を停止した場合の影響を確認する方法は、別の記事で解説しています(関連:指名キーワードの広告は必要か?停止して確認する前に見る件数とP-MAXの影響)。

Google広告のABテストでは、各群のコンバージョン数から検出できる差を見積もり、信頼区間で結果を判定する|まとめ

Google広告のテスト機能では、同じ期間のトラフィックを対照群と介入群に振り分けるため、期間による変化の影響が両群に等しく及んだ状態で比較できます。テストの開始前に、各群のコンバージョン数から検出できる差の大きさを見積もって期間を決めます。結果は、スコアカードの信頼区間を95%に切り替えて判定し、区間の下限が0%を上回ることを確認してから適用します。

この記事のポイント

  • テスト機能では、同じ期間のトラフィックを対照群と介入群に振り分けるため、季節や競合の変化の影響が両群に等しく及んだ状態で比較できる。
  • 広告の変更(広告文・最終ページ URL)には広告バリエーション、入札戦略などキャンペーンの設定の変更にはカスタムテストを使用し、分割は Cookie ベース・50%を基本とする。
  • 50%で分割しても、インプレッション数と費用は均等になるとは限らない。
  • 介入群の成果が安定するまで7〜14日かかる。
  • テストの開始前に、各群のコンバージョン数から95%の信頼区間の幅の目安を求める(各群100件で約±28%)。
  • スコアカードの信頼区間の既定は80%のため、95%に切り替えて区間の下限が0%を上回るかを確認し、あわせて自動適用の設定を点検する。