TAMKO
MMM技術・実装

MMMとインクリメンタリティテストはどう使い分ける?判断基準と組み合わせ方

「広告費に見合う売上が本当に立っているのか、因果関係で証明してほしい」——経営会議でそう求められたことはありませんか。あるいは、広告媒体の担当者からインクリメンタリティテストを提案されて、「いま検討しているMMM(マーケティングミックスモデリング)とどちらをやるべきなのか」と迷っている方もいるはずです。

MMMとインクリメンタリティテストは、どちらも「広告の本当の効果」を知るための手法です。ただし測っているものが違うため、どちらか一方が優れているという関係ではありません。そこでこの記事では、両者の違いと使い分けの判断基準、さらに両者を組み合わせて分析の精度を高める方法までを整理します。

統計の専門知識がなくても予算の意思決定に使えるレベルまで噛み砕きますので、マーケティング責任者や宣伝部の方はもちろん、分析の発注側になる経営層の方にも役立つはずです。実際にMMM分析を提供している立場から解説します。

【結論】全体の予算配分はMMM、個別施策の因果証明はインクリメンタリティテスト

MMMとインクリメンタリティテストの使い分けは、「何を知りたいか」で決まります。「テレビCM・Web広告・販促をまたいで、予算をどう配分すべきか」——全体を知りたいならMMM。「この広告は、本当に売上を増やしているのか」——個別施策を確かめたいならインクリメンタリティテスト。そして理想は、テストで得た確かな因果の証拠でMMMを補正する「併用」です。

両者の違いを6つの軸で整理すると、次のようになります。

MMMインクリメンタリティテスト
目的全施策の売上貢献を分解し、予算配分を決める特定施策の増分効果(因果)を証明する
検証の単位全チャネル(オフライン広告・季節性・価格も含む)原則1施策・1キャンペーン
答えられる質問「どこにいくら配分すべきか」「この施策は効いているのか」
必要なもの過去1〜2年程度の実績データ追加の広告費と実験期間(数週間〜2ヶ月)
期間データが揃っていれば分析期間のみ実験の設計〜検証まで1〜2ヶ月以上
結果の確からしさ統計モデルによる推定(仮定に依存)実験による因果の証明(最も強い証拠)

以下、それぞれの手法を順に見ていきます。

インクリメンタリティテストとは|広告の「増分効果」を実験で証明する方法

インクリメンタリティ(増分効果)とは、施策を実施した場合と実施しなかった場合を比べたときの成果の差分のことです。広告を見せるグループと見せないグループを作って比較する実験で、この増分を証明するのがインクリメンタリティテストです。

インクリメンタリティ(増分効果)とは何か

インクリメンタリティ(incrementality/増分効果)とは、ある施策を「実施した場合」と「実施しなかった場合」を比べたときの、成果の差分のことです。広告で言えば、「広告があったからこそ増えた売上・コンバージョン」を指します。

なぜこの考え方が必要なのでしょうか。広告の管理画面に表示されるコンバージョンの中には、広告がなくても買っていた人が含まれているからです。たとえば指名検索で出るリスティング広告は、クリックの多くがもともと購入意欲の高い人です。この分を差し引かずにROASを読むと、広告の貢献を過大評価し、誤った予算判断につながります。増分を指標として扱うときの計算式は、増分売上・増分ROASの記事で解説しています。

この「広告がなくても起きていた成果」を切り分ける唯一の確実な方法が、実験です。広告を見せるグループと見せないグループを作って比較する——健康分野の臨床試験と同じ発想を広告に持ち込んだものが、インクリメンタリティテストです。

主なテスト手法|コンバージョンリフト・ホールドアウトテスト

ユーザーを分割する方式の代表が、媒体が提供するリフトテスト機能です。

  • コンバージョンリフト:広告を配信するグループ(実験群)と配信しないグループ(対照群)にユーザーを分け、コンバージョン数の差分=リフトを測ります。GoogleとMetaがそれぞれ機能として提供しています
  • ホールドアウトテスト:Meta広告での呼び名で、配信対象の一部をあえて「除外(ホールドアウト)」して対照群にする方式です

媒体の機能を使うため設計の負担は小さい一方、その媒体の中の施策しか検証できず、一定規模のコンバージョン数と配信量がないと統計的に意味のある差が出ない、という制約があります。

参照

ジオリフトテスト|地域を分けて売上への効果を測る

ユーザー単位で出し分けができない施策——テレビCM、交通広告、チラシ、あるいはCookieに依存したくないWeb施策——には、地域(geo)を単位に分ける方法が使われます。これがジオリフトテスト(Geo Lift)です。

たとえば「関東では広告を出し、性質の近い関西では出さない」という設計にして、両地域の売上の差から増分効果を推定します。個人を追跡しないためプライバシー規制やCookie廃止の影響を受けず、媒体をまたいだ売上そのものへの効果を測れるのが強みです。Metaはこの分析のためのオープンソースツール「GeoLift」を公開しており、Google広告も地域ベースのインクリメンタリティテスト機能の改良を進めています。

なお、似た響きのブランドリフト調査は「認知や好意度がどれだけ上がったか」をアンケートで測る別の手法です。詳しくはブランドリフト調査の記事で解説しています。またアップリフトモデリングは「広告に反応しやすい人を予測して配信対象を絞る」ための機械学習手法で、効果検証のテストとは目的が異なります。混同しやすいので注意してください。

参照

MMMとインクリメンタリティテストの違い|測っているものが違う

MMMは過去データの統計的な分解=「観察」にもとづいて全施策の売上貢献を俯瞰する手法、インクリメンタリティテストは条件を統制した「実験」で1施策の因果を証明する手法です。例えるなら、MMMは航空写真、テストは顕微鏡です。

MMM:全施策の売上貢献を俯瞰し、予算配分を決める

MMM(マーケティングミックスモデリング)は、過去の売上データと各施策の投下量データを統計モデルにかけ、売上を「ベースライン+施策ごとの貢献」に分解する手法です。テレビCMもWeb広告も販促も、さらには季節性や価格改定の影響も、同じ土俵で比較できます。分解した結果から「どのチャネルからどのチャネルへ、いくら動かすと売上の試算がどう変わるか」というシミュレーションまでつなげられるのが最大の価値です。MMMの仕組みそのものはMMM(マーケティングミックスモデリング)とは?の記事で詳しく解説しています。

インクリメンタリティテスト:1施策の因果を厳密に証明する

一方のインクリメンタリティテストは、対象を1つの施策に絞る代わりに、実験によって因果関係そのものを証明します。MMMが過去データの統計的な分解=「観察」に基づく推定であるのに対し、テストは条件を統制した「実験」です。証拠としての強さでは、実験に勝るものはありません。

例えるなら、MMMは航空写真(地図)、インクリメンタリティテストは顕微鏡です。航空写真は全体の地形と資源配分を教えてくれますが、1本の木が健康かどうかまでは分かりません。顕微鏡は1本の木を確実に診断できますが、森全体は見えません。「広告と売上の因果関係を証明したい」と「限られた予算をどう配分するか」では、そもそも使う道具が違うのです。

どちらを使うべきか|4つの質問で決める判断フロー

検証したいのは1施策か予算全体か、実験のコストを払えるか、出し分けができるか、過去1〜2年分のデータがあるか——この4つの質問で、どちらから始めるべきかはほぼ決まります。

  1. 検証したいのは「1つの施策」か「予算全体」か?
    特定キャンペーンの効果証明が目的ならテスト、チャネル横断の配分見直しが目的ならMMMです
  2. 追加の広告費と、数週間〜2ヶ月の実験期間を割けるか?
    テストは対照群を作る実験なので、追加の配信費用と期間、そして「一部の顧客に広告を見せない」機会損失が発生します。これが難しければMMMから始めるのが現実的です
  3. その施策は、ユーザーや地域で「出し分け」ができるか?
    媒体のリフト機能が使えればユーザー分割、テレビCMなどは地域分割(ジオリフト)と、出し分けの可否でテストの設計が決まります。全国一斉にしか動かせない施策は実験になじまないため、地域テストができないときの効果検証の記事の方法に切り替えてください
  4. 過去1〜2年分の実績データ(売上・媒体別広告費)はあるか?
    あればMMMはすぐに始められます。データの期間や粒度に不安がある場合の最低条件は中小企業向けMMMの記事にまとめています

まとめると、「証明したい施策が明確で、実験のコストを払えるならテスト」「全体を俯瞰したい、または実験のコストを払えないならMMM」が基本の使い分けです。

「使い分け」から「組み合わせ」へ|テスト結果でMMMを補正するキャリブレーション

成熟した組織ほど両者を併用しています。実験で得た確かな「点」の証拠で、MMMという「面」の地図を補正する——これがキャリブレーション(較正)で、Google Meridianではテストで得たROIを事前分布として設定する方法が公式にサポートされています。

なぜ組み合わせるのか|MMMの限界をテストが補い、テストの限界をMMMが補う

MMMの推定は統計モデルである以上、データの質やモデルの仮定に依存します。「モデルが出したこの数字は、どこまで信じていいのか」という不安は、MMM導入時に必ず出てくる論点です(詳しくはMMMのデメリットと限界の記事)。一方でテストは因果の証明力こそ最強ですが、得られるのは「その施策・その期間」の点の情報だけで、全チャネルを常時実験でカバーすることは費用的に不可能です。

そこで、実験で得た確かな「点」の証拠を使って、MMMという「面」の地図を補正する——これがキャリブレーション(較正)です。

Google Meridianは実験結果を事前情報として取り込める

GoogleのオープンソースMMMフレームワーク「Meridian」は、ベイズ統計の仕組みを使って、インクリメンタリティテストで得たROIを事前分布(prior)としてモデルに設定する方法を公式ドキュメントで解説しています。過去に実施したリフトテストの結果を組み込めば、モデルの推定が実験の証拠に引き寄せられ、「統計モデルの出した数字」が「実験で裏付けられた数字」に近づいていきます。

注意点もあります。公式ドキュメントは、1回のテスト結果をそのまま適用するのではなく、複数のテストやドメイン知識を不確実性込みで慎重に組み合わせることを推奨しています。テストとMMMでは測定対象の期間や範囲が微妙に異なるためで、ここの設計は実務経験がものを言う部分です。

Meridianの全体像はGoogle Meridianの解説記事をご覧ください。

参照

費用と期間の現実|テストは広告費を使う実験、MMMは手元のデータで始められる

テストの主なコストは分析料ではなく、実験用の広告費と対照群の機会損失で、施策の規模に比例します。MMMは過去の売上と広告費のデータがあれば、追加の広告費ゼロで始められます。

インクリメンタリティテストMMM
追加の広告費必要(テスト用の配信予算)不要
機会損失あり(対照群には広告を止める/見せない)なし
期間設計〜検証で1〜2ヶ月以上データが揃っていれば分析期間のみ
繰り返し検証したい施策ごとに実験が必要一度構築すれば継続的に更新できる

テストの費用は「分析料」ではなく実験のための広告費そのものが主になるため、検証したい施策の規模に比例して膨らみます。統計的に意味のある差を出すには一定の配信量が必要で、小規模なテストは「差が出たのか誤差なのか分からない」という結果に終わりがちです。

その点MMMは、過去の売上と広告費のデータが手元にあれば、追加の広告費ゼロで始められます。DOREGAの場合、初回分析は15万円で、媒体別の貢献度分解と予算配分シミュレーションまで提供しています。費用の内訳はMMMの費用相場の記事で公開しています。まずMMMで全体像をつかみ、「本当に因果を証明すべき施策」を特定してからテストを設計する——この順番が、実験費用を最小にする進め方です。

よくある質問(FAQ)

Q01MMMとインクリメンタリティテストはどう使い分けますか?

知りたいことで選びます。「チャネル横断で予算をどう配分すべきか」という全体の質問にはMMM、「この施策は本当に売上を増やしているのか」という個別の質問にはインクリメンタリティテストです。テストには追加の広告費と実験期間が必要なため、まずMMMで全体を俯瞰し、重要な施策に絞ってテストで検証する順番が効率的です。

Q02両方やる必要はありますか?

最初から両方は不要です。ただし併用には明確な利点があり、テストで得た因果の証拠をMMMの事前情報として取り込む(キャリブレーション)ことで、モデルの信頼性を段階的に高められます。海外の先進企業では標準的な運用です。

Q03ジオリフトテストとは何ですか?

広告を出す地域と出さない地域を分けて売上を比較し、広告の増分効果を測る実験手法です。個人を追跡しないためCookie規制の影響を受けず、テレビCMのようなオフライン施策にも使えます。

Q04インクリメンタリティテストに費用はいくらかかりますか?

主なコストは分析料ではなく、テスト用の広告費と対照群の機会損失です。統計的に意味のある結果を出すには一定の配信規模が必要なため、検証したい施策の規模に比例します。実験期間は設計から検証まで1〜2ヶ月以上を見込んでください。

Q05テストの結果でMMMの精度は上げられますか?

上げられます。Google Meridianなどのベイズ統計ベースのMMMでは、テストで得たROIを事前分布として設定するキャリブレーションが公式にサポートされています。実験の「点」の証拠でモデル全体を補正する、両者のいちばん生産的な関係です。

MMMとインクリメンタリティテストは競合しない。俯瞰と証明の両輪で使う|まとめ

MMMとインクリメンタリティテストは、どちらを選ぶかを争う関係ではなく、俯瞰(MMM)と証明(テスト)という役割の違う両輪です。テストには追加の広告費と期間がかかるため、手元のデータで始められるMMMで全体像をつかみ、因果を証明すべき施策を特定してからテストを設計し、その結果でMMMを補正していく——この循環が、広告予算の意思決定を最も速く確実に前進させます。

この記事のポイント

  • インクリメンタリティ(増分効果)とは「施策があったからこそ増えた成果」のこと。管理画面のコンバージョンには広告がなくても買っていた人が含まれる。
  • 個別施策の因果証明はインクリメンタリティテスト、全体の予算配分はMMMと、知りたいことで使い分ける。
  • ユーザーで出し分けできない施策(テレビCM等)は、地域で分けるジオリフトテストで検証できる。
  • テストは追加の広告費と1〜2ヶ月の実験期間が必要。MMMは過去データがあれば追加広告費ゼロで始められる。
  • 先進的な組織は両方を併用し、テスト結果を事前情報としてMMMに取り込むキャリブレーションで精度を高めている。