広告サイエンスにおける統計的機械学習技術のご紹介 / YJTC19 in Shibuya A-5 #yjtc

3.9K Views

December 12, 19

#yjtc #機械学習 #広告 #CTR予測 #Ranking Bias #Negative Bias

スライド概要

本セッションでは、Yahoo!広告ディスプレイ広告（YDN）において、機械学習がどのように使われているのかご紹介します。また、近年注目を集めている Selective Inference と呼ばれる統計的推論を応用した広告のクリック確率予測についてご紹介しました。

Yahoo!デベロッパーネットワーク

@ydnjp

スライド一覧

2023年10月からSpeaker Deckに移行しました。最新情報はこちらをご覧ください。 https://speakerdeck.com/lycorptech_jp

またはPlayer版

埋め込む »CMSなどでJSが使えない場合

（ダウンロード不可）

関連スライド

深層学習による自然言語処理入門: word2vecからBERT, GPT-3まで

Yahoo!デベロッパーネットワーク 159.9K

ゼロから始める転移学習

Yahoo!デベロッパーネットワーク 85.4K

ヤフーにおける WebAuthn と Passkey の UX の紹介と考察 #idcon #fidcon

idcon fidcon

Yahoo!デベロッパーネットワーク 72.6K

OpenID Connectとネイティブアプリを取り巻く仕様と動向 Yahoo! JAPANの取り組み #openid #openid_tokyo

openid openid_tokyo

Yahoo!デベロッパーネットワーク 57.4K

運用業務とスクラムは本当に組み合わせにくいのか︖運用業務が大半を占めるプロダクト開発での試行錯誤

devsumi

Yahoo!デベロッパーネットワーク 34.8K

ヤフーのオンプレ機械学習基盤AIPFについて #ml_kubernetes

ml_kubernetes

Yahoo!デベロッパーネットワーク 28.9K

各ページのテキスト

サービス紹介 Yahoo!広告ディスプレイ広告（YDN） Ø 設定されたユーザー層に向けて広告を配信可能なサービス・技術基盤 Ø メディア（媒体）を通してサイト訪問者に広告を配信し、Yahoo! JAPAN と広告主の双方の利得向上につなげるメディア： Ø Yahoo! JAPANが提供している多数のサービス Ø 多数のパートナーサイト Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

サービス紹介 Yahoo!広告ディスプレイ広告（YDN）利用可能なターゲティング一例デバイス地域曜日・時間帯インタレストカテゴリーサーチターゲティング性別年代サイトカテゴリーサイトリターゲティングプレイスメントターゲティング Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 配信対象ユーザー絞り込みに使えるユーザーの興味やデモグラなどの推定には機械学習を利用

10.

サービス紹介機械学習の活用例人間が配信対象ユーザーを絞り込まずとも、機械がユーザー毎のクリック確率（CTR：click through rate）などを予測して、配信を切り分けることが可能地域：東京周辺 𝐶𝑇𝑅 = 𝑓 年代：10代〜３０代興味：グルメ, 健康志向履歴：特定サイト訪問履歴あり Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. =? 機械学習

11.

12.

13.

14.

技術紹介広告クリック確率（CTR）予測のための機械学習 𝑐𝑙𝑖𝑐𝑘 𝒙'( 𝒙*+,1 動画, エンタメ, ⋯ 20代, 女性, 東京, 買い物好き, ⋯ 1 画像, 不動産, ⋯ 30代, 男性, 埼玉, 投資家, ⋯ 0 ⋮ テキスト, 株, ⋯ 40代, 男性, 千葉, 釣り好き, ⋯ ⋮ ⋮ 過去データから機械が傾向を学習し、未知の入力に対して予測できるモデルを構築 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

15.

16.

17.

18.

19.

技術紹介 Ranking Bias のシミュレーション Ø ある広告１と２の予測CTRが下記の一様分布に従っていると仮定する < 𝐶 𝑇𝑅= ~Unif[0,1] < 𝐶 𝑇𝑅E ~Unif[0.5,1] Ø 2本のうち予測CTRが高い1本を選択したとき、選ばれた広告の予測CTRの期待値はどうなるか？ < < 𝔼[max 𝐶 𝑇𝑅= , 𝐶 𝑇𝑅E ] =? ? ? Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

20.

21.

技術紹介 Ranking Bias のシミュレーションランキング対象の広告本数：1 Calibration：1.000 ランキング対象の広告本数：2 Calibration：1.039 ランキング対象の広告本数：5 Calibration：1.087 偏りの大きさがわかる指標： Calibration = 予測CTR / 真のCTR Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

22.

技術紹介 Negative Bias とそのシミュレーション Ø ランキングで選ばれた広告の予測は上振れ傾向であり、それらのデータを学習すると広告母集団に対して予測が下振れ傾向となる Ø 下振れは配信機会が失われるので補正されにくい予測と真値の乖離（in Greedyアルゴリズム） ID CTR CTR 1 0.72801 0.424 0.5 2 0.27199 0.235 0.4 Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

23.

技術紹介先行研究 Ranking Bias と同等の現象は少なくとも 1960 年代には知られていた： 1. Buehler, Robert J., and Alan P. Feddersen. "Note on a Conditional Property of Student's t." The Annals of Mathematical Statistics, 1963. 2. Brown, Larry. "The conditional level of Student's t test." The Annals of Mathematical Statistics, 1967. Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

24.

技術紹介先行研究 Ranking Bias が生じる状況下での統計的推論は “Selective Inference” や “PostSelection Inference” という名で2015年ごろから盛んに研究されている（統計学＋機械学習の文脈で進んでいる）： Jonathan Taylor and Robert J. Tibshirani, PNAS, 2015. 近年にはバンディットアルゴリズムにおいて最尤推定量に生じる Negative Bias の解析・補正法が報告された： Xinkun Nie, et. al., AISTATS, 2018. Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

25.

26.

27.

28.

29.

技術紹介提案法の流れ（1/2）広告母集団１回目のランキング 𝐴𝐷S 𝐴𝐷Y 𝐴𝐷Z < < < 𝐶 𝑇𝑅STU ≥ 𝐶 𝑇𝑅STV ≥ 𝐶 𝑇𝑅STW ⋯ 𝐴𝐷T 𝐴𝐷[ 𝐴𝐷\ ランキング結果から切断点を計算 P O (𝑣STX , 𝑣STX ) P O (𝑣STU , 𝑣STU ) ⋮ Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

30.

技術紹介提案法の流れ（2/2）予測CTRと切断点を入力 O P < (𝐶𝑇𝑅STX , 𝑣STX , 𝑣STX ) O P < (𝐶𝑇𝑅STU , 𝑣STU , 𝑣STU ) ⋮ 補正後の予測CTRに基づきリランキング < < < 𝐶 𝑇𝑅STW ≥ 𝐶 𝑇𝑅STU ≥ 𝐶 𝑇𝑅ST] ⋯ Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

31.

32.

技術紹介実配信ABテストによるパフォーマンス評価既存法からの収益リフト収益 +5.7% クリック数 +8.2% Calibration = 予測CTR / 実測CTR 種別既存法提案法実配信 1.30 1.07 Ranking Bias Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved. 広告母集団 0.957 0.930 Negative Bias

33.

技術紹介最後に Ø 機械学習の導入において、データの偏りを補正することによって、より良い成果が得られることが示唆された Ø データの偏りを補正するには、データの発生プロセスを理解することが重要である Ø 今後は Yahoo! JAPAN が有する多様なデータを利活用し、状況に応じてデータの発生プロセスを解析し、強力な機械学習を構築していく Copyright© 2019 Yahoo Japan Corporation. All Rights Reserved.

34.