傾向スコア解析とuplift modelling

傾向スコア解析とUplift Modelling

@yokkuns: 里洋平[email protected]

2012.05.26 第23回Tokyo.R

2012年5月26日土曜日

mailto:[email protected]

mailto:[email protected]

AGENDA

◆ 本発表の目的

◆ 自己紹介

◆ 傾向スコア解析

◆ Uplift Modelling

◆ まとめ


時系列解析や異常検知などの方法論を実ビジネスに適用するデータマイニングエンジニア

◆ 名前: 里洋平

◆ 職業: データマイニングエンジニア

◆ ID : yokkuns

◆ 統計解析パターン認識機械学習データマイニング NLP 金融工学などを勉強中

自己紹介


Tokyo.R主催

パッケージ本執筆しました！

活動例: 勉強会の主催・執筆


閲覧されている動画の情報を用いておすすめ動画を表示する

活動例: 動画レコメンド


Web上の情報から市場予測

活動例: 市場予測


異常な振る舞い

複数時系列の異常検知

時系列A

時系列B 時系列C

ケースA

ケースB

ケースC

例2:CM効果のノイズ除去

異常な振る舞いの時系列を検出

異常な振る舞いをしているケースを除外して、CMの効果を算出する

CM効果トラフィックA

トラフィックB

トラフィックC

例1:トラフィック異常検知

異常な振る舞いをしているトラフィックの原因を調査する

調査

AB

C

時系列のモデリング

時系列A

時系列B

時系列C

Anomaly detection

複数時系列から異常な振る舞いを検知する

85

活動例: 異常検知


-117.0000

1912.2500

3941.5000

5970.7500

8000.0000

4/4週4/11週4/18週4/25週5/2週5/9週5/16週5/23週5/30週6/6週6/13週6/20週6/27週7/4週7/11週7/18週7/25週-3.0000

-2.2500

-1.5000

-0.7500

0

0.7500

1.5000

2.2500

3.0000

t

異常スコア推移

異常値モデル構築

異常スコアの算出

◇例 : ARIMAモデル

◇例 : 対数損失

Anomaly detection

新しいデータと過去時系列モデルの乖離から異常検出

86

活動例: 時系列解析と異常検知


87

CM時系列

各KPIの時系列

CM

新規登録

ARPU

ARPPU

継続率

ケース

イベント

その他外部要因

TV Commercial Effects

時系列的な振る舞いの特徴から各KPIへのCMの影響度を算出

活動例: 時系列解析と影響分析


活動例: データマイニングCROSS


AGENDA


◆ 自己紹介



◆ まとめ


本発表の目的傾向スコア解析とUplift Modellingが

扱う効果やデータを切る軸が似ていて混乱するので整理する

介入を受けた

場合の結果

介入を受けない

場合の結果

処置群対照群

No

Yes

Yes No

介入を受けた場合の反応

介入を受けなかった場合の反応傾向スコア解析のデータを切る軸 Uplift Modellingのデータを切る軸

介入効果 = 処置群の値介入がなかった場合の処置群の値-


傾向スコア解析とUplift Modelling傾向スコア解析とUplift Modellingは

やりたい事や扱うデータの対象が大きく違う

傾向スコア解析 Uplift Modelling

やりたい事因果効果の推定費用対効果の最大化

扱うデータ観察データ実験データ

アプローチ共変量を使って処置群と対照群の傾向を調整して因果効果を算出する

処置群と対照群の両方を使って介入による行動変化をモデル化して

それを最大化するような分類を行う


介入による効果の扱いどちらも介入による効果を扱うが

その目的はと扱うデータは大きく異なる

介入効果 = 処置群の値介入がなかった場合の処置群の値-

◆ 傾向スコア解析:

◆ Uplift Modelling:

・実験出来ないデータにおいて、割当による影響を除外して介入効果を推定する

・実験可能なデータを用いて、介入効果を最大にするようなグループ分けを行う


実験出来るデータでは因果効果は単純な処置群と対照群の差になる

実験出来るデータの因果効果

処置群のデータ　

対照群のデータ　

処置群対照群

因果効果 = 処置群の平均 - 対照群の平均






処置群対照群

処置群と対照群をランダムに割当







処置群対照群



欠測　

欠測　

介入を受けた場合の結果

介入を受けない場合の結果




処置群対照群



欠測　

欠測　



•対照群が介入を受けていた場合の期待値と介入を受けた処置群の期待値は同じ

•処置群が介入を受けない場合の期待値と介入を受けなかった対照群の期待値は同じ

期待値が等しい！




割当によって処置群と対照群に差が生じるため両者を単純に比較することが出来ない

実験出来ないデータの因果効果



処置群対照群

因果効果 ≠ 処置群の平均 - 対照群の平均






処置群対照群


処置群と対照群の割当(コントロール出来ない)






処置群対照群



欠測　

欠測　






処置群対照群



欠測　

欠測　



•対照群が介入を受けていた場合の期待値と介入を受けた処置群の期待値が異なる

•処置群が介入を受けない場合の期待値と介入を受けなかった対照群の期待値が異なる

期待値が違う！




AGENDA


◆ 自己紹介



◆ まとめ


処置群のデータ　欠測　

対照群のデータ　欠測　

共通で得られている変数　



共変量項目

処置群対照群


共変量で割当をモデリング傾向スコアの算出

傾向スコアを用いた調整◇マッチング◇層別解析◇共分散分析

実験出来ないデータの因果関係を解析する

傾向スコア解析






処置群対照群

　

　　

z=1 z=0

y1とy0は両方存在するが割当によって観測出来ないと考える

割当によって観測出来ない潜在的変数を考える

欠測データ






処置群対照群

　

　　

z=1 z=0

処置群と対照群の割当 z

処置群での平均介入効果average treatment effect on the treated

z=1の時のy1とy0の差を知りたいがどちらか一方は観測出来ない

割当変数zと求めたい因果効果

欠測データ






処置群対照群

　

　　

z=1 z=0


共通で得られている変数　共変量項目

強く無視出来る割当条件

共変量の影響を除去した因果効果

::

共変量の値が等しい時は割当はランダムという仮定


欠測データ






処置群対照群

　

　　

z=1 z=0


共通で得られている変数　共変量項目

強く無視出来る割当条件


::

共変量が同じならz=1のy0の期待値をz=0の時のy0の期待値で代用出来る


欠測データ


第i対象者の割当変数の値

第i対象者の共変量の値

対象者の群1へ割り当てられる確率

傾向スコア


プロビット回帰やロジスティック回帰で推定する

傾向スコアの推定


• マッチング• 2つの群で傾向スコアが等しい（近い）対象者をペアにしてその差の平均を因果効果とする

• 層別解析• 傾向スコアの大小によっていくつかのサブクラスに分け、その各クラスで処置群と対照群の平均の計算と、全体としての効果の推定量を計算する

• 共分散分析• 割当変数と傾向スコアを説明変数とした線形の回帰分析を行う

傾向スコアを用いた調整



傾向スコアの逆数による重み付け平均


傾向スコアを用いた調整傾向スコアの逆数を重みづけたyの期待値は

y1の周辺平均の不偏推定量


因果効果

因果効果の分散


因果効果の推定値とその分散が計算出来る


Matching パッケージ

lalondeデータセット

age 年齢 re74 74年実質賃金educ 教育年数 re75 75年実質賃金black 黒人かどうか re78 78年実質賃金hisp ヒスパニックかどうか u74 74年の賃金が0かどうかmarried 結婚してるかどうか u75 75年の賃金が0かどうかnodegr 高校卒業有無 treat NSW対象者有無

NSW職業訓練データ

Rによる実行


Matching パッケージ

Match(Y=NULL, Tr, X, caliper=F,...)

Y : 結果ベクトルTr : 割当ベクトルX : 共変量または傾向スコアcaliper : キャリパーマッチングをやる場合にTRUE...

Rによる実行


Matchingパッケージとデータセットの読み込み

Rによる実行


ロジスティック回帰分析で傾向スコアを算出

Rによる実行


マッチングで因果効果を推定

NSWプログラムの効果

Rによる実行


マッチングのペアの確認

Rによる実行


マッチングのペアの確認

処置群のindex

対照群のindex

Rによる実行


キャリパーマッチングで因果効果を推定

キャリパーマッチング : ペアが特定の距離以上になる時はマッチングしないマッチング

NSWプログラムの効果

Rによる実行


傾向スコアの逆数による重みベクトルを作成

RでIPW推定量


lmで重みベクトルを指定してIPW推定量を算出

RでIPW推定量



処置群のIPW推定量と標準誤差

対照群のIPW推定量と標準誤差

RでIPW推定量



処置群のIPW推定量と標準誤差

対照群のIPW推定量と標準誤差

因果効果 = 6213.0 - 4589.4 = 1623.6

標準誤差 = √(462.2^2+436.4^2) = 635.668

RでIPW推定量


AGENDA


◆ 自己紹介



◆ まとめ


あまのじゃく無関心

テッパン説得可能！

介入を受けた場合の反応

介入を受けなかった場合の反応YES

No

YES

No

Uplift Modellingとは費用対効果の最大化を目的とした最新のデータマイニング手法

介入による行動変化をモデル化し効果を最大化する

介入による4つの行動パターン


これまでのマーケティングモデル顧客を有望な顧客とそうでない顧客に分類し

有望な顧客だけをターゲットにする事で費用対効果を向上させる

◆ 浸透モデル

◆ 購入モデル

◆ レスポンスモデル

・既に製品を購入した顧客を特徴づけるモデル

・最近購入した顧客を特徴づけるモデル・浸透モデルに似てるが、最近の履歴に注目し、顧客の特性の変化を捉える

・マーケティング活動に反応して購入した顧客を特徴づけるモデル


処置群

Training Data 従来のレスポンスモデリング

予測対象

分類結果“反応あり”の場合良いターゲット

レスポンスモデリング処置群の反応データを用いて

レスポンスをモデル化し、ターゲットを決める

処置群

反応なし反応あり


処置群


予測対象


レスポンスモデリングの課題

処置群


無関心

あまのじゃく

テッパン

説得可能！

処置群だけで学習しているため介入による行動変化を考慮出来ていない


処置群


予測対象


レスポンスモデリングの課題

処置群


無関心

あまのじゃく

テッパン

説得可能！

処置群だけで学習しているため介入による行動変化を考慮出来ていない

介入しなければ反応した

介入しなくても反応した


処置群

Training Data

予測対象

処置群と対照群を用いた学習

処置群


処置群と対照群の両方を学習データとする事で介入による行動変化を捉える

対照群

対照群

無関心

あまのじゃく

テッパン

説得可能！

無関心

説得可能！

テッパン

あまのじゃく


処置群

Training Data Response Uplift Modelling

予測対象

Uplift Modelling

処置群

L R

単純な”反応あり”・”反応なし”ではなく介入による行動変化をモデル化しターゲットを決める

対照群

対照群

無関心

あまのじゃく

テッパン

説得可能！

無関心

説得可能！

テッパン

あまのじゃく

分類結果“R”の場合

良いターゲット


分割基準行動変化によるレスポンス率増とその重要性を最大化する分割を行う

処置群(T)

L R

対照群(C)

無関心

あまのじゃく

テッパン

説得可能！

無関心説得可能！

テッパン

あまのじゃく

URUL



処置群(T)

L R

対照群(C)

無関心

あまのじゃく

テッパン

説得可能！


テッパン

あまのじゃく

URUL

◆ 行動変化によるレスポンス率の増分

◆ 重要性 (t統計量の2乗)



処置群(T)

L R

対照群(C)

無関心

あまのじゃく

テッパン

説得可能！


テッパン

あまのじゃく

URUL

L

L R




介入による行動変化の定式化

処置群(T)L R

対照群(C)

URUL

介入による効果

グループ効果

相互作用


グループ効果

相互作用


グループ効果

相互作用


グループ効果

相互作用

※Cの介入効果 = Lのグループ効果 = CR相互作用 = TL相互作用 = CL相互作用 = 0 とおく

介入による行動変化を介入効果とグループ効果の相互作用として表現


介入による行動変化の推定

処置群(T)L R

対照群(C)

URUL


グループ効果

相互作用


グループ効果

相互作用


グループ効果

相互作用


グループ効果

相互作用

※Cの介入効果 = Lのグループ効果 = CR相互作用 = TL相互作用 = CL相互作用 = 0 とおく

相互作用はRグループとLグループの増分の差で推定される


介入による行動変化の推定値の誤差と重要性

T:1, C:0 R:1, L:0 Xi1Xi2

基準値

介入効果

グループ効果

相互作用

介入による行動変化は回帰係数として算出されその重要性はt統計量で与えられる

◆ t統計量の2乗◆ 標準誤差の算出



処置群(T)

L R

対照群(C)

無関心

あまのじゃく

テッパン

説得可能！


テッパン

あまのじゃく

URUL

L

L R




AGENDA


◆ 自己紹介



◆ まとめ


傾向スコア解析とUplift Modelling傾向スコア解析とUplift Modellingは

やりたい事や扱うデータの対象が大きく違う

傾向スコア解析 Uplift Modelling

やりたい事因果効果の推定費用対効果の最大化

扱うデータ観察データ実験データ

アプローチ共変量を使って処置群と対照群の傾向を調整して因果効果を算出する

処置群と対照群の両方を使って介入による行動変化をモデル化して

それを最大化するような分類を行う


AGENDA


◆ 自己紹介



◆ まとめ


次回以降の

発表者・LTを募集しています！


ご清聴ありがとうございました！


参考資料

http://www.slideshare.net/yokkuns/r-9387843

◆ Rで学ぶ傾向スコア解析入門

http://www.slideshare.net/yokkuns/uplift-modelling-1

◆ Uplift Modelling 入門（1）






欠測データ観測出来ない方のデータを欠測してると考える

因果推論、選択バイアス、データ融合を統一的に扱えるデータ構造






共変量項目

処置群対照群

選択者のデータ　非選択者のデータ　


従属変数

共変量項目

選択者非選択者

購買履歴調査のデータ　

欠測　

市場調査の回答データ　

欠測　


購買履歴

質問紙項目

共変量項目

購買履歴データ市場調査データ

因果推論

選択バイアス

データ融合


傾向スコア解析とuplift modelling

Documents