PowerPoint プレゼンテーション

Size: px

Start display at page:

Download "PowerPoint プレゼンテーション"

えいしろうとどろき
4 years ago
Views:

1 オペレーションズリサーチ学会秋季発表会関心度 (Frequency) と忘却度 (Recency) に基づくレコメンド手法 - サンプリングでは対応できないビッグデータの活用年 9 月 12 日株式会社 NTT データ数理システム * 岩永二郎鍋谷昴一梶原悠五十嵐健太

2 お知らせ社名変更 2013 年 9 月 1 日をもって数理システムから NTT データ数理システムに社名変更しました. 移転 2013 年 9 月 1 日をもって東京都新宿区新宿 2 丁目 4-3 フォーシーズンビル 10 階から東京都新宿区信濃町 35 番地信濃町煉瓦館 1 階に移転しました. 近くにお越しの際には是非ともお立ち寄りください 2013/9/12 オペレーションズリサーチ学会秋季発表会 2

3 本日と内容 1. はじめに 2. 課題の紹介 3. 分析の概要 4. 関心度と忘却度に基づくレコメンド手法 5. 過学習の回避 6. まとめ 2013/9/12 オペレーションズリサーチ学会秋季発表会 3

4 1. はじめに 2013/9/12 オペレーションズリサーチ学会秋季発表会 4

5 予測スコア 1.1. データ解析コンペテションはじめに第 19 回データ解析コンペティション 76 チームがエントリー総勢 400 名が参加課題設定部門 (32 チーム参加 ) 評価方法 : 予測スコアと分析内容データ : 不動産賃貸ポータルサイト数理システムチーム順位とスコア数理システムチーム結果チーム名 : 明日分かることは今日予測しない代表者 : 岩永二郎メンバー : 鍋谷昴一梶原悠五十嵐健太予選 : 殊勲賞 (1 位 ) 受賞本戦 : 最優秀賞 (1 位 ) 受賞順位 2013/9/12 オペレーションズリサーチ学会秋季発表会 5

6 1.2. コンペの成果紹介はじめにマーケティングの事例頻度 (Frequency) と直近さ (Recency) に基づいて顧客をセグメンテーションする手法が知られている. Frequency と Recency を具体的に定量化してレコメンドロジックとして実装した事例報告ビッグデータの事例ビッグデータを利用してしたという宣伝はよく聞くが実際, どのように利用したのか不明サンプリングで良かったのでは? という疑問大規模データの特性を活かした手法の事例報告 2013/9/12 オペレーションズリサーチ学会秋季発表会 6

7 2. 課題の紹介 2013/9/12 オペレーションズリサーチ学会秋季発表会 7

8 2. 題材とデータ課題の紹介題材 : 不動産賃貸ポータルサイトのアクセスログポータルサイト上のユーザの活動を観察 1. サイトへの流入 2. 物件の検索 3. 物件の詳細閲覧 (PV: ページビュー ) 4. 物件の資料請求 (CV: コンバージョン ) 5. サイトからの離脱データトランザクションデータ分析用データ本番用データマスタデータ全データサイズ :16GB 予測 2013/9/12 オペレーションズリサーチ学会秋季発表会 8

9 2.2. アクセスログのイメージ課題の紹介アクセスログの内容各ユーザのアクセス記録 2012 年月日のセッション 2012 年月日のセッション 2012 年月日のセッション PV/CV レコード1 レコード2 レコード3 レコード閲覧物件閲覧時間地域検索こだわり検索 2013/9/12 オペレーションズリサーチ学会秋季発表会 9

10 2.3. 問題設定課題の紹介予測課題アクセスログ 10 週間を分析し, その後 1 週間のユーザの CV/PV を予測分析期間 (10 週間 ) 予測期間 (1 週間 ) の CV/PV を予測 2012 年 2012 年 2012 年 2012 年 5 月 16 日 7 月 24 日 7 月 25 日 7 月 31 日課題ユーザ人に対して,5 個の物件をレコメンドするスコアリング方法正解 CV/PV の得点は次の通り. 正解数 1 個目 2 個目 3 個目 4 個目 5 個目 CV PV /9/12 オペレーションズリサーチ学会秋季発表会 10

11 3. 分析の概要 2013/9/12 オペレーションズリサーチ学会秋季発表会 11

Mining Studio( 決定木分析 ) Big Data Module( ロジスティック回帰 SVM) NUOPT( 信頼領域内点法 ) 分析の流れ

12 3.1. 分析のレシピ分析の概要分析の環境 CPU:Intel Core-i7 3930K 3.20GHz(6コア ) メモリ :32.0 GB 分析の道具 Python( 前処理レコメンドロジック実装 ) sqlite3( データベース ) R( 基礎集計グラフ描画 ) Visual Mining Studio( 決定木分析 ) Big Data Module( ロジスティック回帰 SVM) NUOPT( 信頼領域内点法 ) 分析の流れ 1 分析準備 ( クレンジング分析用 DB 構築 ) 2 分析と割当ロジックの検討 3 実験と検証 2013/9/12 オペレーションズリサーチ学会秋季発表会 12

13 3.2. レコメンド方針分析の概要アプローチユーザの過去閲覧物件から再閲覧する物件をレコメンドする物件のスコアリング関数の構築物件プロファイル ( 特徴量ベクトル ) に対して, 閲覧確率を紐付ける 1 ユーザが過去に閲覧した物件を列挙 2 各物件の特徴量を算出 3 各物件の再閲覧確率を算出閲覧物件特徴量 1 特徴量 2 特徴量 3 再閲覧確率物件コード False 6% 物件コード True 19% 分析のタスク特徴量の作成と選択再閲覧確率の計算 2013/9/12 オペレーションズリサーチ学会秋季発表会 13

14 4. 関心度と忘却度に基づくレコメンド手法 2013/9/12 オペレーションズリサーチ学会秋季発表会 14

15 4.1. 特徴量の作成関心度と忘却度に基づくレコメンド手法ユーザの閲覧物件に特徴量を与える閲覧物件 5/28 6/12 6/23 7/02 7/25 7/28 物件コード 1 PV 物件コード 2 2 PV PV 分析期間予測期間直近から 3 セッション閲覧物件特徴量 1 特徴量 2 特徴量 3 CV PV フラグ物件コード物件コード物件コード3 2 PV 3 PV CV 物件コード4 2 PV PV CV PV 物件コード 5 PV PV 物件コード 6 閲覧回数 2 PV 物件 - セッションテーブル物件コード物件コード物件コード物件コード物件プロファイル作成した特徴量グループ A) ユーザに関する特徴量 B) 物件に関する特徴量 C) ユーザの物件への興味を表す特徴量 2013/9/12 オペレーションズリサーチ学会秋季発表会 15

16 4.2. 特徴量の抽出と分類関心度と忘却度に基づくレコメンド手法特徴量の抽出処理 STEP1: 特徴量の加工 STEP2:CV/PV との相関クロス集計 STEP3: 決定木分析 SVM ロジスティック回帰分析 STEP2 による絞り込み C グループ ( ユーザの物件への興味を表す特徴量 ) の CV/PV への貢献が大きい C グループを関心度と忘却度グループに分類関心度 ( 閲覧回数セッション登場回数総閲覧時間 ) 忘却度 ( 物件の閲覧順番セッション順番経過日数 ) STEP3 による選択 gini 係数 information gain ratio, 回帰係数およびセグメンテーションの粒度に考慮して次の指標を選択関心度 : 閲覧回数忘却度 : セッション順番 Frequency & Recency 2013/9/12 オペレーションズリサーチ学会秋季発表会 16

17 4.3. 関心度と忘却度の分類 ( 相関係数 ) ピアソンの相関係数関心度と忘却度に基づくレコメンド手法分類関心度 A 関心度 B 関心度 C 忘却度 A 忘却度 B 忘却度 C 閲覧回数関心度 A セッション登場回数関心度 B 閲覧総時間関心度 C 閲覧順番忘却度 A セッション順番忘却度 B 経過日数忘却度 C 1 * セッション順番 : 最終セッションから数えて, 何セッション目に物件を閲覧したか関心度と忘却度が無相関関心度と忘却度から 1 つずつ特徴量を選抜 2013/9/12 オペレーションズリサーチ学会秋季発表会 17

18 関心度と忘却度に基づくレコメンド手法 4.4. 関心度と忘却度の選択 ( 決定木分析 ) 二分木における gini 係数関心度グループ忘却度グループ特徴量 gini 係数値特徴量 gini 係数値閲覧回数セッション順番セッション登場回数閲覧順番閲覧総時間経過日数二分木における information gain ratio 関心度グループ忘却度グループ特徴量 info gain ratio 特徴量 info gain ratio 閲覧回数セッション順番セッション登場回数閲覧順番閲覧総時間経過日数 /9/12 オペレーションズリサーチ学会秋季発表会 18

19 4.5. 再閲覧確率テーブル構築関心度と忘却度に基づくレコメンド手法再閲覧確率テーブルとは関心度と忘却度のセグメントに再閲覧確率を対応付けたテーブル再閲覧確率の計算式忘却度 n : 関心度 i, 忘却度 j の ij セグメントの物件が閲覧された件数 m : 関心度 i, 忘却度 j の ij セグメントの物件が再閲覧されなかった件数 n ij n ij m ij : 再閲覧確率関心度データの規模が大きいほど確率の信頼性が上がる 2013/9/12 オペレーションズリサーチ学会秋季発表会 19

物件コード3 1 2 12% 物件コード4 2 2 9% 物件コード5 2 2 9% 参照忘却度物件コード 6 3 1 3% 物件コード 7 4

20 4.6. レコメンドロジック関心度と忘却度に基づくレコメンド手法物件プロファイル再閲覧確率テーブル再閲覧確率の高い順に物件をレコメンド物件プロファイル閲覧物件忘却度関心度閲覧確率再閲覧確率テーブル ( 実績値 ) 物件コード % 物件コード % 物件コード % 物件コード % 物件コード % 参照忘却度物件コード % 物件コード % 関心度物件コード % 関心度と忘却度のトレードオフを考慮したレコメンドを実現 2013/9/12 オペレーションズリサーチ学会秋季発表会 20

21 5. 過学習の回避 2013/9/12 オペレーションズリサーチ学会秋季発表会 21

22 5.1. レコメンド手法の改善過学習の回避関心度と忘却度に成り立つ単調性制約関心度が大きい物件ほど再閲覧する忘却度が小さい物件ほど再閲覧する再閲覧確率テーブルで単調性制約が満たされないセグメントが存在忘却度忘却度原因関心度関心度学習データとして十分な量を確保できていない業務上の施策の影響が反映されてしまっている過学習を回避した再閲覧確率テーブルの推定をしたい 2013/9/12 オペレーションズリサーチ学会秋季発表会 22

23 5.2. 数理モデルの構築過学習の回避推定する再閲覧確率テーブルの要件単調性制約を満たすデータ件数が多いセグメントの再閲覧確率ほど信頼する凸二次計画問題に定式化して最適化パッケージ NUOPT で求解集合パラメータ変数制約目的関数 I : 関心度のセグメント J : 忘却度のセグメント p ( i I, j J ) : 各セグメントの閲覧確率 ( 実績値 ) ij w ( i I, j J ) : 各セグメントのデータ数 ij x [0,1] ( i I, j J ) : 各セグメントの推定する閲覧確率 ij x x ( i i '( I )) : 関心度について狭義単調増加 ' ij i j x x ( j j '( J )) : 忘却度について狭義単調減少 ij ij ' i I, j J 2 2 m in im iz e w x p ij ij ij ( : 適当な微小な値 ) : 閲覧確率 ( 実績値 ) との重み付き自乗誤差最小化 2013/9/12 オペレーションズリサーチ学会秋季発表会 23

24 5.3. 推定した再閲覧確率テーブル過学習の回避再閲覧確率テーブルの比較再閲覧確率テーブル ( 実績値 ) 再閲覧確率テーブル ( 推定値 ) スムージングによって過学習を回避 2013/9/12 オペレーションズリサーチ学会秋季発表会 24

25 5.4. 実験と評価過学習の回避評価用ツールの作成 ( 分析用データ ) アクセスログの最終週を予測期間として,17803 ユーザを抽出分析期間 (9 週間 ) 予測期間 (1 週間 ) の CV/PV を予測 2012 年 2012 年 2012 年 2012 年 5 月 16 日 7 月 17 日 7 月 18 日 7 月 24 日総スコア 76,017 点に対する得点率を予測精度としてレコメンド手法を評価レコメンド手法スコア精度比較手法 1 : 閲覧が最新の物件から順にレコメンド 11, % 比較手法 2 : 閲覧回数が多い物件から順にレコメンド 13, % 提案手法 1 : 関心度と忘却度に基づくレコメンド ( 実績値 ) 14, % 提案手法 2 : 関心度と忘却度に基づくレコメンド ( 推定値 ) 14, % 2013/9/12 オペレーションズリサーチ学会秋季発表会 25

26 5.5. サンプリング実験過学習の回避 17,803 ユーザからサンプリング (1%~100%) 実績値と推定値の2つの再閲覧確率テーブルを比較実績値より推定値の方がデータ量に限らずレコメンド精度が良いことを確認データ不足も解消可能より詳細なセグメンテーションが可能 2013/9/12 オペレーションズリサーチ学会秋季発表会 26

27 6. まとめ 2013/9/12 オペレーションズリサーチ学会秋季発表会 27

28 6.1. まとめまとめマーケティングについて頻度 (Frequency) と直近さ (Recency) を具体的に定量化してレコメンドロジックを構築予測精度は特徴量の作成と選択に尽きるビッグデータについて大規模データの特性規模に比例して確率の信頼性が向上詳細なセグメンテーションが可能過学習の回避 & データ不足の解消凸二次計画問題に定式化して再閲覧確率テーブルを推定ビジネスにおける実現性スケーラビリティ再閲覧確率テーブルの作成 (Hadoop 等の分散処理技術 ) 再閲覧確率テーブルの推定 ( 凸二次計画法 : 変数数 I J ) レコメンド時のリアルタイム性再閲覧確率テーブルの参照と確率のソート処理でレコメンド可能 2013/9/12 オペレーションズリサーチ学会秋季発表会 28

二項ソフトクラスタリング分析例この資料では Visual Mining Studio のアイコン Dyadic Soft Clustering を使って二項ソフトクラスタリング分析をする方法を説明します二項ソフトクラスタリングは一般的には PLSI, PLSA などの名前で知られています株

二項ソフトクラスタリング分析例この資料では Visual Mining Studio のアイコン Dyadic Soft Clustering を使って二項ソフトクラスタリング分析をする方法を説明します二項ソフトクラスタリングは一般的には PLSI, PLSA などの名前で知られています株二項ソフトクラスタリング分析例この資料では Visual Mining Studio のアイコン Dyadic Soft Clustering を使って二項ソフトクラスタリング分析をする方法を説明します二項ソフトクラスタリングは一般的には PLSI, PLSA などの名前で知られています株式会社 NTT データ数理システム Copyright 2013 NTT DATA Mathematical