講座内容 第 1 週 データサイエンスとは 第 2 週 分析の概念と事例ビジネス課題解決のためのデータ分析基礎 ( 事例と手法 )1 第 3 週 分析の具体的手法ビジネス課題解決のためのデータ分析基礎 ( 事例と手法 )2 第 4 週 ビジネスにおける予測と分析結果の報告ビジネス課題解決のためのデー

Transcription

1 社会人のためのデータサイエンス演習第 2 週 : 分析の概念と事例第 1 回 :Analysis( 分析 ) とは講師名 : 今津義充 1

2 講座内容 第 1 週 データサイエンスとは 第 2 週 分析の概念と事例ビジネス課題解決のためのデータ分析基礎 ( 事例と手法 )1 第 3 週 分析の具体的手法ビジネス課題解決のためのデータ分析基礎 ( 事例と手法 )2 第 4 週 ビジネスにおける予測と分析結果の報告ビジネス課題解決のためのデータ分析基礎 ( 事例と手法 )3 第 5 週 ビジネスでデータサイエンスを実現するために 2

3 第 2 週の内容紹介 第 1 回 Analysis ( 分析 ) とは 第 2 回 1 変数の状況の把握 1 ( 可視化の活用 ) 第 3 回 1 変数の状況の把握 2 ( 代表値の活用 ) 第 4 回 比較して 2 変数の関係を見る 第 5 回 ビジネスにおける比較 1 ( 概要 ) 第 6 回 ビジネスにおける比較 2 ( 適切な A/B テストの活用 ) 3

4 Analysis ( 分析 ) とは 分析 = 複雑な事柄を要因に分け その構造 関係を解明 仮説に基づいて 各要因と結果 (KGI) の関係を調査する 要因 ( 変数 )? 結果 (KGI) どのように関係しているかを調査するこの際 要因と結果 (KGI) を数学的に変数として表現する 分析の第一歩は 1 変数による状況把握と 要因と結果を 2 変数の関係として解明すること 4

5 変数の尺度 分析手法を理解する前提として必ずおさえたい知識 名義尺度 ( 質的 ) カテゴリに分類するための特性を表す尺度 順序無し順序付き 順序に意味がない例 : 性別 都道府県 血液型など 順序に意味がある例 : 満足度 順位など 連続尺度 ( 量的 ) 数値で表し測れる大小の関係がある尺度 間隔尺度比率尺度 順序及び和差の演算が意味がある例 : 年齢 セ氏度など 順序及び和差積商の演算が意味がある例 : 体重 金額 速度など 変数の尺度により分析手法を変える必要がある 5

6 顧客数 顧客数 1 変数の状況を把握 ( データチェック ) 分析の第一歩としては 可視化と代表値により 各要因 (1 変数 ) の状況を把握 棒グラフ 可視化 ヒストグラム 可視化 代表値 カテゴリ数 最頻値 など 購入金額 代表値 平均値 標準偏差 最頻値 など 1 変数の可視化と代表値の算出は鳥瞰的な状況把握と分析の次のステップを計画するのに重要 6

7 来客数 サイト閲覧時間 来客数 2 変数の関係を調査 KGI と要因の関係を調査するために 尺度によって様々な手法がある 比較 傾向 名義 vs 名義 : クロス集計を用いて 離散分布を比較する 名義 vs 連続 : ヒストグラムを用いて 連続分布を比較する 連続 vs 連続 : 散布図を用いて 片方の変数に対してもう片方の変数の傾向を見る ( 片方は時間だと 時系列と呼ぶ ) 比較 傾向 名義 vs 名義 名義 vs 連続 連続 vs 連続 来客数 男 女 サイトA 18 3 サイトB 4 16 サイトA サイトB サイト閲覧時間 文章量 時間 クロス集計 ヒストグラム 散布図 時系列 7

8 複数変数の関係を調査したい場合は? 要因が複数の時 要因間の相互作用も考慮すべきであるが 変数が 3~4 個以上になると 前述の手法だけでは困難 要因と結果を示すデータをコンピューターに与え 自動的にその 関係を学習させる機械学習などが有効となる 要因 1 ( 変数 ) 要因 2 ( 変数 )? 結果 (KGI) 要因 N ( 変数 ) 機械学習 機械学習は 第 4 週で紹介 8

9 次回のテーマ 次回は 1 変数の状況の把握 1 ( 可視化の活用 ) お疲れ様でした! 9

10 社会人のためのデータサイエンス演習第 2 週 : 分析の概念と事例第 2 回 :1 変数の状況の把握 1 ( 可視化の活用 ) 講師名 : 今津義充 10

11 第 2 週の内容紹介 第 1 回 Analysis ( 分析 ) とは 第 2 回 1 変数の状況の把握 1 ( 可視化の活用 ) 第 3 回 1 変数の状況の把握 2 ( 代表値の活用 ) 第 4 回 比較して 2 変数の関係を見る 第 5 回 ビジネスにおける比較 1( 概要 ) 第 6 回 ビジネスにおける比較 2( 適切な A/B テストの活用 ) 11

12 頻度 ( データ個数 ) 来客数 可視化の重要性 可視化では様々な情報を一目で把握できる 1 変数の状況把握のために ヒストグラムを用いる 年齢 データの種類 一枚の絵は一千語に匹敵する 12

13 来客数 分布の見方 1 下図は ある店の年代別来客数のヒストグラムです グラフから何が読み取れるでしょうか 1 どんな種類がある? 2 最も多い種類はどれ? 3 大半のサンプルはどこ? 4 最小値はどれぐらい? 5 最大値はどれぐらい? 6 データ不備はある? 年齢 13

14 来客数 分布の見方 代 ~100 歳以上の顧客が存在 230 代は最も多い 3 大半の顧客は 20~50 代 6100 歳以上は意外と多い データ不備の可能性あり 最小の年代は10 代 年齢 5 最大の年代は 100 歳以上 可視化することで様々な情報を一目で把握できる 14

15 分布の見方 3 変数の性質によって特徴の異なる様々な分布がある ピーク ( 峰 ) の数 ピーク ( 峰 ) の偏り 外れ値の有無 異種データの混在の可能性 平均値を見る際に注意 データ不備や異常値の可能性 変数の性質を把握するのに分布特徴に注意すべき 15

16 次回のテーマ 次回は 1 変数の状況の把握 2 ( 代表値の活用 ) お疲れ様でした! 16

17 社会人のためのデータサイエンス演習第 2 週 : 分析の概念と事例第 3 回 :1 変数の状況の把握 2 ( 代表値の活用 ) 講師名 : 今津義充 17

18 第 2 週の内容紹介 第 1 回 Analysis ( 分析 ) とは 第 2 回 1 変数の状況の把握 1 ( 可視化の活用 ) 第 3 回 1 変数の状況の把握 2 ( 代表値の活用 ) 第 4 回 比較して 2 変数の関係を見る 第 5 回 ビジネスにおける比較 1( 概要 ) 第 6 回 ビジネスにおける比較 2( 適切な A/B テストの活用 ) 18

19 代表値の重要性 代表値 ( 統計量 ) は分布の特徴を数値にまとめるもの 代表値では分布を見なくても 分布の特徴を把握できる 一般的には 以下の代表値がよく用いられる 位置を示す代表値 ばらつきを示す代表値 平均値 中央値 最頻値 標準偏差 ( 分散 ) 分布の形を示す代表値 尖度 歪度 代表値では分布の特徴を少ない情報で伝えられる 19

20 位置を示す代表値 1 平均値 : 分布の中心傾向を表す値 但し 分布が偏っている場合や 外れ値が存在する場合には平均値を解釈する際に注意 平均値 偏りと外れ値に注意! 平均値 平均値では分布の中心を推定できる 20

21 位置を示す代表値 2 中央値 : 分布を下半分と上半分に分ける値 最頻値 : 頻度が最も高い値 最頻値 平均値 中央値 最頻値 中央値 平均値 偏りや外れ値がある場合 中央値と最頻値は平均値より有意義であることがある 21

22 割合 (%) 位置を示す代表値の例 1 17 歳の男子の身長分布 ( 平成 26 年度 ) 8% 7% 平均値 = 中央値 = 最頻値 = 170 cm 6% 5% 4% 3% 2% 1% 0% 身長 (cm) 出典 : 平成 26 年度学校保健統計調査結果 ( 文部科学省 ) 22

23 割合 (%) 位置を示す代表値の例 2 貯蓄現在高階級別世帯分布 ( 二人以上の世帯 ) ( 平成 26 年 ) 最頻値 = 200 万円未満 中央値 = 1,052 万円 平均値 = 1,798 万円 貯蓄額 ( 円 ) 出典 : 家計調査結果 ( 総務省 ) 23

24 ばらつきを示す代表値 標準偏差 : 分布が平均値からの散らばりを示す値 標準偏差 標準偏差 = 0.5 標準偏差 = 1.0 標準偏差 = 1.5 分布のばらつきが広いほど 標準偏差が高い 24

25 ~90 cm ばらつきを示す代表値の例 9% 8% 7% 6% 5% 4% 3% 2% 1% 0% 男子の身長分布 ( 平成 26 年度 ) 7 歳 ± 5.1 cm 12 歳 ±7.9 cm 17 歳 ±5.9 cm 出典 : 平成 26 年度学校保健統計調査結果 ( 文部科学省 ) 25

26 分布の形を示す代表値 尖度 : ピーク ( 峰 ) への集中度合いを示す値 歪度 : 左右へのピーク ( 峰 ) の偏りを示す値 尖度 = 0.0 尖度 = 0.5 尖度 = -0.5 歪度 = 0.0 歪度 = 0.5 歪度 =

27 次回のテーマ 次回は 比較して 2 変数の関係を見る お疲れ様でした! 27

28 社会人のためのデータサイエンス演習第 2 週 : 分析の概念と事例第 4 回 : 比較して 2 変数の関係を見る講師名 : 今津義充 28

29 第 2 週の内容紹介 第 1 回 Analysis ( 分析 ) とは 第 2 回 1 変数の状況の把握 1 ( 可視化の活用 ) 第 3 回 1 変数の状況の把握 2 ( 代表値の活用 ) 第 4 回 比較して 2 変数の関係を見る 第 5 回 ビジネスにおける比較 1( 概要 ) 第 6 回 ビジネスにおける比較 2( 適切な A/B テストの活用 ) 29

30 来客数 比較とは 比較する変数の尺度により手法を変える必要がある 名義 vs 名義 : クロス集計を用いて 離散分布を比較する 名義 vs 連続 : ヒストグラムを用いて 連続分布を比較する 名義 vs 名義 来客数 男 女 サイト A 18 3 サイト B 4 16 クロス集計を用いて離散分布を比較する 名義 vs 連続 サイト A サイト B サイト閲覧時間 ヒストグラムを用いて連続分布を比較する 30

31 名義変数 vs 名義変数 : クロス集計 2 変数のカテゴリの組み合わせでデータの個数を集計 横カテゴリにより縦カテゴリの構成が変化するかを調査する あるネット銀行の地域別顧客満足度の構成比 KGI: 顧客満足度 (5 カテゴリ ) 要因 : 地域 (5 カテゴリ ) 100% 90% 5% 7% 10% 15% 13% 10% 20% 19% 地域別顧客満足度 ( 万人 ) 関東関西中部東北中国 満足 やや満足 普通 やや不満 不満 満足やや満足普通やや不満不満 80% 70% 60% 50% 40% 30% 20% 10% 0% 20% 15% 30% 60% 28% 30% 40% 20% 23% 20% 18% 30% 25% 10% 10% 10% 12% 関東 関西 中部 東北 中国 クロス集計で一目で比率の違いを把握できる 31

32 来客数 連続変数 vs 名義変数 : ヒストグラムの比較 平均値や分布の形はカテゴリによって違うか を調査 するために ヒストグラムの比較を行う あるネットショッピングサイトのページ別閲覧時間の分布 KGI: ページ閲覧時間要因 : ページ名 (3 カテゴリ ) ページ A ページ B ページ C ページ閲覧時間 ( 分 ) ヒストグラムの比較でカテゴリによって連続変数の 分布が変わるかを一目で把握できる 32

33 次回のテーマ 次回は ビジネスにおける比較 1( 概要 ) お疲れ様でした! 33

34 社会人のためのデータサイエンス演習第 2 週 : 分析の概念と事例第 5 回 : ビジネスにおける比較 1( 概要 ) 講師名 : 渋谷直正 34

35 第 2 週の内容紹介 第 1 回 Analysis ( 分析 ) とは 第 2 回 1 変数の状況の把握 1 ( 可視化の活用 ) 第 3 回 1 変数の状況の把握 2 ( 代表値の活用 ) 第 4 回 比較して 2 変数の関係を見る 第 5 回 ビジネスにおける比較 1( 概要 ) 第 6 回 ビジネスにおける比較 2( 適切な A/B テストの活用 ) 35

36 ビジネスにおける比較の事例 ビジネスにおいて 比較 は施策の効果検証のためによく用いられる 広告デザインの売上への効果 ウェブサイト コンテンツのクリック率への効果 ワクチンの感染病予防率への効果など 比較による効果検証のために A/B テストを行うことが多い 36

37 A/B テストの事例 サンプル抽出 従来 WEB あるウェブサイトは会員登録ボタンのクリック率を向上させたい そのために ウェブページのデザインを改善した 母集団 サンプル抽出 WEB 改善後 A/B テストの実施 1. 1 ヶ月間の来客を 2 群に分けた 2. 2 デザインをそれぞれの群に出した クリックあり クリックなし 計 クリック率 従来 100 9,900 10, % 3. 各群におけるクリック率を記録した 改善 150 9,850 10, % 4. 2 分布を比較した結果 改善デザインによりクリック率が上がったと分かった 要因 : デザイン ( 従来 改善 ) KGI: クリック率 37

38 A/B テストの紹介 A/B テストは KGI と施策の間の関係 ( 施策効果 ) を調査する手法 以下の流れにより行う 1 対象の集団から小集団を 2 つ取り出す 小集団は 標本 と呼ぶ 効果検証をしたい施策 A と施策 B をそれぞれの標本に適用する それぞれの標本において KGI を測る クリックありクリックなし計クリック率 従来 100 9,900 10, % 改善後 150 9,850 10, % 要因 : 施策 A 又は施策 B のカテゴリをとる 4 両施策による KGI の分布を比較し 有意な効果があるかを判断する 名義変数 KGI: 施策の効果を受ける値 ( 連続変数又は名義変数 ) 38

39 不適切な A/B テストの事例 比較が公平であるようにテストを適切に設計すべき ( 事例 ) ある広告会社は 渋いデザイン と おしゃれなデザイン 2 デザインの売上効果を図るため A/B テストを実施した 標本 A に渋いデザインを 標本 B にオシャレなデザインを設定しアンケートをとった結果 渋いデザインが最も売上を増やすと見られた ただし 渋いデザインの年代分布は年配層に偏っており おしゃれなデザインと分布が異なっていた この場合渋いデザインはベストだと言えるか? 両標本は全ての要因について同一である必要がある 39

40 次回のテーマ 次回は ビジネスにおける比較 2 ( 適切なA/Bテストの活用 ) お疲れ様でした! 40

41 社会人のためのデータサイエンス演習第 2 週 : 分析の概念と事例第 6 回 : ビジネスにおける比較 2( 適切な A/B テストの活用 ) 講師名 : 渋谷直正 41

42 第 2 週の内容紹介 第 1 回 Analysis ( 分析 ) とは 第 2 回 1 変数の状況の把握 1 ( 可視化の活用 ) 第 3 回 1 変数の状況の把握 2 ( 代表値の活用 ) 第 4 回 比較して 2 変数の関係を見る 第 5 回 ビジネスにおける比較 1( 概要 ) 第 6 回 ビジネスにおける比較 2( 適切な A/B テストの活用 ) 42

43 公平な比較を行うためのロジック 全ての要因について両標本が等しい必要がある 要因性別母集団 データの全種類が両標本に同率で含まれるようにする 43

44 ランダムサンプリングの紹介 データから標本をランダムに ( 無作為に ) 抽出すること データの各種類が選択される確率はそれぞれの頻度と等しい 全種類が両標本に同率で含まれることを確保できる 母集団 ランダムサンプリング コイントスを実施 標本 A 表 裏 標本 B ランダムにサンプルを抽出後サンプルを標本 A 標本 Bに無作為に振り分ける 今回はコイントスで振り分けを決める 例コイン表 : 標本 A コイン裏 : 標本 B ランダムサンプリングにより 公平な比較を実現できる 44

45 ビジネスにおける比較まとめ 全ての要因について両標本が等しい必要がある 標本はすべての要因について同一である必要がある 分布が偏らないようランダムサンプリングを心がける サンプル抽出 従来 WEB 母集団 サンプル抽出 WEB 改善後 正しいサンプリングと比較を実施することで より正確に A/B テストの効果を測定できる 45

46 次週のテーマ 次週は 分析の具体的手法 お疲れ様でした! 46