スライド 1

Size: px

Start display at page:

Download "スライド 1"

あまめこびき
5 years ago
Views:

1 2018 年 5 月 8 統計モデリング統計モデリング第四回配布資料文献 : a) A. J. Dobson and A. G. Barnett: An Introduction to Generalized Linear Models. 3rd ed., CRC Press. b) H. Dung, et al: Monitoring the Transmission of Schistosoma japonicum in Potential Risk Regions of China, : Int. J. Environ. Res. Public Health vol. 11(2014), no.2, c) X. N. Zhou, et al: Epidemiology of Schistosomiasis in the People's Republic of China, Emerging Infectious Diseases, vol. 13 (2007), no.10, 配布資料の一部は以下からもDLできます. 短縮 URL 担当 : 田中冬彦

2 第四回ベイズ統計 ( 導入 ) 今後の予定ガンバ大阪ホームページより第六回数値技法 (1) (2) ( M ) θ, θ,, θ のヒストグラム Frequency sample histogram M distribution π ( θ x) の関数形 posterior distribution 第五回ベイズファクター Google map から転載 x theta 第七回グループ発表 1 第八回線形モデルのベイズ解析

3 今日の内容 1. 問題編 ( 中国長江流域架空の都市を題材 ) 2. 統計の復習 1~ ベイズの定理 ( 事象編 ) 3. 統計の復習 2~ ベイズの定理 ( 確率変数編 ) 4. ベイズ統計の基礎 5. 解決編 6. 補足 7. グループワーク ( 計算課題 )

4 本日の主役二項モデル + 事前分布 X ~ Bin( n, θ ) θ ~ π ( θ )

5 2000 年代初頭, 中国都市部の急速な発展とは対照的に長江流域の農村地区では水道さえ整備されていなかった 2004 年の調査では中国内で少なくとも約 70 万人と推定割合は数 % だが長江流域では村全体が感染することも普通に起きている風画像はイメージです

6 Google map から転載

7 上流下流今回新たに調査に入った F 村住血吸虫症が蔓延している村 ( 感染率 > 0.5) 住血吸虫症が蔓延していない村 ( 感染率 < 0.5)

8 上流下流 F 村 ( 数百人程度 ) 考えてみよう! 住血吸虫の感染率を早期に判断する必要がある診断用資材は十分高い精度があるが 10 人分しかない F 村の感染率を推測する上で10 人をどうやって選べばよいか?

9 上流下流感感非感非非感感感感調査で判明したこと 10 人中, 7 人が住血吸虫に感染! F 村全体での感染率 > 0.5 ( 蔓延 ) と考えてよいか?

10 θ : F 村の感染率 H 0 ( 帰無仮説 ) : θ 0.5 H ( 対立仮説 ) : θ > 検定統計量 T = 統計的仮説検定復習 ˆ θ θ0 θˆ = 0.7 θ 0 = 0.5 ˆ(1 θ ˆ) θ / N N =10 検定方式 T T ( 有意水準 0.05) > 蔓延していると考えてよい蔓延しているとまではいえない検定統計量の値を計算すると T = = (1 0.7) /10

11 上流下流 F 村住血吸虫症が蔓延 ( 感染率 > 0.5) 住血吸虫症が蔓延してない ( 感染率 <0.5) 10 人中, 7 人が住血吸虫に感染ただし, 蔓延とはいえない (N=10) しかし, F 村周辺の似たような村の 80% が蔓延 ( 感染率 > 0.5) が既に判明している

12 考えてみよう問題提起他の村の 80% で蔓延, この現地の情報を無視した解析はよいのだろうか. 仮定 : 近隣地域の感染率は, 十分高い精度で判明. 住血吸虫症が蔓延している村 ( 感染率 > 0.5) の割合 80% は十分, 信頼できる情報とする.

13 2. 統計の復習 1 ~ ベイズの定理 ( 事象編 )

14 ここでのポイントベイズ統計の根本 = 条件付き確率を用いた推論

15 条件付き確率とベイズの定理条件付き確率事象 Aが起きた時にBも起きている確率 Pr( A B) Pr( B A) Pr( B A) : = = Pr( A) Pr( A) A,Bが独立の場合には Pr( B A) = Pr( B) ベイズの定理 ( ベイズの公式 ) Pr( A B) Pr( B) Pr( B A) = Pr( A) 数学的には下の定義の書き換えにすぎない Pr( A B) = Pr( B A) Pr( A) = Pr( A B) Pr( B)

16 モデリングを考える上での注意点以上は数学的な定義の仕方練習してみよう! 実際には, 条件付き確率 Pr( B A) を先に考えることも練習犯人が犯行後に犯行現場にやってくる確率 90% Pr( B A) = 0.90 A, B はどのような事象と解釈できるか. A B

17 結果を予想してみよう! 例題 : がん診断 * ( 以下は架空のものです ) がんの有無を95% の確率で判別できる診断法があります検査を受ける人の中でがんである割合は年間 0.5% Aさんの診断結果は陽性でした Aさんの正しい対処方法は? 予想される選択肢 : 1.95% でがんだから, 家族と今後について話し合う 2. 所詮は半分半分 3. 統計的にはがんの人は 0.5% 程度だろ? * 松原望 : 入門ベイズ統計, 東京図書

18 条件付確率の計算例 (1/3) 1. 診断方法が 95% の精度これは条件付き確率で表現される!! A: 診断で陽性 ; ~A: 診断で陰性 B: がん ; ~B: がんでない Pr( A B) = 0.95, Pr(~ A B) = 0.05, Pr(~ A ~ B) = 0.95, Pr( A ~ B) = * 記法 : 補集合 c ~ A は Aの補集合 ( A とかくことが多い )

19 条件付確率の計算例 (2/3) 2. 検査を受ける人ががんである割合これは確率で表現!! Pr( B) = 0.005, Pr(~ B) = 検査を受けて陽性が出る確率 Pr( A) = Pr( A B) + Pr( A ~ B) = Pr( A B) Pr( B) + Pr( A ~ B) Pr(~ B) = ここの計算は時間の都合でとばします.

20 条件付確率の計算例 (3/3) 4. 陽性が出た時にがんである確率 Pr( B A) = Pr( A B) Pr( B) Pr( A) ここでベイズの公式を用いる! = 0.087

21 例題 : 迷惑メールフィルタの仕組みモデル化の例 : 以下の条件を条件付き確率で表してみよう. 設定練習してみよう! 通常メールと迷惑メールの受信比率は 90:10 迷惑メールに特徴的な単語としてアダルトが81% で本文に入る通常メールでもたまにアダルトが本文に入る(1%) A: 本文にアダルトが含まれる ; ~A: 含まれない B: 迷惑メール ; ~B: 通常メール Pr( A B) = 0.81 Pr( A ~ B) = 0.01.

22 練習してみよう! 迷惑メールの比率 Pr(B) = Pr(~ B) = 本文にアダルトが含まれる比率 Pr(A) = Pr( A B) Pr( B) + Pr( A ~ B) Pr(~ B) = 本文にアダルトが見つかった場合, 迷惑メールである確率 Pr( B A) =

23 ここまでのまとめベイズの定理 ( ベイズの公式 ) Pr( B A) = Pr( A B) Pr( B) Pr( A) 応用例 : 迷惑メールフィルタ実際には 1 つの単語のみで判断するのは難しいが複数の単語 ( や他の条件 ) を組み合わせることで確率は上がっていく機械的に判断できる条件で確率が高いものを迷惑メールとみなして別のフォルダに振り分ける機械学習人工知能 (AI) などの基礎にもなっている!

24 3. 統計の復習 2 ~ ベイズの定理 ( 確率変数編 )

25 連続確率変数の独立性確率変数の独立性復習 2 つの確率変数 X,Y の同時確率密度 ( 結合確率密度 ) p( x, y) p( x, y) 0, p( x, y)dxdy = 1 2 つの確率変数 X,Y が独立 p ( x, y) = p( x) p( y) p( x) 0, p( x)dx = 1 p( y) 0, p( y)dy = 1 注意 1. 確率変数 X, X, 2, も同様 1 X n p( x,, xn) = p( x1 ) p( x 1 n 2. 離散確率変数の時も同様 )

26 確率変数の条件付き確率復習連続確率変数の条件付き確率 2つの確率変数 X,Y の確率密度 p( x, y) 周辺密度 p ( x) = p( x, y) dy p( y) = p( x, y) dx 確率変数 X の Y=y での条件付き確率密度 p( x y) で定まる p( x, y) p ( x y) = p( y) p( y) X Y (X, Y) の確率分布を条件付き確率などという = p( x, y) dx

27 確率変数のベイズの定理復習連続確率変数のベイズ定理 ) ( ) ( ) ( ) ( x p y p y x p x y p = ここで分母の周辺密度は, 次のように計算できる. = = y y p y x p y y x p x p d ) ( ) ( )d, ( ) ( ( 数理以外の人には ) 抽象的でわかりづらいですが後でグループで計算します.

28 4. ベイズ統計の基礎

29 ここでのポイントベイズ統計の基本 = 統計モデルのパラメータに確率分布を設定

30 統計モデルに基いた分析第二回データの統計分析 1. データに応じた統計モデルの設定 ( 母集団分布のモデル化 ) i. i. d. X1,, X n ~ p( x θ ) θ 2. パラメータの推測点推定区間推定 ( 信頼区間 ) 仮説検定ベイズ統計もこの流れは同じ!

31 パラメータの推測における不確実性分析者の気持ち prob θ theta 0.7 prob 分析者が強い確信を持っている場合 ( データが大量 ) theta θ 0.7 分析者は左図のような確率分布で表現したい!

32 パラメータの確率分布の導入統計モデルは所与とする.( 簡単のため, サンプルサイズ n= 1.) x ~ p( x θ ) ベイズ統計ではパラメータにも確率分布を設定 ( 設定方法は後で ). 事前分布 (*) π ( θ ) θ ~ π ( θ ) dθ = 1, π ( θ ) 0 パラメータに対する不確実性を確率分布で表現. データを得る前 ( 事前 ) の分布で事前分布 (prior) *1 確率分布と確率密度関数 / 確率関数は混同して用いる π p(θ ) *2 データの分布と区別するため, を用いるが, と書いてもよい.

33 データ x とパラメータパラメータの条件付き確率分布 θ の同時分布を以下で定義 p ( x, θ ) = p( x θ ) π ( θ ) データ x のみの確率分布 ( 周辺分布 ) は ( θ ) p( x) = p( x θ ) π dθ データ x が与えられた時のパラメータ θ の条件付き分布は π ( θ x) = p( x θ ) π ( θ ) p( x) この条件付き分布を事後分布という

34 事前分布と事後分布未知パラメータの事前分布 ( 分析者が設定 ) π (θ ) 事後分布 ( データ x を代入してベイズ定理から計算 ) π ( θ x) π (θ ) π ( θ x) prob 条件付き分布に変化 θ prob θ theta theta

35 従来の統計学との違いやや学術的従来の統計学 ( 頻度論的統計ともいう ) 統計モデルは数学的に扱いやすいものを設定各分析 ( 推定検定 ) に応じて公式を導出 (& 理論上はサンプルサイズ大を暗に仮定 ) ベイズ統計学 π (θ ) パラメータに初期の確率分布を設定パラメータの条件付き分布 π ( θ x) に基いて一貫して考える ( 複雑なモデルでもやり方は変わらない ) ベイズ統計の根幹は条件付き分布 ( 事後分布 )!!

36 二項モデル統計モデル ~ 二項モデル (* 学部 1 年統計学 B-2, C-2 の内容 ) θ 毎回, 独立に一定の確率で感染者を選んでいると考えて 10 人中 X 人の感染者が選ばれるとする. X ~ Bin(10, θ ) F 村非感感感感感非非非感感感感感感感非感非非感感感感感感感感感感非非非感感感非補足 : 先の統計的仮説検定は上のモデルのみで, 公式を導出していた

37 事前分布の設定 (1/2) 事前分布 θ 感染率は村ごとに異なるが近隣地域の情報 ( 事前情報 ) から F 村の感染率について以下のような確率分布を設定 Pr( θ > 1/ 2) = Pr( θ 1/ 2) = 住血吸虫症が蔓延 ( 感染率 > 0.5) 住血吸虫症が蔓延してない ( 感染率 <0.5)

38 事前分布の設定 (2/2) 離散化 ( 今回のみ ) 計算の都合上 θ = 0.0, 0.1, , 1.0 θ π (θ ) ~ π ( θ ) = θ は以下の離散値とする, θ = 0.8, θ = 5 0,0.1,..., ,0.7,...,1.0 prob Prior theta > theta <- (0:10)/10 > prior <- c( rep(0.2/6, 6), rep(0.8/5, 5)) > plot(theta, prior, pch=3, col=3, lwd=5, xlab="theta", ylab="prob.", main="prior", xlim=c(0,1), ylim=c(0, 0.35)); 以上のモデルで θ の条件付確率 ( 事後分布 ) を数値的に求める

39 1. 事後分布図の青点 2. 事後分布を最大にする点 (MAP) ˆ = 0.7 θ π 3. 事後分布による蔓延の確率 Pr( θ > 1/ 2 x = 7) 計算結果 = π ( θ = 0.6 x = 7) + π ( θ = 0.7 x = 7) + π ( θ = 0.8 x = 7) + π ( θ = 0.9 x = 7) + π ( θ = 1.0 x = 7) = 0.95 prob Prior, Posterior > X_obs <- 7; N <- 10; like <- dbinom(x_obs, N, theta); > poste <- like*prior/(sum(like*prior)); > plot(theta, prior, pch=3, col=3, lwd=5, xlab="theta", ylab="prob.", main="prior, Posterior", xlim=c(0,1), ylim=c(0, 0.35)); > points(theta, poste, pch=1, col=4, lwd=5); > sum(poste[theta > 0.5]); theta θ 周辺の村を考慮した事前分布により実感とあう蔓延確率が出た!

40 6. 補足

41 ベイズ解析ベイズ解析 / ベイズ分析 (Bayesian Analysis) データ x 所与の下, 事後分布 π ( θ x) を用いて統計解析を行うことベイズ解析の強み π ( θ x) が計算できてしまえば, 統一的に統計解析が行えるパラメータ推定 ( 点推定 ) 信用区間仮説検定; 判別モデル選択予測分布概念的な難しさはない ( シンプル!)

42 ベイズ解析の難点問題は事後分布 π ( θ x) の計算統計モデル事前分布の設定数値手法

43 統計モデル p( x θ ) 事前分布メジャーなもののみ扱う π ( θ ) 本講義のスタンス事後分布が計算しやすいクラス ( 主に共役事前分布 ) 正当性階層構造を入れると広いクラスサンプルサイズ大なら, 事前分布の取り方に大きく依存はしない cf) 理論的な課題事前の情報あり / 情報なしどのように事前分布に反映させるべきか?

44 次回以降やっていくこといろいろな統計モデルに事前分布をいれてベイズ解析基本的な統計モデル ( 第一回 ) 線形モデル ( 第二回 ) Y = α + β + ε i x i Y Po( µ ) n i ~ i log µ = i p j= 1 κ x j ij i i =1,, 2 ε ~ N(0, σ ) ポアソン回帰 ( 一般化線形モデル )( 第三回 ) i i =1,, n たとえば α, β,, σ 2 ;, x i κ j 適切なものにをつけよに確率分布 ( 事前分布 ) を導入

45 練習問題 ( 後半にグループで取り組む提出はグループ用シートのみ )

46 グループで計算してみよう! 問 1: グループメンバーで以下を埋めて, お互いの理解を確認二項モデルの確率関数 θ 毎回, 独立に一定の確率で感染者を選んでいると考えて 10 人中 x 人の感染者が選ばれる確率は p x 10 = x x 10 x ( θ ) θ (1 θ ) 事前分布の確率関数 θ π (θ )

47 問 2 グループで計算してみよう! グループメンバーで手分けして x =3,5,7,9 のそれぞれの事後分布を求め以下の表を埋めなさい. 事後分布の確率関数 θ π (θ 3) θ π (θ 5)

48 θ π (θ 7) θ π (θ 9) 問 3 π ( 0.5) = 1 π ( θ ) = 0, θ 0.5 事前分布のとき事後分布はどうなるか?

スライド 1

スライド 1 2019 年 5 月 7 日 @ 統計モデリング統計モデリング第四回配布資料 ( 予習用 ) 文献 : a) A. J. Dobson and A. G. Barnett: An Introduction to Generalized Linear Models. 3rd ed., CRC Press. b) H. Dung, et al: Monitoring the Transmission