確率・統計の基礎

Size: px

Start display at page:

Download "確率・統計の基礎"

さいぞうあると
5 years ago
Views:

1 確率統計の基礎麻生良文

2 項目確率変数分布関数, 密度関数期待値分散さまざまな確率分布二項分布, ポアソン分布正規分布, 対数正規分布, ロジスティック分布カイ二乗分布,t 分布,F 分布 Excelでの確率統計関数同時分布

3 確率変数 random variable ある変数 X の値が事前にどの値が実現するかわからない場合,X の実現値 x が確率 P をもって実現するとみなす確率論ではもっと抽象的な定義が与えられる X を確率変数実現した値 x を実現値とよぶ離散型 (discrete type) X のとりうる値が離散変数の場合サイコロ X={1,2,3,4,5,6} 連続型 (continuous type) X のとりうる値が連続変数の場合

4 分布関数, 密度関数分布関数 (distribution function) F( x) Pr( X x) Pr(X x) 確率変数 Xがx 以下の値をとる確率累積分布関数 (cumulative distribution function) F( ) lim x F( ) lim x F(x) は単調増加関数密度関数 (density function) 確率密度関数 (probability density function) f ( x) lim h0 F( x F( x) 0 F( x) 1 h) F( x) h

5 分布関数, 密度関数 (2) 分布関数 ( 続き ) F ( x) f ( u) du x Pr( a X b) F( b) F( a) f ( u) du b a F(x) が微分可能な場合には離散型確率変数の場合 X のとりうる値が x 1,x 2, の場合 p i df( x) f ( x) dx Pr( X F( x) x x i p i x i )

6 Cumulative Probability Density 分布関数, 密度関数 (3) Normal Distribution: = 0, = 1 標準正規分布の場合 Normal Distribution: = 0, = x 分布関数 (distribution function) F ( x) f ( u) du x 密度関数 (density function) x

7 期待値, 分散期待値 (expected value) 分散 (variance) m を期待値として重要な公式 E( X ) E( X ) Var( X ) Var( X ) xf( x) dx i p x i i x m i 2 m 2 p i x i f ( x) dx Var( X ) E( X 2 ) 2 m

8 離散的な確率変数の例 2 項分布 binomial distribution 1 回の試行で成功する確率を p, 失敗する確率を q とする (q=1-p) n 回の独立な試行で成功した回数を確率変数 Xで表す X=k(0 k n) となる確率は期待値, 分散は Pr( X E( X ) Var( k) X ) n np C k p npq k q nk

9 Probability Mass その他の離散分布の例ポアソン分布 Poisson Distribution: Mean = 1.5 Pr( X k) k k! exp k 0 k exp k! E( X ) k 0 1 k exp k! k x 2 項分布で n が大きく,p が非常に小さいときの極限 1 回の試行では起こることが稀だが, 試行回数が多いので, 何回かは起こるプロシアの軍隊で馬に頭を蹴られて死亡する軍人の数 (1 年間で )

10 連続的な確率変数の例正規分布カイ二乗分布 t 分布 F 分布対数正規分布指数分布

11 正規分布 normal distribution 平均 m, 分散 s 2 の正規分布 X~ N(m, s 2 ) 密度関数 f ( x) 1 exp 2s 1 2 x m s 2 m=0, s 2 =1 の正規分布標準正規分布 (standard normal distribution) の密度関数 ( z) exp z 2 2

12 Cumulative Probability Density 標準正規分布のグラフ Normal Distribution: = 0, = 1 Normal Distribution: = 0, = 分布関数 (distribution function) x 密度関数 (density function) x x F ( x) f ( u) du

13 標準正規分布の性質密度関数は左右対称 X~N(m,s) のとき,Z=(X-m)/s は標準正規分布に従う ( z) ( z) Pr(Z z)=(z) : 分布関数 Pr(Z>z)=1 (z) Pr(a Z b)=(b) (a) 1 exp 2 z ( t) dt 1 2 z 2

14 標準正規分布の性質 (2) Pr(-1<Z<1)= Pr(-2<Z<2)= Pr(-3<Z<3)= 分布関数の逆関数 Pr(Z z)=p となる z を求める Excelでは norm.s.inv (p) という関数を用いて求められる p=0.90 z= p=0.95 z= p=0.975 z= Excelの統計関数はversionに違いがあるので注意

15 正規分布と標準正規分布 X ~ N(m, s 2 ) の場合 X μ Z = ~N 0,1 σ Pr 1 Z 1 = Pr 2 Z 2 = Pr μ σ X μ + σ = Pr μ 2σ X μ + 2σ =

16 カイ二乗分布カイ二乗分布 (chi squared distribution) z i が互いに独立で同一の標準正規分布に従う確率変数であるとした場合 (i=1,2,..,n), z i の平方和 z 12 + z z n 2 は自由度 n のカイ二乗分布に従う z i 2 ~ N(0,1) 2 i.i.d. z z z ~ ( n) 1 2 n 2 i.i.d. 独立で同一の分布に従う 2

17 F 分布,t 分布 x ~ 2 (n), y~ 2 (m) で,x と y が独立であるとするこのとき,x/n と y/m の比は自由度 (n, m) のF 分布に従う x n F( n, m) y m z~n(0,1),x~ 2 (n) でzとxは独立であるとするこのとき, 次の変数は自由度 nのt 分布に従う z t( n) x n

18 Density Density Density カイ二乗分布 Chi-Squared Distribution: df = 2 2 distribution df= df=5 Chi-Squared Distribution: df = 5 Chi-Squared Distribution: df = 10 df=

19 Density Density Density F 分布 F Distribution: Numerator df = 2, Denominator df = 100 df=(2,100) df=(5,100) f F Distribution: Numerator df = 5, Denominator df = 100 F Distribution: Numerator df = 10, Denominator df = 100 df=(10,100) f f

20 t 分布黒 : 標準正規分布赤 : t 分布 (df=10) 赤 : t 分布 (df=10) 青 : t 分布 (df=1000) t 分布は正規分布より裾の厚い分布自由度の増加正規分布に近づく

21 対数正規分布 lognormal distribution x の対数値が正規分布に従う場合 ln x ~ N(m, s 2 ) x は対数正規分布に従うといい, 次のように表す x ~ LN(m, s 2 ) なお, 期待値は次の通り E(x)=exp(m+s 2 /2) 所得分布はこの分布でうまく近似できることが知られている x~ln(0, 1.0) のとき,E(x)=exp(0.5) 1.65 平均値はモードよりもかなり高い

22 Excel2016 での統計関数 CHISQ.DIST(x, df, 関数形式 ) : Pr(X<=x) を返す CHISQ.INV(p, df) CHISQ.DIST.RT(x, df) : Pr(X>x) を返す CHISQ.INV.RT(p, df) F.DIST(x, df1, df2, 関数形式 ) : Pr(X<=x) を返す F.INV(p, df1, df2) F.DIST.RT(x, df1, df2) : Pr(X>x) を返す F.INV.RT(p, df1, df2) LOGNORM.DIST(x, mean, stdev, 関数形式 ) LOGNORM.INV(p, mean, stdev) NORM.DIST(x, mean, stdev, 関数形式 ) NORM.INV(p, mean, stdev) NORM.S.DIST(x, 関数形式 ) NORM.S.INV(p) T.DIST(x, df, 関数形式 ) T.DIST.2T(x, df) 両側 T.DIST.RT(x, df) 右側 T.INV(p, df) T.INV.2T(p, df) 関数形式 : TRUE : 累積分布, FALSE : 密度関数 Excel の関数は version によって異なる場合があるので,help 等で確かめること

23 Eviews での統計関数 (1) 累積分布 Quantile

24 Eviews での統計関数 (2) @rlognorm(m,s) log x ~ N(m, s 2 )

Eviews での統計関数 (3) コマンドラインに式を書くこの例では, scalar p = @cnorm(2.

25 Eviews での統計関数 (3) コマンドラインに式を書くこの例では, scalar p として, 計算結果を変数 p に代入した scalar は変数 p がスカラー変数だという宣言結果は,p という変数に収められている

26 R の統計関数 (1) 累積分布 (CDF) p + 密度関数 (density function) d + Quantile(CDFの逆関数 ) q + 乱数 r + 例 ) pnorm(x), dnorm(x), qnorm(p), rnorm(n) norm は正規分布を表す mean( 平均 ) と sd( 標準偏差 ) を指定する省略した場合は mean=0, sd=1 pnorm(x) = pnorm(x, mean=0, sd=1) qnorm(p, mean, sd) : 累積確率 p を与えて pnorm(x,mean,sd)=p を満たす x を返す rnorm(n, mean, sd) ; n 個の要素からなる乱数を返す

27 R の統計関数 (2) Distribution R name additional arguments beta beta shape1, shape2, ncp binomial binom size, prob chi-squared chisq df, ncp exponential exp rate F f df1, df2, ncp log-normal lnorm meanlog, sdlog logistic logis location, scale normal norm mean, sd Student s t t df, ncp uniform unif min, max

28 R の統計関数 (3) コマンドラインで次のようにタイプする x<- seq(from = 5.0, to = 5.0, by=0.1) y<- dnorm(x) plot(x,y,type="l") から 5 まで 0.1 刻みのベクトルを作り,x に代入 seq( ) は連続データを作成する関数標準正規分布の密度関数 y に代入 plot(x,y) で散布図を描かせる type= l は線 (line) グラフの指定平均, 標準偏差の指定は dnorm(x, mean=xx, sd= xx) とする ( 省略時は mean=0, sd=1) 累積分布関数のグラフを書くには, pnorm(x,mean,sd ) を用いる

29 R での統計関数 (4) 統計表として利用標準正規分布で累積確率がになる点は > qnorm(0.975) [1] Pr(x<=2.0) を求める ( 標準正規分布 ) > pnorm(2.0) [1] 自由度 20 の t 分布の場合の同様の計算 > pt(2.0,df=20) [1] > qt(0.975,df=20) [1]

30 同時分布 ( 離散分布の場合 ) X と Y が確率変数同時確率 (joint probability) p(x,y) Pr(X=x,Y=y) 周辺確率 (marginal probability) p(x) Pr(X=x)= y p(x,y) 条件付確率 (conditional probability) X=x が与えられた場合の Y の確率関数 p(y x) Pr(Y=y X=x)=p(x,y)/p(x) 分布の独立性 p(x,y) = p(x) p(y)

31 同時分布 ( 連続分布の場合 ) XとYが確率変数同時分布関数 (joint distribution function) F(x,y) Pr(X x,y y) 同時密度関数 f ( x, y) 周辺密度関数 2 F( x, y) xy f X ( x) f ( x, y) dy

32 同時分布 ( 連続変数の場合 2) 条件付密度関数 X=x が与えられた場合の Y の密度関数 f ( y x) f ( x, y) f ( x) X 分布の独立性 F(x,y) = F X (x)f Y (y) f(x,y)=f X (x) f Y (y)

33 共分散と相関係数 cov( X, Y) corr( X, Y) E ( X m X )( Y m ) cov( X, Y) s XY var( X ) var( Y) s s Y X Y 共分散 covariance, 相関係数 correlation coefficient -1 cor(x,y) 1 cor(x,y)=0 確率変数 X と Y は無相関相関は 2 つの変数間の線型関係をみるもの X と Y が無相関であっても, 非線形の関係があるかもしれない

34 期待値, 分散の性質 a,b を定数 X,Y を確率変数として E( ax b) a E( X ) b E( X Y ) E( X ) E( Y) var( ax b) a 2 var( X ) var( X Y ) var( X ) var( Y) 2cov( X, Y) 分散 Var( X ) E( X 2 ) 2 m

35 標本平均の性質 n Y Y Y n Y Y n Y Y Y Y n Y X n n i i n var var E 1 E 1 s m Y 1,Y 2,...,Y n は互い独立で同一の分布に従う E(Y i )=m, var(y i )=s, (i=1,2,..,n) n が大きくなるにつれ, 標本平均のバラつきは小さくなる ( 大数の法則 )

36 Excel で確率分布のグラフを描く 2 項分布 n: 試行回数 p: ある事象の起きる確率 Pr(X=k)= n C k p k (1-p) n-k を計算 n C k combin (n,k) 2 項分布 binom.dist(k,n,p, 関数形式 ) 関数形式 TRUE 累積分布, FALSE 確率密度ポアソン分布 poisson.dist(n,, 関数形式 )

Eviews で確率分布のグラフを描く新しい work file を作成 menu から File NewWorkfile observations に適当な値を入れる ( ここでは 101 にした x の範囲と刻みによって決める ) workfile の structure type は unstructured に x の値を作成 ([-5,5] の区間で 0.

38 Eviews で確率分布のグラフを描く新しい work file を作成 menu から File NewWorkfile observations に適当な値を入れる ( ここでは 101 にした x の範囲と刻みによって決める ) workfile の structure type は unstructured に x の値を作成 ([-5,5] の区間で 0.1 刻みの連続データを作成コマンドウィンドウで次のようにタイプ series x = 5.0 続いて, 正規分布,t 分布 ( 自由度 30) の確率密度関数を作成 series y1 series y2 30) 後は,x,y1,y2 : オブザベーションの順番に 0,1,2,3,... を返す関数変数の作成は,menu から genr を選択してもよい

39 Y1 Y Eviews で書いた標準正規分布と自由度 30 の t 分布の密度関数同様にして, 自由度の異なる t 分布の密度関数を描くことできる F 分布や, カイ二乗分布も同様に描ける ( X

40 R でのグラフコマンドラインでつぎのようにタイプ x<- seq(from=-5.0, to= 5.0, by=0.1) y<- dnorm(x) 標準正規分布 y1 <- dt(x,df = 10) 自由度 10のt 分布 y2 <- dt(x,df= 100) 自由度 100のt 分布 plot(x,yy,type= l ) : yy にy,y1,y2を入れる type=l( エル ) は線グラフの指定ーーーーーーー重ね描きすると,yとy1,y2の違いがわかりやすい plot(x,y,type= l,col= red ) par(new=t) 前のグラフに上書きするコマンド plot(x,y1,type= l,col= blue ) col = red は色を指定するオプション RのコマンドのオプションはHelpで調べることカイ二乗分布,F 分布のグラフ dchisq(x,df),df(x,df1,df2) X は正の数であることに注意

41 問題 (Eviews) Eview を用いて, 標準正規分布の密度関数と累積分布関数のグラフを作成せよ -5.0 から 5.0 まで,0.1 刻みの変数を作る (x) で密度関数の値を入れた変数を作るで累積分布関数の値を入れた変数を作る標準正規分布で, 累積分布が 0.95,0.975,0.99,0.995 となる x で x の値が返る自由度 5,10,50,100 の t 分布の密度関数のグラフと標準正規分布のグラフを比較せよ異なる自由度のカイ二乗分布のグラフを描け異なる自由度の F 分布のグラフを描け

42 問題 (R) R を用いて, 標準正規分布の密度関数と累積分布関数のグラフを作成せよ -5.0 から 5.0 まで,0.1 刻みの変数を作る (x) x <- seq(from=-5.0, to=5.0, by=0.1) y1 <- dnorm(x) で密度関数の値を入れた変数を作る y2 <- pnorm(x) で累積分布関数の値を入れた変数を作る plot(x,y1), plot(x,y2) 標準正規分布で, 累積分布が 0.95,0.975,0.99,0.995 となる x の値を求めよ qnorm(p) で x の値が返る自由度 5,10,50,100 の t 分布の密度関数のグラフと標準正規分布のグラフを比較せよ異なる自由度のカイ二乗分布のグラフを描け異なる自由度の F 分布のグラフを描け 100 個の乱数 ( 標準正規分布 ) を発生させ, グラフに描く x <- rnorm(100), plot(x), hist(x) 平均値等を求める mean(x), var(x), summary(x) 1000 個,10000 個の乱数で同様のことを行う

統計学 - 社会統計の基礎 - 正規分布標準正規分布累積分布関数の逆関数 t 分布正規分布に従うサンプルの平均の信頼区間担当 : 岸康人資料ページ :

統計学 - 社会統計の基礎 - 正規分布標準正規分布累積分布関数の逆関数 t 分布正規分布に従うサンプルの平均の信頼区間担当 : 岸康人資料ページ : 統計学 - 社会統計の基礎 - 正規分布標準正規分布累積分布関数の逆関数 t 分布正規分布に従うサンプルの平均の信頼区間担当 : 岸康人資料ページ : https://goo.gl/qw1djw 正規分布 ( 復習 ) 正規分布 (Normal Distribution)N (μ, σ 2 ) 別名 : ガウス分布 (Gaussian Distribution) 密度関数 Excel:= NORM.DIST