Microsoft PowerPoint DegreesOfFreedom.ppt [互換モード]

Transcription

1 統計的仮説検定から 有効自由度に至るまでを 産業技術総合研究所計測標準研究部門 計量標準システム科計量標準基盤研究室 城野克広 1

2 統計的仮説検定から有効自由度に至るまでを 計測の分野では 95 % 信頼区間を持って拡張不確かさとすることが多いです 拡張不確かさは 測定の結果について 合理的に測定量に結び付けられ得る値の分布の大部分を含むと期待される区間を定める量 と定義されています しかし 古典的統計に基づいた拡張不確かさは 測定の結果について 合理的に測定量に結び付けられ得る値の分布の 95 % を含むと期待される区間を定める量 ではありません そして 私もそのことを承知しながら 面倒臭さのために そのように 嘘 をつくこともあります そんな謝罪の気持ちも込めて Web 公開用のこの資料では その辺りできる限り詳しく説明してみたいと思います 統計的仮説検定から有効自由度に至るまでを 産業技術総合研究所城野克広 <k.shirono@aist.go.jp> 2

3 1. 統計的仮説検定 3

4 仮説を立てよう 仮説検定 とは 仮説が正しいかどうか確かめること である 仮説 1 空はいつも青い 仮説 2 どの場面でも長嶋茂雄の背番号は3 番 仮説 3 すべての白鳥は白い 正しいだろうか? 4

5 夕焼けは赤いし 夜空は黒い 仮説を立てよう 実際にはすべて正しくはない このとき仮説は棄却されたという 最初の監督時代は 90 次は 33 オーストラリアの黒鳥はハクチョウ属の鳥類 5

6 統計的仮説検定 くじ引き用のドラム を考えよう ドラムAには赤が99 個青が1 個 ドラムBには赤が1 個青が99 個 仮説 このドラムが B である はどうしたら 確かめられるか? 6

7 統計的仮説検定 もちろん観察事実は必要 一回ドラムを回して 赤が出たとしたら? 赤 7

8 統計的仮説検定 仮説 = このドラムは B だ このドラムが B なら赤い玉が出る確率は 1% 以下しかないから 多分間違っている これを 有意水準 1% で仮説は棄却される という 8

9 統計的仮説検定 このとき 仮説 = このドラムは A だ は 確かめられたといえるのか? 上の仮説を帰無仮説とすると棄却はされないが 棄却されないことは積極的に支持されることとは異なる 一方で ドラム A と B しかないなら ドラム B ではないからドラム A だ は成り立つだろう 9

10 統計的仮説検定 このように 統計を用いた検定では棄却されて初めて結論が出る つまり 仮説は棄却されるために立てる このことから 仮説を 帰無 きむ 仮説 と呼ぶことがある また 帰無仮説が正しくないとき その背反として成り立つ仮説 を対立仮説という このように 帰無仮説を立て 有意水準を定め 検定を行う ことを 統計的仮説検定 と呼ぶ さあ 仮説を立ててみよう! 10

11 仮説を立てよう 1 効果の検定 血圧を下げるための薬を服用したとしよう 薬に効き目があったかどうかを判断するために仮説を立ててみよう 11

12 仮説を立てよう 1 効果があったかどうかを知りたいときには 効果がなかったらどうかを考える 仮説 = 血圧はいつもの血圧である もし これが棄却されれば 血圧に変化があるということである もちろん いつもの血圧より大きい でもよいのだが 実際の手続きを考えると結構面倒なことになる 12

13 仮説を立てよう 2 区間推定 あるサンプルに含まれている有機物 A の濃度を知りたい 測定して得られるのは 測定の不確かさの分だけずれた値であり 本当の値ではない 本当の値が どの範囲にあるか 知るための仮説はどのようなものがふさわしいだろうか? 13

14 仮説を立てよう 2 仮説 1 = 濃度は ( 測定値より小さい )a である 仮説 2 = 濃度は ( 測定値より大きい )b である 両方が棄却されれば 本当の濃度 cはa < c < bであると結論づけることができる!! このように検定を組み合わせて区間を定めることを区間推定と呼ぶ 14

15 言い訳? 厳密な定義の話 本資料では 信頼区間とは 両側検定の採択域である というストーリーでお話して行こうと思うが 一般的には 信頼区間とは 両側検定の採択域である と等価である (= 信頼区間と両側検定の採択域は たまたま 一致する ) という言い方がされることが多い そもそもの信頼区間は そのやり方で推定すると真の値がその区間に含まれる確率が 95 % になるようなやり方で定めた区間 という定義がよくされる しかし これではどう計算を始めたらよいのか 全く見当がつかない ( ような気がする ) このため 統計学的な厳密さはさておいて 実用的な観点から 信頼区間とは 両側検定の採択域である という立場から説明していこうと思う 15

16 正規分布による検定 片側検定 ブタ肉を 100 g の注文を受けたとき 100 g 以下ではクレームがつく ブタ肉の計量のばらつきが 1g の標準偏差がある正規分布に従う場合 何 g 以上ときのみ販売すれば ブタ肉が 100 g 以下のときに 誤って 100 g として売ってしまうことを 1% 以下に防ぐことができるか? ( 注 ) 通常ここでいう標準偏差ははかりの校正の標準不確かさに繰り返しの不確かさを足したものである 単純な繰り返しの変動や環境条件などの変動がある場合には 校正の不確かさだけでは十分ではない 16

17 正規分布による検定 仮説 = ブタ肉は 100 g である つまり考えなくてはいけないのは 下の 真の平均が 100 g の正規分布 である = 1g 計測値を中心とする正規分布を考えるのではなく 仮説に基づいた分布を考える = 100g 17

18 正規分布の特徴 ( + 2) ( + 3) % 99.5 % 0.15 % 0.5 % 99 % 1 % 97.5 % 2.5 % 95 % 5 % 18

19 正規分布による検定 今回の場合に当てはめると = 1g = 100g = g 99 % 1 % 本当のブタ肉が 100 g より少ないなら g 以上 に計量される確率は 1 % 以下ということが分かる 19

20 正規分布による検定 論理を確認してみよう 計量値が g 以上であれば 仮説 = ブタ肉は 100 g である は有意水準 1 % で棄却される 本当のブタ肉が 100 g より少ないなら g 以上 に計量される確率は 1 % 以下である g 以上 の時販売すれば 本当のブタ肉が 100 g より少ないときに 誤って売る確率は 1 % 以下である 20

21 こぼれ話 : 統計でできること 制御したい確率 を制御する検定ができているかは しっかりとチェックする必要がある 例えば 本当は 100 g 以下のブタ肉にも関わらず 100 g 以上として販売してしまう確率 と 100 g 以上として販売したブタ肉が本当は 100 g 以下である確率 は違う 実は後者は古典的な統計で考えるのは非常に困難である 古典的な統計では 本当は だったとき という結果になる確率 を考えるものであり 結果が であったとき 本当は である確率 はなじまない ちなみに 本当は である確率 を考える統計をベイズ統計と呼び 古典的な統計とは一線を画す統計理論として注目を浴びている 21

22 2.t 分布を用いた検定 22

23 t 分布を理解しよう 正規分布の検定では 本当の標準偏差 や近い値が分かっているときに用いることができるが t 分布は 本当の標準偏差 や近い値が分からないときに用いる しかし t 分布も計測値が 正規分布に従う ことは前提としていることには注意が必要 = 1 = 2 = 3 = 4 23

24 t 分布の正体 t 分布の導出 あるコンセントの電圧を測る 5 回の測定から平均値を V 1 回の測定の標準偏差を ( 不偏 ) 推定し 0.1 V と求めた もし たまたま 本当の電圧の平均値が V であるとすると 次にもう一度電圧を測定したとき V±2 0.1 V の範囲つまり 99.8 V から V の区間に測定値が入る確率はおよそ 95 % と考えてよいだろうか もちろん 問題にするからには間違っているわけだが なぜ間違っているのか 95 % より大きくなるか小さくなるかを考えてみよう 24

25 t 分布の正体 もし測定値が平均 100 V 標準偏差 0.1 V の正規分布なら 一つの測定値が 99.8 V から V の間に入る確率はおよそ 95 % のはず 1.96( 2) ( + 2) 2.5 % 95 % 2.5 % 25

26 s 2 t 分布の正体 ポイントは 分散の推定の不確かさ x i xi x 5 i 1 この式は この式を使って何度も何度も分散を計算するとその平均値が本当の分散になるということに過ぎない 何度も何度も分散を計算すると? 2 26

27 t 分布の正体 仮説に基づいた分布から 何度も何度も 分散を計算すると = V = 0.1V 何度も何度も!! {x i } s x i xi x 5 i

28 t 分布の正体 新しい分布ができる!! 頻度 その平均値が 2 = 0.01 V 2 である 計算された s 2 (x i ) 28

29 t 分布の正体 この分布を見てわかるように 不偏分散は本当の分散よりも小さく推定してしまうことの方が 大きく推定してしまうことよりも多い 確率密度 0.01 V 2 大きい方に尾を引くため それにつられて 平均値は大きくなる 59 % 41 % s 2 29

30 t 分布の正体 結果として 95 % よりも小さい確率でしか 2s と +2s の間には次の測定値は入らない 2s > 95 % + 2s % 95 % 2.5 % 30

31 t 分布の正体 では 実際のところ何 % になるかというと 過去の計測は 未来の計測は 分散の分布から適当に一つ値 s 2 を取って 平方根 s を取ることに相当する 正規分布から適当に一つの値 x をとってくることに相当する これを繰り返して 2s < x < 2s となる確率を計算すればよい

32 t 分布の正体 2 < (x )/s < 2 でもいい つまり 分散の分布から適当に一つ値 s 2 を取って 平方根 s を取る 正規分布から適当に一つの値 x をとる t x s 何度も何度も!! を計算する 32

33 t 分布の正体 新しくできた t 値の分布について 2 < t < 2 となっている確率を計算すればよい ( の値は関係ない ( 次スライド )) 88 % t x s 88 % と求まり 95 % より小さいことが分かる 33

34 t 分布の正体 t x s の分布が t 分布である 実は この分布は繰返し回数にしか依存しない分布である ちなみに繰返し回数無限大の t 分布は正規分布に一致する 繰り返し数ー 1 を自由度と呼び 繰り返し 数 n 回のときの t 値の分布を 自由度 (n 1 ) の t 分布 と呼ぶ 34

35 t 分布による区間推定 両側検定による区間推定 ブロックの長さの測定を行った 10 回繰返しから平均値 10 cm が得られた また その平均値のばらつきの標準偏差は 0.1 cm と不偏推定された このブロックの長さはどう報告すればよいか? 測定のばらつきは正規分布に従うとする 35

36 t 分布による区間推定 仮説 1 = 本当の長さは a(< 10 cm) である 仮説 2 = 本当の長さは b(> 10 cm) である 仮説は正規分布のときと変わらない 真の平均が a と b の正規分布を考える しかし分散は未知 = a = b 36

37 t 分布の特徴 測定値が平均より大きくずれる場合も 小さくずれる場合も考える 例えば t 値は繰り返し 10 回のとき ( ) の範囲に 95 % の測定値が入る 2.5 % 95 % 2.5 %

38 t 分布による区間推定 本当の長さが a であるとき t = (10 cm a)/0.1 cm というような 0 からかけ離れた値が計測される確率は 5 % である ような a を見つければ 仮説 = 本当の長さは a(< 10 cm) である は有意水準 5 % で棄却されるから 本当の長さは a より大きい となる t 10 a a = cm 2.5 % % % 38

39 t 分布による区間推定 t = (10 b)/0.1 = 2.26 から b = cm も求まる 仮説 1 = 本当の長さは 9.77 cm である 仮説 2 = 本当の長さは cm である 両方が有意水準 5 % で棄却され 95 % 信頼区間は 長さは 9.77 cm から cm の間である と結論づけることができる! 39

40 こぼれ話 : 仮説と区間推定 この区間推定で考えているのは 仮説が正しいときの分布 であり 正規分布である 計測値から考えられる本当の値の分布 が t 分布になるように考えるのは 古典的な統計の考え方からいうとおかしい つまり 例の問題なら 区間推定において 下のような分布は一切出てこないのである 95 % 信頼区間とは その範囲に本当の平均があるなら 得られたデータが出てくる確率が 5 % 以上はある区間 という 一呼吸おいて考えないとよく分からない区間なのである 2.5 % 9.77 cm 95 % 2.5 % 10.0 cm cm 前述のベイズ統計では左の分布が出てくる 興味のある方はベイズ統計について勉強してください 40

41 クイズ 区間推定 あるサンプルに含まれている有機物 A の濃度が 5 つの試料について測定した結果 平均値が 5.0 mg/l と求まった その平均値のばらつきの標準偏差は 0.2 mg/l である 試料のばらつきに比べて 計測の不確かさが無視できるほど小さいとき この有機物の濃度はどのように報告したらよいか? なお自由度 4 の t 分布において ( ) の範囲に 95 % の t 値が入ることが知られている 41

42 t 分布のまとめ t 分布を用いる検定は 本当の標準偏差 や近い値が分からないときに 平均値について議論したいときに用いることができる t 分布の形状は繰返し回数で変わる 95 % 信頼区間は ( 計測値 )±(t 分布の上側の 5 % 点 ) ( 推定された標準偏差 ) で与えられる 42

43 3. 拡張不確かさと区間推定 43

44 拡張不確かさを算出しよう 包含係数 k を 95 % になるようにちゃんと計算するべきという意見がある 95 % の意味するところは t 分布の区間推定説明したが 実際の不確かさ評価においては単純な t 分布で済みそうな話はほとんどない それではどのように計算されるのであろうか? その計算ために用いられているのはかなり大胆な近似法ー Welch-Satterthwaite 近似である 44

45 Welch-Satterthwaite 近似による区間推定 有効自由度を用いた区間推定ある液体の体積 vを 5 回反復測定し 測定データ {100.0, 100.3, 99.9, 99.7, cm 3 } を得た この体積計は校正を受け そのずれは調整されている 校正値 v 0 の 95 % 信頼区間は ±0.88 cm 3 であり 信頼区間は自由度 11 の t 分布から求められた この液体の体積が 5 回反復の平均から cm 3 と報告されるとき その 95 % 信頼区間を求めよ 45

46 Welch-Satterthwaite 近似による区間推定 不確かさ要因は繰返しと温度の不確かさのみである 2 つの要因の標準不確かさを以下のように求める 体積測定の平均値の不確かさは u 1 n 1 n 1 n v sv sv v v cm 体積計の校正値 v 0 の不確かさは u k 3 U cm 0 cm 自由度 11の t分布 5% 点の大きさ v n k 1 k 46

47 Welch-Satterthwaite 近似による区間推定 なお 体積の平均値 vも校正値 v 0 も体積測定への感度は1である 体積の標準不確かさは u v c u v c u v v cm 0.04 cm cm 3 v 0 これも実験分散である しかし 単独の正規分布から取られた値ではないので t 分布と直接関連づけることはできない これを克服するために 近似的に関連づけようとするのが Welch-Satterthwaite 近似である

48 Welch-Satterthwaite の近似 独立な m 個の不確かさ成分 u 1 (y) u 2 (y) u m (y) があり それぞれの自由度 (= 実験回数 1) を 1 2 m とすると 測定結果 (y, u c (y)) は以下の式で計算される自由度 eff の t 分布に近似できる u 4 c y u y u y u y eff 有効自由度 1 この eff を有効自由度と呼ぶ m m 感度係数 c 1 c m を用いて u 4 c m 4 4 y c i u xi eff i 1 i とも書ける 48

49 Welch-Satterthwaite 近似による区間推定 例に当てはめると cm cm cm eff eff 5.33 数式の上では 自由度が整数でない t 分布も生成可能である この図は自由度 5.33 の t 分布 非整数の eff が定義の上で おかしいと思うなら 自由度 5 の t 分布を用いてもよいだろう % 2.52 t 49

50 Welch-Satterthwaite 近似による区間推定 95 % 信頼区間の幅は ±2.52 u(v) ~ 0.25 cm 3 仮説 1 = 本当の体積は cm 3 である 仮説 2 = 本当の体積は cm 3 である 両方が有意水準 5 % で棄却され 95 % 信頼区間は cm 3 から cm 3 で与えられる! 50

51 Welch-Satterthwaite 近似の背景 Welch-Satterthwaite 近似の背景には実験分散は先の正規分布から得られた不偏分散の分布に従うと 近似 することにある さて 分散の分布の分散を考えると u 2 (s 2 ) = 2 4 / で与えられるから 2 y u y u y 2 2 u c 1 2 両辺の分散を取る y ~ u c (y) 1 ~ u 1 (y) この近似もかなり大胆である 2 u 4 c 4 y y u y u y Welch-Satterthwaite の式 2 51

52 自由度 自由度 = 実験回数 1 の定義は不十分で もっと複雑な検討が必要である また B タイプの標準不確かさに対応できていないのは明らかである その妥当性はともかく 実用上は Welch-Satterthwaite を用いるために 以下の自由度の決定方法を用いる場合がほとんどである Aタイプ評価した不確かさの場合自由度 = 実験回数 1 Bタイプ評価で校正証明書に有効自由度の記載がある場合自由度 = 校正証明書に記載の有効自由度 B タイプ評価でそれ以外の場合自由度 = ( 無限大 ) 回帰で求めたパラメータなどではこうではないが 多くの場合はこれで問題ない 他の方法もある (GUM 付属書 G.4.2) 次ページ 52

53 自由度 もしも B タイプで評価された不確かさの成分が正規分布に従うならば 自由度 B に対して u 2 (s 2 ) = 2 4 / B が成立することから以下のように定めることもある 標準偏差 s について考えると モデル式 s = (s 2 ) 1/2 から u 2 2 d s s 2 d s 1 2 B 2 u s s u 1 4 ux ux ~ 1 s 2 2 B つまり 標準不確かさが標準的にどのくらい不確かかという値を入れる もちろん 元が正規分布でないときにはなんの根拠もないし 標準不確かさがどのくらい不確かかに関する明確な情報があることも少ない 53

54 4 c u 4 4 v u y u 0 0 eff v 0 拡張不確かさ 例ある液体の体積 v を 5 回反復測定し 測定データ {100.0, 100.3, 99.9, 99.7, cm 3 } を得た この体積計の表示の誤差は 0.1 cm 3 を超えないと知られている この液体の体積が 5 回反復の平均から cm 3 と報告されるとき 95 % 信頼区間を求めよ 表示の標準不確かさ 0.1/ 3 = cm 3 の自由度を v0 = ( 無限大 ) として v eff ~ 7.11 で 包含係数 k = t U (7.11, 0.95) = 2.36 として U ku c eff 3 3 v cm 0.27 cm 4

55 拡張不確かさのまとめ Welch-Satterthwaite 近似は複数の不確かさ要因がある場合に用いることができる近似的な区間推定方法である 実験分散は正規分布からの不偏分散の分布とは直接関係ないので 数学的根拠は不十分だが 慎重な判断をしたいときには よく使われている方法である 個人的には 正規分布とみなして 有意水準を小さくすることで信頼区間を大きくする方が 同じように慎重な判断をするのにも 理論的な整合性は高いように思う 特に この範囲に真の値が入っていないと即クレームがつく というような状況ではそもそも標準偏差の2~3 倍の区間では小さすぎるだろう 55

56 おわりに 56

57 おわりに この資料では 95 % 信頼区間とは何か? と 有効自由度とは何か? に力を割いて説明した ともにわかりにくい概念の上に立ち しかも有効自由度はその根拠が曖昧なものであるとは言えるが その性質をよく理解すれば 特にどの試験を何回実験したら 望む精度が得られるのか? という検討においては 実用上役に立つ指標であろう 57

58 参考資料 (Excel での計算方法 分布表 ) 58

59 Excel で検定 正規分布のパーセント点は以下の式で求めることができる = NORMINV( 下側パーセント, 平均, 標準偏差 ) t 分布のパーセント点は以下の式で求めることができる = TINV( 両側パーセント, 自由度 ) 例えば 自由度 9 の t 分布の上側 95 % 信頼区間は = TINV(0.10, 9) = 1.83 から求めることができる また TINV 関数は非整数の自由度には使えないので Welch- Satterthwaite 近似を用いた場合には 以下の式を使うことがある = SQRT( 自由度 /BETAINV( 両側パーセント, 自由度 /2,1/2)- 自由度 ) 59

60 正規分布表 片側 ( 上側 ) パーセント点 両側パーセント点 確率 p の最終桁 確率 p の最終桁 確率 p の最終桁の前まで 確率 p の最終桁の前まで 60

61 t 分布表 片側 ( 上側 ) パーセント点 両側パーセント点 p p