Microsoft PowerPoint - 統計科学研究所_R_重回帰分析_変数選択_2.ppt

Size: px

Start display at page:

Download "Microsoft PowerPoint - 統計科学研究所_R_重回帰分析_変数選択_2.ppt"

りえあんさい
5 years ago
Views:

1 重回帰分析残差分析変数選択 1

2 内容重回帰分析残差分析歯の咬耗度データの分析 R で変数選択 ~ step 関数 ~ 2

3 重回帰分析と単回帰分析体重を予測する問題分析 1 身長のみから体重を予測分析 2 身長とウエストの両方を用いて体重を予測分析 1 と比べて大きな改善体重に関する推測では身長だけでは不十分重回帰分析における問題 ~ モデルの構築 ~ 適切なモデルで分析しているか? 適切な変数をモデルに組み込んでいるか? モデル選択変数選択の問題 3

4 残差分析 4

5 残差における仮定回帰分析における残差モデルに組み込んだ変数では説明しれない偶然誤差適切なモデルのもとでの残差に関する仮定残差に正規分布を仮定する残差の期待値は0 残差の分散は等しいそれぞれの残差は互いに独立であるモデルチェック 5

6 モデルチェック : 例右の図のデータに対する適切なモデルとは? 1 次式によるモデル 2 次式によるモデルデータの構造 6

7 1 次式によるモデル 1 次式を仮定して分析を行うと次の結果を得る仮定したモデルは適切か? 残差分析残差の仮定を満たしているか? 回帰診断プロット 7

8 残差分析 :1 次式回帰診断プロット 1 残差 (y) と予測値 (x) 2 正規 Q-Qプロット 3 規準化残差と予測値 4 Cookの距離用途 1 残差のふるまい 2 正規性の検証 3 残差の大きさ 4 外れ値の探索

9 1 残差のふるまい横軸 : 予測値縦軸 : 残差残差の全体像の把握相対的に大きい残差には番号がふられる (1, 29, 30) 残差の独立性と系列相関の有無系列相関に関する検定ダービンワトソン統計量杉山髙一著多変量データ解析入門 9

10 2 正規 Q-Q プロット名称 : 正規 Q-Q プロット横軸 : 正規分布の縦軸 : 規準化残差の経験分布関数による残差が正規分布に従っている点が直線上に並べられる残差が正規分布からずれている点が直線からはずれる残差の仮定 : 標準正規分布相対的に直線から外れているデータには番号がふられる (1, 29, 30) 10

11 3 残差の大きさ縦軸 : 規準化した残差の絶対値の平方根横軸 : 予測値残差の変動の考察相対的に大きい残差には番号がふられる (1, 29, 30) 11

12 4 Cook の距離 Cook の距離個々のデータが回帰式の推定に及ぼす影響を表した距離 Cookの距離が大きいデータ回帰式の推定に大きく影響外れ値の可能性 R では Cookの距離 0.5 ならば大きいとしている ( 絶対的なものではない ) Cookの距離が相対的に大きいデータには番号がふられる (1, 29, 30) 12

13 2 次式によるモデルモデルに 2 次式を仮定すると次の結果を得る回帰診断プロットによる残差の検討 13

14 0 に散布期待値残差分析 :2 次式残差は適当にばらついている直線状独立性 14

15 パラメータ推定モデルチェック実データにおけるモデル構築主に変数を追加する場合切な変数をモデルに組み込むそれぞれの残差は互いに独立適モデル構築残差分析残差の正規性残差の期待値は 0 残差の分散は等しい 15

16 プログラム : 参考 1 1 次式のあてはめで用いたプログラム x <- seq(from=0, to=2, length.out=30) e <- rnorm(30, 0, 0.1) y <- (x-1)^2+2+e result <- lm(y~x) plot(x, y, pch=19, col="black") abline(result, col="red", lwd=3) par(mfrow=c(2,2)) for(i in 1:4){ plot(result, which=i, add.smooth=f, pch=21, bg="blue", col="blue", lwd=2) } 16

17 プログラム : 参考 2 2 次式のあてはめで用いたプログラム x2 <- x^2 result <- lm(y ~ x+x2) plot(x, y, xlim=c(0,2), ylim=c(1.8,3.2), pch=19) par(new=t) plot(x, fitted(result), type= l, xlim=c(0,2), ylim=c(1.8,3.2), ann=f, col="blue", lwd=3) par(mfrow=c(2,2)) for(i in 1:4){ plot(result, which=i, add.smooth=f, pch=21, bg="blue", col="blue", lwd=2) } 17

18 プログラムの説明 ( 回帰診断 ) par(mfrow=c(2,2)) for(i in 1:4){ plot(result, which=i, add.smooth=f, pch=21, bg="blue", col="blue", lwd=2) } R では for 文も使うことができます par(mfrow=c(2,2)) 次に描く図やグラフを描くスペースを2 行 2 列に分割 plot(lm.obj) : 回帰診断プロットの出力その他の引数については R-Tips をご覧下さい 18

19 歯の咬耗度データの分析 ~ 変数選択 ~ 日本大学名誉教授 ( 松戸歯学部 ) 尾崎公教授による歯の咬耗度のデータですこのデータを用いて分析の説明をいたします 19

20 歯のデータの分析歯の咬耗度による年齢推定データ 189 人 28 本の歯の咬耗度を測定歯の摩耗の度合いは5 段階各分類にどのような数値を割りふるかすなわち数量化が重要な問題に欠如なる分類 1 分類 2 分類 3 分類 4 分類 5 弱強 20

21 歯のデータの分析数量化についてここでは数量化分析等を用いたりして検討した結果分類 1 には 1.0 分類 2 には 2.0 分類 3 には 3.0 分類 4 には 4.0 欠如した歯の分類 5 には 4.0 を与えた詳しい変数の分類分析法杉山髙一著多変量データ解析入門欠如分類 1 分類 2 分類 3 分類 4 分類 5 弱強 21

22 変数名の定義歯の変数名と対応関係上下左右左右 22

23 歯の咬耗度データ 23

24 データ加工 : 不要なデータの削除削除 24

25 データ加工 : 特定のデータの置換 1 置換する範囲を選択 2 編集置換 3 検索する文字列 5 置換後の文字列 4 全て置換 25

26 プログラムディレクトリの変更を忘れずにしましょう koumoudo <- read.csv( ha-koumoudo.csv", header=t) result1 <- lm(age~., data=koumoudo) result2 <- step(result1) summary(result1) summary(result2) 26

27 プログラムの説明 result1 <- lm(age~., data=koumoudo) result2 <- step(result1) lm( 目的変数 ~., data= データ ) 目的変数 ~. とすると目的変数以外の全ての変数を説明変数として分析を行う step(lm.obj) lm 関数により得たモデルに対して AIC 基準で変数選択を行う関数 27

28 変数選択基準変数選択基準残差平方和決定係数自由度調整済み決定係数各変数に対する有意性検定 ( t 検定 F 検定 ) AIC 基準参考文献 AIC 最小のモデルを最適なモデルとする杉山髙一著 : 多変量データ解析入門小西貞則著 : 情報量規準早川毅著 : 回帰分析の基礎 28

29 step 関数全ての変数を含んだモデルとその AIC 上にある変数ほど除いたときに AIC が減少する各変数を除いた場合の AIC 29

30 step 関数最後に選ばれた変数と AIC AIC 最小のモデルとなった 30

31 分析結果 : 変数選択前 1 31

32 分析結果 : 変数選択前 2 自由度調整済み決定係数 32

33 分析結果 : 変数選択後変数選択により改善 33

34 解析結果の比較変数選択適切に変数を選択することによりモデルが改善された変数が減ることにより意味づけや解釈が容易になるデータを収集する側にもメリット ( コストや時間 ) 34

35 参考 URL 統計科学研究所のウェブサイト R-Tips JIN S PAGE 35

多変量解析 ~ 重回帰分析 ~ 2006 年 4 月 21 日 ( 金 ) 南慶典

多変量解析 ~ 重回帰分析 ~ 2006 年 4 月 21 日 ( 金 ) 南慶典重回帰分析とは? 重回帰分析とは複数の説明変数から目的変数との関係性を予測評価説明変数 ( 数量データ ) は目的変数を説明するのに有効であるか得られた関係性より未知のデータの妥当性を判断するこれを重回帰分析というつまりどんなことをするのか? 1 最小 2 乗法により重回帰モデルを想定 2 自由度調整済寄与率を求め