回帰分析単回帰

Size: px

Start display at page:

Download "回帰分析単回帰"

きよあついなおか
5 years ago
Views:

1 回帰分析単回帰麻生良文

2 単回帰モデル simple regression model = α + β + u 従属変数 (dependent variable) 被説明変数 (eplained variable) 独立変数 (independent variable) 説明変数 (eplanator variable) u 誤差項 (error term) 撹乱項 (disturbance term) 他の要因, 観察されない変数の影響, の測定誤差

3 = α + β + u 左のようなモデルを仮定し, 現実に観察されたデータから, パラメータ a,b を推計する直線を当てはめる推計された a,b 当てはめられた直線の切片と傾き傾きが 1 単位増加したときは何単位増加するか

4 重回帰モデル multiple regression model 説明変数が 2 個以上 a b 1 1 b 2 2 b k k u b i i 他の説明変数を一定に保っておいて, i だけを 1 単位増加させたときにが何単位増えるか他の要因をコントロールした i 固有の影響

5 単回帰モデルにおける仮定 i a b i u i 1. 線型モデル ( パラメータに関し ) 2. 誤差項の期待値は0 3. 誤差項は互いに独立 4. 誤差項の分散は一定 ( 分散均一性 ) 5. 誤差項は正規分布に従う BLUEの成立のためにはこの条件は不要

6 最小二乗法残差平方和を最小にするようにパラメータを決定 a,b: 未知パラメータ a,b の推定値 e: 残差 S( a, b) n i1 e 2 i n i a bi i1 2 1 階の条件 S a S 0, b 0 2 本の方程式から a,b を決定する

7 最小二乗推定量 b a S S b 1 S n i1 ( i ) i 誤差項の分散の推定量 s 2 1 RSS n 2 SER (standard error of the regression) 1 n 2 n i1 2 e i n-2 の 2 は説明変数の個数 ( 定数項と ) 最小二乗推定量は BLUE (Best Linear Unbiased Estimator) という望ましい性質を持っている

8 Eviews での回帰分析メニューから Quick/Estimate Equation 下の画面が表れる被説明変数, 説明変数をスペースで区切って並べる c は定数項 (constant term) 最小二乗法の指定 ( 他にも推定方法の option あり ) 分析に用いるサンプルを指定することもできる

9 R での回帰分析データの import, load ここでは wage1.csv を用いるデータフレーム wage1 に import されているとして >attach(wage1) > wage1.lm <- lm(wage ~ educ) > summar(wage1.lm) attach(wage1) で wage1 データセット内の変数に直接アクセスできるようにする lm( ~ ) 回帰分析 wage1.lm に回帰分析の結果を代入し,summar( ) で結果の要約を表示

10 仮説の検定 H 0 : b=b 0 b b 2 S ~ N 0,1 b b b b 0 0 ~ tn s. e.( b) 2 s S 2 n 2 : 2 は説明変数の個数 ( 定数項と )

11 当てはまりの良さ TSS=ESS+RSS 決定係数 0から1の間の値 1に近いほど当てはまりが良いことを表す R 2 ESS 1 TSS RSS TSS

12 Eviews の出力回帰係数

13 WAGE wage と educ の散布図 EDUC

14 RESID 残差のプロット Eviews では resid という変数に直前の回帰分析の残差が保存される EDUC 残差を検討することで回帰分析の前提 ( 分散均一性 ) が満たされているかどうかチェックするグラフをみる限り, 分散の均一性の前提が満たされていないようである教育年数の増加とも分散が大きくなっている残差を後の分析でも使いたい場合は新しい変数に resid を代入して保存する

15 RESID 残差と被説明変数 wage の推定値 (wagehat) の関係 WAGEHAT 重回帰の場合には, 被説明変数の推定値と残差の関係を調べる ( 単回帰の場合は前のページと同じ結果 ) wagehatの求め方 menugenr 新しい変数を次のように作成 educ または weaghat = wage - resid

16 R での回帰分析 > summar(wage1.lm) Call: lm(formula = wage ~ educ) Residuals: Min 1Q Median 3Q Ma 係数の推定値, 標準誤差,t 値, p 値が出力される Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) educ <2e-16 *** --- Signif. codes: 0 *** ** 0.01 * Residual standard error: on 524 degrees of freedom Multiple R-squared: , Adjusted R-squared: F-statistic: on 1 and 524 DF, p-value: < 2.2e-16

17 R での回帰分析回帰分析の結果は summar(object) で取り出せたが, 他の情報も取り出せる summar(object) 回帰分析の結果のようやく coef(object) 係数の推定値 resid(object) 残差 fitted(object) 回帰モデルの推定値 deviance(object) 残差平方和 plot(object) 残差のチェックのためのグラフ confint(object) 係数の信頼区間コマンドラインで,coefficients(wage1.lm) または coef(wage1.lm) とタイプすると推計された係数が出力される coef(wage1.lm)[1] coef(wage1.lm)[2] で係数ベクトルの 1 番めの要素と 2 番めの要素が出力される

18 残差診断 plot(wage1.lm) で出力される図の 1 部

19 非線形効果のとらえ方 = a + b () () = a + b () = a + b () = a + b 1 * + b 2 * 2 = a + b / = a + b 1 / + b 2 *

20 対数 a a ) ep( h h h ) (1 ) (1 b b a b b a b b a 対数の性質から次の式が成り立つ対数での変化 = もとの変数での比率での変化は自然対数レジュメでは, と書いたり, log と書いたりしますが, 全て自然対数だと思ってください

21 LNWAGE (wage) と educ の散布図こちらのほうが当てはまりが良いようにみえる EDUC

22 (wage)=a+b*educ での回帰 Genr というボタンをクリックすると新しい変数を作成する画面が表れるそこで新変数名 = 計算式で新しい変数を作成ここでは次のようにする wage =log(wage) or wage =@log(wage) 回帰分析の結果

23 RESID 残差分散不均一性は解消されたようにみえる EDUC

24 回帰分析の解釈係数の意味教育年数 (educ) が 1 年増加すると賃金 (wage) はどのくらい増加するか教育年数 (educ) の係数が 0 であるという仮説は棄却できるか対数 ( 賃金 ) が被説明変数の場合の係数 educ が 1 単位増加したとき, 賃金の対数値が何単位増加するか賃金が何 % 増加するか賃金に影響を与える変数にはどのような他の要因があるだろうか他の変数と賃金の単相関をみる educ を連続変数とすることの意味学歴別当てはまりの良さ因果関係 ( 代替的なモデルが考えられる ) 教育年数賃金人的資本の蓄積教育年数その人の能力の証高学歴者は学業に耐えられるだけの能力をもともと備えていたスクリーニングの機能だけ ( 人的資本の蓄積ではない )

25 みせかけの関係 Wooldridge の chapter2 eample 2.12 meap93.raw 生徒の成績と高校の lunch program の関係 chprg :perc. of studs. in sch. lunch prog math10 :perc studs passing MEAP math( 数学の学力テスト ) ミシガン州の高校 : 408 校, 年他の条件が一定なら, 昼食への補助が生徒の成績にプラスの影響? 推計結果 math10 = chprg n=408, R 2 =0.171 誤差項 ( 他の条件 ) と chprg の相関あり chprg と相関があり,math10 とも高い相関貧困家庭の比率?

26 練習問題 1 CEOSAL2.RAW salar: CEO の年棒 (1000$) ceoten: その会社での CEO 在職期間 ( 年 ) 1. salar, ceoten の平均値を求めよ 2. salar, ceoten, log(salar) のヒストグラムを描け 3. 在職期間が 1 年未満の人が何人いるか, 最長の在職期間は何年か 4. salar と ceoten の散布図,log(salar) と ceoten の散布図を描け 5. 次の回帰を行い, 結果を報告せよ log(salar) = a + b* ceoten + u

27 練習問題 2 WAGE2.RAW wage: 月給 IQ: IQ のスコア 1. wage と IQ の平均値, 分散, 最大, 最小を求めよ 2. wage と IQ のヒストグラムを描け 3. wage と IQ,log(wage) と IQ の散布図を描け 4. wage = a + b * IQ + u の回帰を行い, 結果を解釈せよ 5. log(wage) = a + b * IQ +u の回帰を行い, 結果を解釈せよ

回帰分析重回帰(1)

回帰分析重回帰(1) 回帰分析重回帰 (1) 項目重回帰モデルの前提最小二乗推定量の性質仮説検定 ( 単一の制約 ) 決定係数 Eviews での回帰分析の実際非線形効果ダミー変数定数項ダミー傾きのダミー 3 つ以上のカテゴリー重回帰モデル multiple regression model 説明変数が個以上 y 1 x 1 x k x k u i y x i 他の説明変数を一定に保っておいて,x i

回帰分析 単回帰

回帰分析単回帰