主成分分析 + 重回帰分析 a.2 変数群に対して, 以下のような手順を実行 ( 多変数群 ) では,2 変数群を組み合わせて実行 ) 説明変数群の主成分分析 2 基準変数群の主成分分析 3 説明変数群における個の主成分得点に対して, 基準へ数群における主成分得点のすべてを用いて重回帰分析を反復

Size: px

Start display at page:

Download "主成分分析 + 重回帰分析 a.2 変数群に対して, 以下のような手順を実行 ( 多変数群 ) では,2 変数群を組み合わせて実行 ) 説明変数群の主成分分析 2 基準変数群の主成分分析 3 説明変数群における個の主成分得点に対して, 基準へ数群における主成分得点のすべてを用いて重回帰分析を反復"

さゆりまつかた
5 years ago
Views:

1 正準相関分析についての解説 0. 判別分析 (discriminant analysis) 多変量のデータを用い, 重みづけた説明変数 ( 独立変数 ) を合成して, 個々人の所属する集団を分ける基準変数 ( 従属変数 ) を予測 ( 判別 ) する多変量解析法を, 判別分析と総称する. 例 : ある患者に対する多種類の検査結果を総合して ( 説明変数 ), どのような病気かを診断する ( 基準変数 ) 例 2: 発掘された石器や土器などを, 材質や形態, 地層などの諸要因を分析して ( 説明変数 ), どの時代に帰属できるか ( 基準変数 ) を決定するすなわち, 判別分析は, 分類の基準を与えてくれる説明変数の構成を目的にしているまた, 判別分析は, 正準相関分析の特殊な場合と位置づけられている ( 表 ) 表. 多変量解析における論理展開対象とする変数解析法 X Y 数学モデル単変数単変数相関分析単回帰分析ベクトルの内積変数群単変数重相関分析重回帰分析組の線型モデル変数群変数群正準相関分析判別分析 2 組の線型モデル 2 変数群を分析するには, 表 2 のような技法を選択できる表 2.2 変数群を分析する際に用いる技法分析技法説明正準相関分析 a.2 つの正準変数が最大の相関を示すよう変数群を要約 b. 相関が最大となるよう正準変数が合成されるものの, 個々の変数群に対する最適な説明 ( 説明変数の分散の最大化 ) になるとは限らない c. 正準相関の意義を解釈個々の変数群が含む成分 ( 正準変数の内容 ) の解釈 d. 正準相関の解釈は, 抽象的で困難, 明快な解釈は困難主成分分析 ( または因子分析 ) a.2 変数群 ( または多変数群 ) を群化し, 主成分 ( 因子 ) を探索する b. 主成分 ( 因子 ) に変数間の影響関係と構成関係が混在するので解釈は難しい - -

2 主成分分析 + 重回帰分析 a.2 変数群に対して, 以下のような手順を実行 ( 多変数群 ) では,2 変数群を組み合わせて実行 ) 説明変数群の主成分分析 2 基準変数群の主成分分析 3 説明変数群における個の主成分得点に対して, 基準へ数群における主成分得点のすべてを用いて重回帰分析を反復 b. 技法としては, 単純明快であるが, 各変数群が独自の構造を仮定している場合には妥当性が問題となる. 正準相関分析 (canonical correlation analysis) 多変量データにおいて, 多数の変数が 2 つの変数群を構成するときに, 変数群間の相互関係を分析するために用いられる. 重回帰分析, 判別分析, 共分散分析, 数量化 Ⅰ,Ⅱ,Ⅲ 類を, その特殊な場合として含む. 重回帰分析外的基準変数が個, 説明変数が複数個存在 ; 説明変数の重み付き合計と基準変数との間の相関が最大になるよう, 解を求める例 : 基準変数 Y= 入学後の成績, 説明変数 X= 内申書得点,X2= 入試得点正準相関分析 Y にあたる変数が複数個,X にあたる変数も複数個存在する変数群 {X,X2} と, もうつの変数群 {Y,Y2} とが与えられている各変数群内で重みつき合計を考えると,U=aX+a2X2 と V=bY+b2Y2 という 2 つの重みつき合計 U,V が求められるしかし, このような重みつき合計 U,V の値は, 重み a,a2 と b,b2 の値の選び方によって千変万化するそこで,U,V の相関 ruv が最大となるようにそれぞれの重みの値を決めようとする方法が, 正準相関分析その際の U と V との間の相関係数は, 正準相関係数 (canonical correlation coefficient) と呼ぶしたがって,Y にあたる変数群がつの変数しかもたないときには, 正準相関係数は, 重相関係数に一致する ( ただし, 正準相関分析では, 片方が外的な基準変数群で, 他方が説明変数群であるというような区別は, 一般には行わない 2 つの変数群は, 対等に扱う ) 2. 正準相関分析の手続きと要点 - 2 -

3 ) 正準相関分析は,2 つの変数群を処理する図では, 以下のように変数群を模式化する変数群 X={X,X2,X3} 変数群 Y={Y,Y2} 2 変数群の変数は, 定量データで構成されていなければならない. 測定単位が異なる定量データは, あらかじめ標準化しておく 2) 変数群の変数を合成した値を正準変数と呼ぶ相関係数が最大になるように,2 つの正準変数をそれぞれ合成する 2 相関係数が最大化された正準変数間の相関係数を正準相関係数と呼ぶ 3 正準相関は, 変数の個数が少ない変数群の個数だけ求められる図の例では, 変数群 X が 3 変数で, 変数群 Y が 2 変数であるので, 正準相関は第 2 まで算出される変数群 X 変数群 Y X Y X2 X3 Y2 X 群の正準変数合成相関合成 Y 群の正準変数 * 相関が最大になるように正準変数を合成する正準相関図. 正準相関分析の手続きと要点 2. 正準相関分析の実際ここでは, 渡部 (988) にあげられている例をもとに正準相関分析の実際について確認する. ) 用いるデータ - 3 -

4 表 4- に示された, 体格及び運動能力に関するデータを用いる. その相関行列は, 表 4-4 にある. 2) 主成分分析正準相関分析との違いを検討するために,Y と X とを込みにした主成分分析を実施する. 相関行列から主成分分析を行った結果, 固有値 >.0 の成分が 2 つ得られたので, その 2 成分について考察する. 表 4-5 によれば, この 2 成分の累積寄与率は, 約 76% となっている. 図 4- には,2 成分の負荷量によってプロットしてある (varimax 回転を実施 ). 図 4- から明らかなように, 第主成分は身長, 体重, 胸囲のように形態学的な大きさに関係する変動を示し, 第 2 主成分は, 運動能力と関係の大きい変動を示している. 懸垂は第主成分に負の負荷を示しており, 体の小さい者の方がこの種目では多少有利であることを示していると思われる. ハンドボールや, 走り幅跳びは, 逆に体の大きい者に有利とみることができる.50m 走と 500m 走の第 2 主成分の負荷量が負となっているが, これらの種目は成績が, 所要時間で測定されるため, 値が小さいほどよい成績となっていることによる. 3) 正準相関分析次に, 同じデータについて, 正準相関分析を実施してみる. この例では,Y 変数の数が少なく,4 であるので, 最大 4 個の正準相関が得られることになる ( 表 4-6). これらすべての正準相関が有意かどうかを検定するために, 次の式による χ 2 統計量 χ0 2 を計算する c é r ù 2 ( p + q + ) ln( - l ) å 2 0 = -ên -- ú 2 i= ë û j N( 被験者数 )=46,p( 第群の変数の数 )=4,q( 第 2 群の変数の数 )=5, 第固有値 λ 2 から第 4 固有値 λ4 2 までを代入すると,χ0 2 =52.86 となるこの検定の自由度は,pq であるから,χ0 2 は自由度 (df)=20 で,99.9 パーセンタイルを越えており, 少なくともつの正準相関係数は, 統計的に有意である次に,2 つめ以降の正準相関の有意性を検定するために 2 2 = c 0 + ln 2 ( ) c 40 -u を求めると,χ 2 =4.0 となる. この値は, 表 4-6 に示されたコンピューターからの出力とは若干異なるものの, まるめ誤差の範囲内である. このχ 2 =4.0 は, 自由度 =(p-)(q-)=2 で,70 パーセンタイルをようやく越 - 4 -

5 - 5 -

6 えるレベルであるので, 帰無仮説は棄却できず,2 つめ以降の正準相関係数はすべて, 統計的に有意ではないとみなせる. そこで, 第正準相関を与える第正準変数について, 詳しく見ることにする. 第正準変数を与える重みベクトルの値を実線の枠で囲ったものを表 4-7 に示す.Y 変数の重みベクトルは, この正準変数 U が身長と胸囲に大きな重みを持って作られていることがわかる. 一方,X 変数の重みベクトルからは,50m 走, ハンドボール投げ, 懸垂に大きな重み - 6 -

7 が与えられていることがわかる. 重みベクトルは, 正準変数を作るための基本的なベクトルであるが, 値の大小のバラツキが大きく, 解釈が難しい. そこで, この性質をより明らかにするため, 正準変数と各変数の間の相関を検討してみる. 例えば,Y 変数から得られた正準変数と,Y 変数のつ Yj との相関係数を rcyj () であらわすと, rcyj() = N å i= u i N åu i i= / y ij / ( N -) N 2 ( N -) y /( N -) å i= ij となる. 統計パッケージソフトでは, 表 4-8 のような構造係数ベクトル ( 構造ベクトル ) として出力される. 表 4-8 では, 第正準変量の構造ベクトルを枠で囲ってある. U の構造係数は, いずれの Y 変数とも高い相関を示しており, 第正準変数 U は, 体の形態的大きさに関する変動を代表する変数と考えられる

8 一方, 第正準変数 V は,50m 走, 懸垂,500m 走に負の相関を, 走り幅跳び, ハンドボール投げに正の相関を持っている.50m 走と 500m 掻爬, 主成分分析のときと同様に, 符号を反転して考えた方がよい.V は, 運動能力の変数から作られる合成変数のうちで, 体の形態的大きさを代表する変数 U と相関が最大となるよう作られているので,V と相関の高い変数は,U と相関の高いことが期待される. したがって, 運動能力のうちでは, ハンドボール投げ,50m 走, 走り幅跳びの順で体の大きさと相関が高く, 逆に懸垂は体の大きさと負の相関を示す変数であると考えられる. 4) 両者の比較以上から, この例題データの場合, 正準相関分析の結果と,Y,X を込みにした主成分分析の結果とはかなり整合性が高いと言える. 正準相関分析に適していると考えられるデータがあるときには, 両者ともに試みて, それらの結果を細かく比較検討することが望ましい. 3. 変数の標準化正準相関分析を実際に用いる場合, もとのデータは, さまざまなものが用いられ, その単位も異なっている. 例えば, 表 4- のように, 身長, 体重, 胸囲, 座高のような生徒の形態的側面を記述する変数群と,50m 走, 走り幅跳び, ハンドボール投げ, 懸垂,500m 走は運動能力を記述する変数群である. すべての変数が同じ単位で測定されていれば, 分散や共分散の大小が意味をもつが, この例のように変数がまちまちの単位で測定されているときには, 分散の大小を比較しても意味がない. また, 正準相関分析では, 重みつき合計点 ( 合成変数 ) を求めるが, この合成変数についても, 異なった単位で測定した数の重みつき合計点が持つ意味は判断できない. そこで, 正準相関分析では, 測定値をいったん単位と関係のない量に変換して, 分析を行う. その変換は, 例えば次式で与えられるような標準得点に変換する ( 標準化 ) をおこなう. 標準得点に変換した場合, 平均 =0, 分散 = となる. 測定値 - 平均値標準得点 = 標準偏差 4. 判別分析と正準相関分析との関連 ) 正準相関分析と判別分析基本的な関連性は,0. 判別分析 (discriminant analysis) で述べたとおりである. 正準相関分析から見ると, 判別分析は, 変数群 Y が, ダミー変数の場合 - 8 -

9 といえる. 2) 判別分析判別分析では, 一方の変数群を説明変数 X として設定して, 他方の変数群を基準変数 Y として設定する. そして, 基準変数をダミーの変数によって群化する. 変数群 X では, それぞれの変数を重みづけて合成した正準変数を説明変数として構成する 2 変数群 Y では, 例えば 3 基準を変数化したいときには, ダミーの 2 変数で定義することで, 正準相関分析の範囲内で扱うことができる変数群で基準を定義する例 3 基準の変数化 2 つのダミー変数 A 大学 =[,0] B 大学 =[0,] C 大学 =[0,0] 4 基準の変数化 3 つのダミー変数 A 大学 =[,0,0] B 大学 =[0,,0] C 大学 =[0,0,] D 大学 =[0,0,0] 3 グループ以上の基準変数に適用する場合を, 正準判別分析と呼ぶ 3) 判別分析の利用観測対象にグループがあり, それぞれがどのグループに属しているのかがわかっている. また, 同時にそれぞれの複数の特徴が連続量として観測されているときに, どのグループに属しているのかをこれらの特徴から予測する基準を作る場合に利用する. この基準を作成すると, グループのわからない対象にであったときに, その基準によってどのグループに所属するかが予測できることになる. また, それぞれの特徴をどの程度重視すればよいのかも, この基準でわかることになる. 4) 判別分析しようにあたっての手順と留意点データの用意データとしては, グループを示す基準変数, 特徴を示す複数の説明変数を用意する. 説明変数は, 量的変数で, 統計的にも内容的にも互いに独立であることが望ましい. データ構造は, 被験者変数のプロフィールデータとし, 基準変数と説明変数を横並びに整理しておく. 2 説明変数の選択既存の統計パッケージソフトを利用する場合にも変数選択の判断が求められる. 重要なことは, つひとつの変数の性質を, あらかじめ吟味しておくことである統計的な側面平均値, 標準偏差から分布の偏りの有無 - 9 -

10 内容的な側面変数の意味を簡潔な表現で整理し, 判別に対する重要度の見通しを持つ変数選択の一般的指針 a. グループの予測に有用 b. 解釈しやすい c. 他の説明変数との相関が小さい d. 信頼性が高い 3 判別分析のあてはまり必要な変数がそろったら, 判別分析を実施し, データに対するあてはまりを評価する. 一般には, 分析全体のウィルクスのλ 値 (0 λ の値をとり,0 に近いほど集団差異が大きい ) を確認し, エフ値に変換することで ([-λ]/λ に定数をかけたものがエフ値 ), 説明変数群が判別に貢献しないという帰無仮説を確率的に評価する. また, ウィルクスのλ 値は, 変数の出し入れの変化から, 各説明変数の貢献度の指標に変換できる. この場合, 説明変数が判別に貢献しない帰無仮説を評価する. いずれも有意水準以下の p 値で評価すればよい. 判別関数それぞれがどの程度判別に役立っているかを次に評価する. 判別関数は, 説明変数の数か, 基準変数に示されるグループ数からを引いた数かのいずれか小さい数だけ計算される. この場合, 次の 2 点に注目する : a. 統計的には, 固有値やχ 2 検定に注目する固有値を見る寄与率を順次加算した累積寄与率を並べ, 値の増加が鈍る手前の判別関数までを利用する χ 2 検定を見る判別関数上ですべてのグループ平均値が等しいという帰無仮説を評価するもので, 有意水準以下の p 値で有効とする b. 内容面では, 意味の納得しやすさを重視する 4 判別関数の計算と判別利用する判別関数を定めたら, 説明変数にあてる判別係数 ( 重み係数 ), 標準判別係数, 構造係数等の指標を計算する. 判別係数説明変数の値をそのまま活かして判別関数値を求める重み ; 新たに出会う対象を予測するときに利用 ; 判別の基準となる重要な指標標準判別係数説明変数の平均 =0, 標準偏差 = に変換したときの重み ; 判別係数と同じ用法に加え, 説明変数の相対的貢献度を示す構造係数判別関数と説明変数との相関 ; 判別関数の意味づけでもっとも重視 - 0 -

11 対象の判別判別関数値を用いて行う ; 全対象について判別関数値を座標値にして判別空間に位置づける ; 実際のグループで判別関数平均値 ( 重心値 ) を求め, 判別空間に位置づける判別空間判別関数で構成した空間判別の制度の評価予測と実際とグループ一致率 ( 百分率 ) で示す = 的中率 ( 正診率 ) 00- 的中率 = 誤判断率 ( 誤診率 ) なお, 基準を求めたデータ ( これをトレーニングデータと呼ぶ ) の的中率は, 過大評価に傾き, それを一般化するとさまざまなリスクをともなうことになる. これには, 交差妥当化で対処する交差妥当化同じ基準を使って別データの的中率を求める手順で, トレーニングデータによる推定された ( 見かけの ) 的中率, 別データによる実際の的中率と区別する 5) 判別分析の結果の読み取り判別分析のあてはまりデータに対して判別分析を選択したことの適否について, ウィルクスのλ 値を報告する λ=0.0 で完全に判別できる,λ=.0 で判別能力がないことを意味する選択した変数群全体の適切さを反映しているとも解釈できる的中率 80% を越えると, まずますの判別とみなされるただし,4)4で見たように, 推定された的中率は過大評価される傾向があるので, 実際の的中率もあわせて報告する 2 判別関数の有効性複数の判別関数が計算される正準判別分析では, 各判別関数の有効性を報告する判別関数のうち, いくつかを選んで報告した場合も同様有効性の指標固有値とバートレットのχ 2 値を報告する固有値対応する判別関数の値によるグループ平均値間距離大きな固有値に対応する判別関数ほど, 相対的にグループ間の違いを明瞭に反映していると解釈されるバートレットのχ 2 検定で有意判別関数がいずれかのグループの違いを見いだすのに役立っていると解釈する 3 判別関数の解釈解釈には, 説明変数との関連から考えるものと, 判別空間内の対象の分布から考えるものと 2 つの経路がある - -

12 説明変数との関連での解釈説明変数と判別関数との相関である構造係数に着目たとえば, 構造係数の絶対値が,0.4 以上の説明変数に注目し, それらの意味の重なりから解釈する正の構造変数そのままの意味, 負の構造変数逆転した意味づけ判別空間内の対象の分布による解釈空間の軸である判別関数の役割を考慮した解釈判別関数のグループ平均値を判別空間に示すことで, どのグループを見分けるのに有効な判別関数 ( 軸 ) か, 軸の方向でどのグループが分けられているか, 視察により検討する図 0- のように 3 グループの判別関数の平均値を示すと, 第判別関数はグループ A と B とを, 第 2 判別関数はグループ B と C とを見分けるのに有効な判別関数 ( 軸 ) と解釈する 5.SPSS での判別分析 ) 判別分析の実行 [ 分析 (A)] メニュー [ 分類 (Y)] [ 判別分析 (H)] を選択 [ グループ化変数 (G):] に基準変数を指定する範囲の定義(D) をクリックし,[ 最小 (I):],[ 最大 (A):] を指定する続行をクリックする [ 独立変数 (I):] に, 説明変数を指定する分類(C) をクリックし,[ 表示 ] の [ 交差妥当化 (V)] にチェックを入れる OK をクリック 2) 出力の見方 ( 小塩,2004) 固有値, 正準相関係数, ウィルクス (Wilks) のλ, 標準化された正準判別関数, グループ重心の関数, 交差妥当化の結果が算出される. それぞれの出力内容の意味は, 本資料を参照するか, 小塩 (2004) を参照する

13 6. 文献 ) 深谷澄男喜田安哲 (2003):SPSS とデータ分析 2. 北樹出版. 2) 小塩真司 (2004):SPSS と Amos による心理調査データ解析. 東京図書. 3) 渡部洋 ( 編著 )(988): 心理教育のための多変量解析法入門基礎編. 福村出版. 4) 渡部洋 ( 編著 )(2002): 心理統計の技法. 福村出版

1. 多変量解析の基本的な概念 1. 多変量解析の基本的な概念 1.1 多変量解析の目的人間のデータは多変量データが多いので多変量解析が有用特性概括評価特性概括評価症例主治医の主観症例主治医の主観単変量解析客観的規準のある要約多変量解析要約値客観的規準のな

1. 多変量解析の基本的な概念 1. 多変量解析の基本的な概念 1.1 多変量解析の目的人間のデータは多変量データが多いので多変量解析が有用特性概括評価特性概括評価症例主治医の主観症例主治医の主観単変量解析客観的規準のある要約多変量解析要約値客観的規準のな 1.1 多変量解析の目的人間のデータは多変量データが多いので多変量解析が有用特性概括評価特性概括評価症例治医の観症例治医の観単変量解析客観的規準のある要約多変量解析要約値客観的規準のない要約知識直感知識直感総合的評価考察総合的評価考察単変量解析の場合多変量解析の場合 < 表 1.1 脂質異常症患者の TC と TG と重症度 > 症例 No. TC