JMPの 非 線 形 回 帰 の 使 い 方 と 適 用 事 例 - JMPer s Meeting 27-2 - 27 年 7 月 9 日 ( 木 ) 日 本 たばこ 産 業 株 式 会 社 前 東 京 理 科 大 学 教 授 杉 山 公 仁 芳 賀 敏 郎 本 日 の 発 表 内 容 背 景 線 形 と 非 線 形 の 違 い 非 線 形 モデルの 解 き 方 基 礎 編 線 形 化 最 小 二 乗 法 について JMPの 非 線 形 回 帰 線 形 モデル 本 編 JMPの 非 線 形 回 帰 非 線 形 モデル(Emaxモデルを 例 として) 効 力 比 ロジスティック 回 帰 ( 最 尤 法 ) JMPのユーザーサポート モデルライブラリー サンプルデータ 2
背 景 (その) 第 3 回 医 薬 品 開 発 のための 統 計 解 析 講 座 27 年 月 24 日 ( 水 ) 開 講 エクセル JMP(ジャンプ)による 基 礎 から 応 用 統 計 解 析 実 務 者 コース ( 創 薬 セミナー) 創 薬 アカデミー SAS Institute Japan 株 式 会 社 JMP 事 業 部 共 催 セミナーの 目 的 製 薬 会 社 で 創 薬 に 携 わる 研 究 者 実 務 者 ならびに 臨 床 現 場 でデータを 扱 う 医 療 関 係 者 は しばしば 統 計 解 析 で 悩 まされています 社 内 の 統 計 専 門 家 は 恒 常 的 に 忙 しく 簡 単 な 実 験 データ 解 析 には 相 談 にのってもらい 難 い のが 実 態 です 自 分 の 部 署 である 程 度 までの 統 計 解 析 を 行 いたいがSASやJMPを 扱 える ほどの 要 員 はいない エクセルならば 部 員 全 員 が 一 応 は 扱 える エクセルで 統 計 解 析 はで きないものか? と 悩 んでいる 研 究 実 務 統 括 者 は 多 いと 思 われます 本 講 座 はそのような 悩 みを 解 決 すべく エクセルでゴールシーク ソルバーを 駆 使 してt 検 定 から 多 重 比 較 最 尤 法 ロジスティック 回 帰 までを 修 得 できるような2ヶ 月 ( 月 回 )の 研 修 コースを 企 画 いたしました 3 部 構 成 で 基 礎 実 験 計 画 及 び 拡 張 編 からなっています また グローバルなSAS 社 統 計 ソフトJMPの 使 い 方 もマスターできるようなコースです 本 研 修 終 了 者 は 担 当 部 署 の 業 務 に 関 連 する 統 計 解 析 ができるようになり 社 内 外 の 統 計 家 と 専 門 的 な 会 話 が 可 能 になるよう 人 材 育 成 を 目 指 します 3 背 景 (その2) 創 薬 セミナーではナビゲータ 方 式 を 採 用. ナビゲータ 方 式 とは, 芳 賀 が 作 成 したテキ ストを 統 計 を 勉 強 しているメンバー(セミナー の 一 期 生 を 含 む)が 理 解 し, 理 解 したことを 分 かり 易 く 受 講 生 に 伝 える 方 法 であり,ナビ ゲータがつまづくところは 受 講 生 もつまづきや すい 点 であるため, 芳 賀 が 補 足 説 明 をすると いう 講 義 方 法 のことである.もちろん,ナビ ゲートするには 事 前 のリハーサルを 繰 り 返 し 実 施 し, 十 分 な 準 備 を 行 っている. 4 2
背 景 (その3) 創 薬 セミナーの 第 3 部 の 拡 張 編 では 以 下 の 項 目 を 講 義 している. 非 線 形 モデル 指 数 曲 線 ロジスティック 曲 線 非 線 形 最 小 2 乗 法 による 推 定 値 の 標 準 誤 差 重 み 付 き 最 小 2 乗 法 計 数 値 2 変 量 の 関 係 リスク オッズ ロジット オッズとオッズ 比 ロジスティック 回 帰 分 析 D5 検 定 多 項 ロジスティック 回 帰 分 析 生 存 時 間 解 析 Kaplan-Meier 曲 線 ログランク 検 定 浜 田 知 久 馬 先 生 一 般 化 ウィルコクソン 検 定 5 創 薬 セミナーの 第 3 部 からJMPの 非 線 形 回 帰 に 関 連 する 部 分 をJMPのセミナーとして9 月 に 実 施 す る 予 定 です. 本 発 表 では,JMPセミナーの 一 部 をご 紹 介 します. 6 3
線 形 と 非 線 形 次 の 式 ~4は 線 形? それとも, 非 線 形? y 4 2 8 6 4 2 2 3 4 2 4 6 8 2 x 式 式 式 式 : y = b 2 : y = b 3: y = 5 + b ( x b 4 : y = b x + b x b + b x + b x パラメータの 値 b b b2 式 : 5 - 式 2: -.2 式 3: - 5 式 4:. - 2 2 2 ) 7 解 答 式 式 式 式 : y = b 式 は 直 線 で, 線 形 です. 式 2は 曲 線 ですが, 線 形 です. 式 3は 直 線 ですが, 非 線 形 です. 式 4は 曲 線 で, 非 線 形 です. 2 : y = b 3: y = 5 + b ( x b 4 : y = b x + b x b + b x + b x 2 2 2 ) y 4 2 8 6 4 2 2 3 4 2 4 6 8 2 x 線 形 と 非 線 形 の 違 いは 何 でしょうか? グラフの 形 ( 直 線 or 曲 線 )ではないことは 明 らかです. 8 4
パラメータに 注 目 式 は y = b + b x でパラメータ b と b に 関 して 一 次 式 で 表 せます. 2 式 2は y = b + b x + b2 x でパラメータb,b と b 2 に 関 して 一 次 式 で 表 せます. では, 式 3と 式 4はどうでしょうか. b y = + b ( x ) y = b x 5 b2 パラメータに 関 して 一 次 式 では 表 せません. つまり,x に 関 してではなく,パラメータに 関 して 一 次 式 で 表 せるモデルが 線 形 モデル, 一 次 式 で は 表 せないモデルが 非 線 形 モデルとなります. 9 問 題 (その): y = b + b x について, 任 意 の 反 応 を 示 すx の 推 定 値 は? 式 は 線 形 モデルでした. では,ある 反 応 (y = )となる x を 求 めるに 2 はどうしたらよいだろうか? 5. 求 めたパラメータを 使 って, y = を 代 入. 2. 式 を 変 形 したらどうだろうか? つまり, 求 めたい 値 をモデルにする. 3. JMPでは 逆 推 定 の 問 題 8 6 4 2 5
任 意 の 反 応 を 示 す x の 推 定 値 は?. 求 めたパラメータを 使 って, y = を 代 入. b x = b として 解 が 得 られる. x の 信 頼 区 間 は 別 に 求 める 必 要 がある. 2. パラメータとして y = となる x をモデル 式 に 入 れる. 式 の 変 形 y = b + b x x = + b ( x ) この 式 は 式 3と 同 じです 求 めるパラメータはどれ? 任 意 の 反 応 を 示 す x の 推 定 値 は? 2. パラメータとして x をモデル 式 に 入 れる. ここで, y = b x + b x x = + b ( x ) は y = となる x であり,パラメータである. 式 変 形 でパラメータ b と x については, 一 次 式 で 表 せなくなり, 非 線 形 モデルになった. JMPでは 非 線 形 回 帰 で 解 析 可 能 非 線 形 モデルとして 解 析 すると. 原 則 として,パラメー タの 点 推 定 値 と 信 頼 区 間 が 同 時 に 求 められる. 2 6
任 意 の 反 応 を 示 す x の 推 定 値 は? 3. JMPでは 逆 推 定 の 問 題 モデルのあてはめ の 逆 推 定 で 解 析 可 能. 信 頼 区 間 も 求 められる. 3 逆 推 定 とその 区 間 推 定 JMP モデルの 当 てはめ と 逆 推 定 パラメータ 推 定 値 項 切 片 x 推 定 値 2.857429.22695 標 準 誤 差.3973.25763 逆 推 定 y 予 測 値 x. 5.82524272 期 待 応 答 についての 信 頼 区 間 JMP 非 線 形 回 帰 解 SSE 6.7269476 パラメータ b x DFE 6 推 定 値.22694762 5.825242784 次 の 値 で 解 く: 解 析 NR t 値 2.2 4.76 下 側 限 界 4.6449828 MSE 2.7876984 近 似 標 準 誤 差.257638.5563943 p 値 (Prob> t ).75.3 * RMSE.669642 上 側 限 界 7.9578236 下 側 信 頼 限 界.59578994 4.6449383 -Alpha.95 上 側 信 頼 限 界.85659 7.9578372 x y y-hat 3 4.8 2 7 5.3 3 5 6.54 4 8 7.76 5 8.99 6 2.2 7 9.44 8 3 2.67 b.226 x 5.825 S 6.726 4 7
パラメータ x の 信 頼 区 間 6 4 2 8 6 4 2 y = 推 定 値 ^y の 信 頼 区 間 x 5 x の95% 下 側 信 頼 限 界 x の95% 上 側 信 頼 限 界 y の 信 頼 区 間 は 点 推 定 値 の 上 下 で 等 間 隔 x の 信 頼 区 間 は 点 推 定 値 の 前 後 で 等 間 隔 ではない. 非 線 形 モデルの パラメータの 信 頼 区 間 は 等 間 隔 で はない. 5 信 頼 限 界 の 求 め 方 Excel Solver で 非 線 形 モデルを 当 てはめる( 前 シート 右 上 の 結 果 が 得 られる). x を 推 定 値 にδを 加 えて 固 定 する. 変 化 させる セルにbだけを 指 定 してソルバーで 解 く. δとseの 関 係 をグラフにする. 放 物 線 (2 次 曲 線 )とはならない. 3 次 式 を 当 てはめる. 6 8
信 頼 限 界 の 求 め 方 2 45 4 y = -.9237x 3 + 8.3324x 2 -.55x + 6.922 Se 35 3 25 2 5-2. -.5 -. -.5. δ.5..5 2. 2.5 3. 7 信 頼 限 界 の 求 め 方 3 残 差 平 方 和 Se=6.726 を 自 由 度 6 で 割 って, 平 均 平 方 Ve=2.788を 求 める. Se+Ve=9.54に 横 線 が 引 かれている. δ=±.5 の 近 くで 交 わっている. または,3 次 式 の2 次 の 項 8.3324 から,SeがVe だけ 増 加 するδを (2.788/8.3324)=.578 とし て 計 算 される.これが 近 似 標 準 誤 差.556 に 対 応 する. Se+F(,6;.5)Ve=33.47 の 位 置 にも 横 線 が 引 かれている. 交 点 の 横 座 標 値 を 推 定 値 に 加 える と 信 頼 限 界 が 得 られる. 8 9
モデルのあてはめ の 逆 推 定 と 非 線 形 回 帰 の 使 い 分 け モデルのあてはめ の 逆 推 定 モデルのあてはめ は 線 形 モデルのみ 線 形 モデルにおいて, 任 意 の 反 応 y を 示 す x の 値 が 知 りたい 場 合 に 有 効. 非 線 形 回 帰 線 形 モデルだけでなく, 非 線 形 モデルが 解 ける. 9 小 まとめ 線 形 と 非 線 形 の 違 い パラメータに 関 して 一 次 式 でないのが 非 線 形 モデル 線 形 モデルは ニ 変 量 の 関 係 or モデルのあて はめ で 解 く. 逆 推 定 は モデルのあてはめ で 実 行 可 能 非 線 形 モデルは 非 線 形 回 帰 で 解 く. 非 線 形 モデルのメリットは 求 めたい 値 をパラメータと してモデル 式 にして, 直 接 求 められる. 2
y 非 線 形 モデルの 解 き 方 基 礎 編 線 形 化 による 解 き 方 最 小 二 乗 法 による 解 き 方 線 形 モデルを 例 に 手 順 の 説 明 JMP 非 線 形 回 帰 の 使 い 方 線 形 モデル 2 非 線 形 モデルの 解 き 方 ( 線 形 化 ) b 式 4 y = b x はパワーモデルと 呼 ばれ, 薬 物 動 態 の 線 形 性 を 評 価 する 非 線 形 モデル 薬 物 動 態 パラメータAUCとCmaxは 対 数 正 規 分 布 に 従 うことが 知 られている. 誤 差 の 構 造 を 考 慮 して, 変 数 変 換 を 行 う. 6 4 y b =.3 b =. 6 4 b =2. b =. 2 b =.65 2 b =.5 2 4 6 x 2 4 6 x 22
問 題 (その2) 式 4を 対 数 変 換 してみてください. y = b x log( y) = log( b x b b ) = log( b ) + b log( x) ここで, log( y ) = Y, log( b ) = B, log( x) = X = B b X Y + とすると, となり, 先 ほどの 式 と 同 じでパラメータ B,b に 関 して 線 形 となります. y 8 6 4 2 2 4 6 8 x b =, b = 2 23 問 題 (その2) 式 4を 対 数 変 換 してみてください. y = b x log( y) = log( b x b b ) = log( b ) + b log( x) ここで, log( y ) = Y, log( b ) = B, log( x) = X = B b X Y +.. 2 4 6 8 x x とすると, となり, 先 ほどの 式 と 同 じでパラメータ B,b に 関 して 線 形 となります. パワーモデルでは,このような 解 析 が 実 施 可 能. しかし, 全 ての 非 線 形 モデルで 有 効 な 解 析 法 ではない. 一 般 的 に, 線 形 化 は 誤 差 構 造 が 把 握 しにくい. y 8 6 4. 2 b =, b = 2 log(b ) =, b = 2 24 2
非 線 形 モデルの 有 用 性 求 めたいパラメータをモデル 式 で 記 述 できる. 観 察 された 現 象 やその 分 野 における 知 見 に 基 づき, 自 由 にモデル 化 ができる. JMP 非 線 形 回 帰 の 有 用 性 非 線 形 モデルを 線 形 化 せずに,パラメータが 直 接 求 められる. 最 小 二 乗 法 で 解 く. 非 線 形 最 小 二 乗 法 を 説 明 する 前 に, 最 小 二 乗 法 について 復 習 しましょう. 25 回 帰 分 析 次 のシートのデータに 直 線 y = b +b x を 当 てはめる. 下 のスクロールバーを 左 右 に 移 動 すると,b,b が. きざみに 変 化 し,それに 伴 い,y-hat が 変 化 する. 右 のグラフで, 観 測 点 y と 直 線 y-hat = b +b x ができ るだけ 接 近 するようにしたい. S =Σ(y - y-hat) 2 を 不 一 致 度 の 指 標 とし,S を 最 小 と するb, b を 求 める. これが 最 小 二 乗 法 である. 26 3
最 小 二 乗 法 の 考 え 方 x y y-hat 3 2 2 7 3.95 3 5 5.9 4 8 7.85 5 9.8 6 2.75 7 9 3.7 8 3 5.65 2 5 5 y y-hat 5 b.5 5 b.95 95 S 4.35 EXCELへ 与 えた 初 期 値 から 試 行 錯 誤 しながら, 最 適 解 を 求 める. 27 ソルバー 試 行 錯 誤 を 自 動 的 に 実 行 してくれるのが Excel のソルバーである. トップメニュー ツール から ソルバー を 選 択 する. 次 シートが 現 われる. 目 的 セルに S のセルを, 目 標 値 に 最 小 値 を, 変 化 させるセルに b, b のセルを 指 定 して, 実 行 する. y = 2.86 +.23x, S = 6.73 が 得 られる. 28 4
ソルバーの 設 定 画 面 EXCELへ 29 線 形 最 小 二 乗 法 二 変 量 の 関 係 による 解 析 回 帰 分 析 のモデル y = b + b x を 例 とした,これまでの 解 析 手 順 は, 非 線 形 最 小 二 乗 法 の 考 え 方 を 示 すため のものである. 線 形 モデルの 場 合, 実 際 にはJMP 二 変 量 の 関 係 (あ るいは モデルのあてはめ )で 解 析 する. 解 析 的 に, 正 規 方 程 式 を 解 いて, 解 を 求 める. 直 線 を 当 てはめると 次 の 出 力 が 得 られる. パラメータ 推 定 値 項 切 片 x 推 定 値 2.857429.22695 標 準 誤 差.3973.25763 t 値 2.2 4.76 p 値 (Prob> t ).75.3 * 下 側 95% -.326224.5957899 上 側 95% 6.4595.85659 3 5
JMPの 非 線 形 回 帰 による 解 析 手 順 JMPの 非 線 形 回 帰 はExcel のソルバーで 最 適 解 を 求 めるのと 同 じ 手 順 で 解 析 を 進 める.. JMPデータシートにモデル 式 を 含 む 列 を 追 加 2. 初 期 値 の 設 定 3. 数 値 計 算 ( 試 行 錯 誤 )の 実 行 4. 信 頼 限 界 の 算 出 JMP へ 3 JMPの 非 線 形 回 帰 による 解 析 手 順 JMPデータシートにモデル 式 ( 計 算 式 )を 含 む 列 を 追 加 する. y-hat の 列 を 作 り, 計 算 式 を 入 力 する. 計 算 式 の 画 面 で, パラメータ を 選 択 し, パラ メータの 新 規 作 成 でb,b を 作 成 し, 適 当 な 初 期 値 (たとえば, b = 2, b = )を 指 定 する. 計 算 式 b + b x を 入 力 する. 32 6
JMPの 非 線 形 回 帰 手 順 y-hat の 列 作 成 と 計 算 式 入 力 b + b * x 33 JMPの 非 線 形 回 帰 による 解 析 手 順 2 分 析 モデル 化 非 線 形 回 帰 を 選 択 する. パラメータ 指 定 画 面 で,y を Y, 応 答 変 数 に,y-hat を X, 予 測 式 列 に 指 定 する. OK をクリックする. 必 要 があればパラメータの 初 期 値 をプロットを 見 な がら 設 定 する. 実 行 をクリックする. 信 頼 限 界 をクリックする. 34 7
JMPの 非 線 形 回 帰 手 順 2 パラメータ 指 定 画 面 35 JMPの 非 線 形 回 帰 手 順 3 初 期 値 の 変 更 36 8
JMPの 非 線 形 回 帰 による 解 析 結 果 解 SSE 6.7269476 パラメータ b b DFE 6 推 定 値 2.85742857.22694762 次 の 値 で 解 く: 解 析 NR MSE 2.7876984 RMSE.669642 近 似 標 準 誤 差.39737.257638 下 側 信 頼 限 界 -.3262238.59578994 二 変 量 の 関 係 の 結 果 と 一 致 する. 上 側 信 頼 限 界 6.45952.85659 パラメータ 推 定 値 項 切 片 x 推 定 値 2.857429.22695 標 準 誤 差.3973.25763 t 値 2.2 4.76 p 値 (Prob> t ).75.3 * 下 側 95% -.326224.5957899 上 側 95% 6.4595.85659 37 非 線 形 モデルの 解 き 方 本 編 データへ 非 線 形 モデルのあてはめ JMP 非 線 形 回 帰 の 使 い 方 非 線 形 モデル 38 9
非 線 形 モデルによる 非 線 形 回 帰 計 量 値 の 例 Emaxモデル f ( x) = Emax x γ x + EC5 γ γ 推 定 されるパラメータ Emaxは 実 験 の 最 大 投 与 量 の 反 応 量 ではあり ません Emax: 最 大 反 応 量 x: 処 置 量 ( 投 与 量 あるいは 濃 度 ) γ: 係 数 ( 傾 き) EC5:5% 反 応 量 ( 濃 度 )=D5 誤 差 が 正 規 分 布 であると 仮 定 した 非 線 形 モデルについてご 紹 介 します 39 E max モデルの 説 明 E max モデルからの 式 変 形 γ Emax x f ( x) = γ γ 分 子 分 母 を x x + EC γ で 割 る 5 Emax 指 数 で 表 わすと f ( x) = γ EC5 + γ x Emax Emax f ( x) = = γ γ γ EC + exp(ln( EC5 ) ln( x )) 5 + exp ln γ x Emax = + exp γ ln( EC ) ln( x) ( ( )) 5 4 2
In vitro 実 験 例 実 験 装 置 μm ヒスタミン マグヌス(Magnus) 装 置 4 In vitro 実 験 例 データ 66 mm 3 mm 58 mm μm ヒスタミン 3.6μM ヒスタミン μm ヒスタミン 42 2
計 量 値 データ 使 用 するデータ 例 f ( x) = Emax x γ x + EC5 γ γ ヒスタミン 濃 度 平 滑 筋 (μm) 収 縮 量 (mm)..36 3. 5.36 23 66 3.6 3 58 3.6 7 7 36 65 収 縮 量 (mm) 8 6 4 2 8 6 4 2 2 3 dose ヒスタミンによる 摘 出 腸 管 の 収 縮 反 応 x を 実 数 でプロット.~36μMの 用 量 n= データの 出 典 :http://www.yukms.com/biostat/takahasi/rec/4.htm 43 計 量 値 データ 使 用 するデータ 例 f ( x) = + exp E max ( γ ( ln( EC ) ln( x) )) 5 ヒスタミン 濃 度 平 滑 筋 (μm) 収 縮 量 (mm)..36 3. 5.36 23 66 3.6 3 58 3.6 7 7 36 65 収 縮 量 (mm) 8 6 4 2 8 6 4 2.. dose ヒスタミンによる 摘 出 腸 管 の 収 縮 反 応 x を 対 数 でプロット.~36μMの 用 量 n= データの 出 典 :http://www.yukms.com/biostat/takahasi/rec/4.htm 44 22
計 量 値 データ 使 用 するデータ 例 f ( x) = + exp E max ( γ ( ln( EC ) ln( x) )) 5 ヒスタミン 濃 度 平 滑 筋 (μm) 収 縮 量 (mm)..36 3. 5.36 23 66 3.6 3 58 3.6 7 7 36 65 収 縮 量 (mm) 8 6 4 2 8 6 4 2 S 字 曲 線 (シグモイド 曲 線 ).. dose ヒスタミンによる 摘 出 腸 管 の 収 縮 反 応 x を 対 数 でプロット.~36μMの 用 量 n= データの 出 典 :http://www.yukms.com/biostat/takahasi/rec/4.htm 45 シグモイド 曲 線 正 規 分 布 あるいはロジスティック 分 布 の 分 布 関 数 はシグモイド 曲 線 となる. 正 規 分 布 プロビット 曲 線 ロジスティック 分 布 ロジスティック 曲 線 正 規 分 布 ロシ スティック 分 布.5.4.3.2.. -4-3 -2-2 3 4..9.8.7.6.5.4.3.2. プロビット 曲 線 ロシ スティック 曲 線. -4-3 -2-2 3 4 プロビット 曲 線 とロジスティック 曲 線 は ほとんど 違 いはありません 46 23
シグモイド 曲 線 の 比 較 正 規 分 布 の 分 布 関 数 (プロビット 曲 線 ) = x 2 t μ F ( x) exp 2π σ 2 σ dt ロジスティック 分 布 の 分 布 関 数 (ロジスティック 曲 線 ) exp ( ) ( β + β x) F x = = + exp( β + β x) + exp( ( β + β x) ) Emaxモデル Emax x y = f ( x) = γ x + D5 γ γ = + exp ( γ ( ln( D5) ln( x) )) Emax Emaxモデルによるシグモイド 曲 線 はロジスティック 曲 線 と 本 質 的 には 一 致 している. 47 EXCELで 確 かめるパラメーター の 意 味 値 指 定 値 指 定 範 囲 EC 5 = (.~) γ = 2 (-5~5) E max = 8 (~) 8 6 f ( x) = + exp Emax x f ( x) = γ x + EC E max ( γ( ln( EC ) ln( x) )) γ γ 5 5 4 2.. x EXCELへ 48 24
JMPの 非 線 形 回 帰 y-hat の 列 作 成 と 計 算 式 入 力 Emaxモデル b + b * x 自 然 対 数 49 JMPによる 解 析 結 果 プロット 2 5 y 5 解 SSE 2.242 パラメータ Emax EC5 gamma -5 パラメータ Emax EC5 gamma 7.5799434.58735897.6776565 次 の 値 で 解 く: 解 析 NR x 推 定 値 7.5799434.58735897.6776565 最 小 値 85.795.6 最 大 値 255 2.385.8 DFE 7 MSE 7.3286 RMSE 4.59363 推 定 値 近 似 標 準 誤 差 下 側 信 頼 限 界 2.6844664 65.5925.3262.3438734.823898.24652 上 側 信 頼 限 界 77.952336.8796987.373376 5 25
用 量 反 応 関 係 式 の 類 似 性 y = Emax x γ x + D5 γ γ Emax 理 論 V V = [ S] max h [ S] + K h=の 場 合 h h.5 Vmax [ S] V = [ S] + K M 酵 素 反 応 速 度 論 Michaelis-Menten [L B B ] = [L max n F] [L + ] n F n K D 受 容 体 結 合 実 験 5 小 まとめ JMPの 非 線 形 回 帰 の 手 順 を 線 形 モデルで, 説 明 した. 非 線 形 回 帰 では, 最 小 二 乗 法 によって,パ ラメータの 最 適 値 を 初 期 値 から 試 行 錯 誤 的 に 数 値 計 算 して 求 める. Emaxモデルを 例 にして,パラメータの 意 味, 非 線 形 回 帰 での 解 析 手 順 を 示 した. Emaxモデルが 酵 素 反 応 などの 解 析 にも 利 用 できることを 示 した. 52 26
その 他 のモデル 非 線 形 回 帰 は 極 めて 広 範 囲 のモデルに 当 てはめ ることができる. それらのモデルの 一 部 は,JMPのマニュアルに 取 り 上 げられている. そのデータは JMP のサンプルデータに 登 録 され ている. JMPを 立 ち 上 げ, ヘルプ から サンプルデータ ディレクトリ を 選 択 すると, 一 覧 表 が 表 示 される. それらの 一 部 が 配 布 される 補 助 資 料 の 中 で 解 説 されている. 53 ロバスト 回 帰 次 のデータはアン スコムが 提 供 した 外 れ 値 を 含 むデータで ある. 最 小 二 乗 法 による 回 帰 直 線 は 点 線 の ように, 外 れ 値 に 引 っ 張 られる. x y y-hat 4 e 4 5.39 5.39. 5 5.73 5.73 -.5 y 2 6 6.8 6.8. 線 形 (y) 7 6.42 6.42 -.5 8 6.77 6.77. 9 7. 7. 8 -.5 7.46 7.46. 7.8 7.8 6.5 2 8.5 8.5. 4 3 2.74 8.5 4.245 4 8.84 8.84 4. 6 8 2 4 54 27
ロバスト 推 定 きたないデータ( 外 れ 値 を 含 むデータ)では 平 均 値 よりも 中 央 値 の 方 が 代 表 値 として 安 定 した 値 が 得 ら れることが 知 られている. 平 均 値 は 残 差 の2 乗 の 和 を 最 小 にする 最 小 二 乗 推 定 値 である, 中 央 値 は 残 差 の 絶 対 値 の 和 を 最 小 とする 推 定 値 である. アンスコムのデータに, 残 差 の 絶 対 値 の 和 を 最 小 とする 回 帰 式 を 当 てはめることを 考 える. また, 中 間 を 取 って, 残 差 の 絶 対 値 の.5 乗 の 和 を 最 小 にすることも 考 えられる. 55 非 線 形 回 帰 の 別 の 使 い 方 非 線 形 回 帰 の 標 準 的 な 使 い 方 は, y-hat を X, 予 測 式 列 に,y を Y, 応 答 変 数 に 指 定 すると, JMPは 両 者 の 差 ( 残 差 )の2 乗 和 が 最 小 となるように, y-hat の 中 のパラメータを 決 める. もう 一 つの 方 法 は,y を 指 定 せず, 残 差 の2 乗 に 相 当 する 列 を 準 備 し,それを 損 失 に 指 定 する.JMP は 損 失 の 合 計 が 最 小 になるようにパラメータを 決 める. 56 28
次 のようなデータ 表 を 準 備 する. y-hat,loss には 次 の 計 算 式 を 入 力 する. 57 y-hat 列 を X, 予 測 式 列 に, loss 列 を 損 失 に 指 定 する. メニューの 一 番 下 の 数 値 微 分 のみ の 左 の をクリックして を 表 示 する.( 次 シート) OK をクリックする. 非 線 形 回 帰 のあてはめ で 実 行 をクリックす ると 次 次 シートの 解 が 得 られる. 58 29
59 解 損 失 8.446669554 パラメータ b b 重 ね 合 わせプロット 5 DFE 9 推 定 値 3.732854482.3882864 次 の 値 で 解 く: 数 値 SR 平 均 損 失.938463 近 似 標 準 誤 差.82459453.83384 平 均 損 失 平 方 根.968743 下 側 信 頼 限 界.. 上 側 信 頼 限 界.. 2.5 Y 7.5 5 2.5 2.5 5. 7.5. 2.5 5. x Y y y-hat 6 3
ちょっと, 休 憩 6 効 力 比 効 力 比 の 定 義 Emaxモデルの 拡 張 データ 例 による 効 力 比 の 算 出 62 3
効 力 比 の 推 定 効 力 比 の 定 義 : A 剤 の 投 与 量 x と 薬 効 y の 間 に y = f (x) の 関 係 が あるものとする.ここで 関 数 f (x) はどのようなもの であっても 構 わない. B 剤 の 投 与 量 と 薬 効 の 関 係 が y = f (cx) で 表 わさ れるとき, c が 効 力 比 である. 6 4 2 8 6 4 2 A B 2 4 6 x 実 数 c 6 4 2 8 6 4 2 ln( c ) A B - 2 ln(x) log(x) 対 数 63 実 験 データ 薬 剤 A の 投 与 量 を,.92,.48,.2,3.とほぼ 等 比 級 数 的 に 変 化 させて,4 匹 の 動 物 に 投 与 し て, 薬 効 を 調 べる. 薬 剤 B の 効 力 は 薬 剤 A の 半 分 程 度 ( 効 力 比 c =.5)と 想 像 されるので, 薬 剤 A の2 倍,すなわち,.384,.96,2.4,6. と 変 化 させて 投 与 した. 効 力 比 を 求 める 実 験 データ 薬 剤 x y X=ln(x) y-bar A.92.93.7.3.9 -.65.8.48.8.6.6.64 -.73.48.2.6.76.75.7.8.7 3..73.63.66.84..72 B.384.7..9.96 -.96.9.96.26.32.8.3 -.4.27 2.4.53.68.82.65.88.67 64 6..67.7.67.8.79.7 32
グラフ 化 対 数 目 盛 2..8.6.4.2..8.6.4.2. -2. -... 2. A B 65 グラフ 化 用 量 反 応 関 係 を 表 現 するモデルを 当 てはめるの 対 数 目 盛 がよいだろう. ただし, 反 応 はから 始 まるのではなさそう. 2..8.6.4.2..8.6.4.2. -2. -... 2. A B 66 33
Emaxモデルの 拡 張 Emaxモデルの y の 範 囲 は ~Emaxの 範 囲 であった. 任 意 の y( = y min )から 最 大 値 y max までの 範 囲 に 拡 張 する 必 要 がある. 67 拡 張 したモデル y = y min ymax ymin ymax ymin + = ymin + + exp( B( X 5 X )) + exp( B( X X 5)) ここで,X=ln(x) あるいは, X 5 =ln(x 5 )とする. Emaxモデル:y min =, y max = Emax Emaxモデルの X 5 は E max 拡 張 したモデルの X 5 は? 2 となるx であった. y y y 2 y + y 2 max min max min = ymin + = となる X である. 68 34
ロジスティック 曲 線 の 当 てはめ 薬 剤 Aのモデル 式 ymax ymin ymax ymin y = ymin + = ymin + + exp( B( X 5 X ) + exp( B( X X 5) ここで,X=ln(x) あるいは, X 5 =ln(x 5 )とする. 薬 剤 B の 効 力 比 が c のとき, 薬 剤 B の x 5 は 薬 剤 A の x 5 の /c となる( 薬 剤 B が2 倍 の 効 力 比 と 持 つとき, 薬 剤 A の 半 分 の 投 与 で 同 じ 効 果 が 得 られる).これから, y = = y y min min ymax ymin + + exp( B( X ln( x ymax y + + exp( B( X X min 5 5 / c))) + ln( c))) EXCELへ 69 JMPによる 解 析 y = y min ymax ymin + + exp( B( X X 5 + ln( c))) JMPの 解 析 では ln(c)=ρとして いる. 解 SSE.4294967837 パラメータ ymin ymax B X5 ρ DFE 27 推 定 値.7993648439.73929573 2.293372753 -.23478388 -.73473463 次 の 値 で 解 く: 解 析 NR MSE.5973 近 似 標 準 誤 差.6773849.4853574.839582.24244.496286 RMSE.2624 下 側 信 頼 限 界..64834873.. -.484826 ρ= ln(c)= -.73 より,c = exp(ln(c))=.39 である. 上 側 信 頼 限 界.2354324.. -.8248258 -.856285 7 35
JMPによる 解 析 2..8.6.4.2 A B A B..8.6-2. -.5 -. -.5..5..5 2. y 5 = (.73+.8)/2 =.266 AのX 5 = -.234 BのX 5 = -.73-(-.234) = -.6 ρ= ln(c) = -.73: c=.3, cの95% 信 頼 区 間 (.23,.42) 7 小 まとめ Emaxモデルを 拡 張 し,y の 範 囲 を y min から y max までにした. 効 力 比 を 定 義 した. 2 本 の 曲 線 を 非 線 形 回 帰 で 当 てはめた. 2 剤 の 選 択 は If 関 数 で 識 別 72 36
ロジスティック 回 帰 p の 範 囲 はからで, 誤 差 は 二 項 分 布. 最 尤 法 で 解 く. JMPの ニ 変 量 の 関 係 あるいは モデルのあて はめ では 解 析 的 に 解 く. 非 線 形 回 帰 では 損 失 関 数 に 尤 度 関 数 を 設 定 し, 数 値 計 算 で 解 く. 73 ロジスティック 回 帰 のモデルの 意 味 pは~の 範 囲 の 値 しかとらない. オッズ p p は~ の 値 しかとらない. 対 数 オッズは- ~ の 値 をとることができる. 対 数 オッズはロジットlogit と 呼 ばれる. p logit( p ) = ln = z p z β + β X = と 定 義 したとき, の 関 数 を 考 える. 74 37
pとzとの 関 係 ~ - ~ シグモイド 曲 線 ( ~ )を 直 線 (- ~ )に 変 換 して いることを 意 味 する.( 線 形 化 ) 75 ロジスティック 回 帰 のモデルの 意 味 対 数 オッズは- ~ の 値 をとることができる. pは~の 範 囲 の 値 しかとらない. したがって, ln p p = β + β X このモデルから 求 められる p は ~ の 範 囲 に 収 まる. この 式 を p について 解 くと, exp p = + exp ( β + β X ) = ( β + β X ) + exp( ( β + β X )) + ε ロジスティック 曲 線 ( ~ )となる. 誤 差 ε は 二 項 分 布 に 従 う. 76 38
モデルのバリエーション ロジスティック 回 帰 z = A + Bx の 場 合 : JMP ニ 変 量 の 関 係 or モデルのあてはめ z = a + bx + cx 2 の 場 合 : JMP モデルの 当 てはめ z = B(x - x 5 ) の 場 合 : JMP 非 線 形 回 帰 どのモデルでも 誤 差 は 二 項 分 布 に 従 う. p = + exp( z) よって,ロジスティック 回 帰 は 最 尤 法 で 解 析 する. 77 二 項 分 布 の 確 率 と 尤 度 n π f.5..5.2.25.3.35.4.45.5.55.6.65.7.75.8.85.9.95.6.35.2..6.3..............32.39.35.27.9.2.7.4.2.......... 2.7.9.28.3.28.23.8.2.8.4.2........ 3..6.3.2.25.27.25.2.7.2.7.4.2...... 4...4.9.5.2.24.25.24.2.6..7.4.2.....3 5....3.6..5.2.23.25.23.2.5..6.3... 6.....2.4.7..6.2.24.25.24.2.5 f.9 = 3.4.. 7.......2.4.7.2.7.2.2.25.27.25.2.3.6. 8.........2.4.8.2.8.23.28.3.28.9.7.3 9...........2..4.7.2.9.27.35.39.32....... π=..2......3.6..2.35.6 確 率.2.. 2 3 4 f 5 6 7 8 9 尤 度...2.4π.6.8. f = 3 が 得 られたとき, 尤 度 が 最 大 となる πは.3となる.これが 最 尤 法. 78 39
最 尤 法 =, zi = ( xi x ) + exp( z ) β のとき, pˆ i 5 i 尤 度 は, L ˆ 尤 度 は,Excelでは JMPでは で 定 義 される. ˆ fi ( ni fi ) ( pi ) = n C ( ) i f p i i pi ˆ BINOMDIST ( f, n, pˆ ) ( pˆ, n f ) Binomial Probability, 全 体 としての 尤 度 は 個 々の 尤 度 の 積 となり, 対 数 をとること によって 個 々の 尤 度 の 和 として 求 めることができる. ( 対 数 ) 尤 度 が 最 大 となるように, pˆ i を 定 めるパラメータ β と x5 を 推 定 するのが 最 尤 法 である. -2 対 数 尤 度 はχ 2 値 と 関 連 する. 79 pˆ = + exp ( B( x x) ) 5 の 例 8 4
列 の 作 成 8 非 線 形 回 帰 のあてはめ 設 定 82 4
JMP 解 析 結 果 解 損 失.777344 パラメータ b x5 DFE 4 推 定 値 5.434375 5.237755368 次 の 値 で 解 く: 数 値 NR 平 均 損 失 2.7694329 近 似 標 準 誤 差.2752566.7823367 平 均 損 失 平 方 根.66463 下 側 信 頼 限 界.. 上 側 信 頼 限 界.. 非 線 形 回 帰 での 解 析 結 果 信 頼 区 間 の 推 定 に おいて 収 束 しない. ニ 変 量 の 関 係 逆 推 定 で 解 析 した 結 果 パラメータ 推 定 値 項 推 定 値 標 準 誤 差 カイ2 乗 p 値 (Prob>ChiSq) 切 片 x -26.2489 5.43367 6.3543.2757 7.4 7.8 <.* <.* 推 定 値 は 次 の 対 数 オッズに 対 するものです: / 逆 推 定 確 率.5 予 測 値 x 5.2377554 下 側 限 界 5.5542585 上 側 限 界 5.4387 -Alpha.95 83 まとめ 84 42
まとめ 線 形 と 非 線 形 の 区 別 を 明 確 にした. 非 線 形 モデルを 解 く 方 法 として, 最 小 二 乗 法 を 説 明 した. 非 線 形 最 小 二 乗 法 は 数 値 計 算 で 最 適 値 を 求 める 方 法 であった.したがって, 初 期 値 の 設 定 が 重 要 である. JMPの 非 線 形 回 帰 では, Emaxモデルを 例 にパラメータとその 信 頼 区 間 を 直 接 求 めた. 85 まとめ2 Emaxモデルで, 酵 素 反 応 速 度 論 などの 解 析 ができることを 示 した. Emaxモデルを 拡 張 し,さらに, 効 力 比 につい ても 紹 介 した. Emaxモデルとロジスティック 回 帰 のモデル 式 の 類 似 性 を 示 し,ロジスティック 回 帰 における 最 尤 法 について 説 明 した. 非 線 形 回 帰 で 最 尤 法 が 解 けることを 示 した. 86 43
まとめ3 非 線 形 モデルの 解 析 結 果 として 得 られた 信 頼 区 間 は 統 計 ソフトによって 異 なる 可 能 性 が あるので, 使 用 しているソフトがどのような 信 頼 区 間 を 算 出 しているかを 確 認 することは 重 要 である. 非 線 形 モデルが 解 けるようになったことで, 適 切 なモデルを 作 成 するには,データの 裏 にあ る 専 門 分 野 の 知 識 が 重 要 となる. 87 セミナーのご 案 内 27 年 9 月 3 日 ( 月 ) 及 び8 日 ( 火 )の2 日 間 で 非 線 形 回 帰 に 関 するセミナーを 予 定. Excelのソルバーを 利 用 して, 考 え 方 を 説 明 し, JMPで 追 試 する. 非 線 形 回 帰 の 解 法 として, 最 小 二 乗 法 と, 最 尤 法 について 説 明 する. 効 力 比 を 求 める 非 線 形 モデルについて 説 明 する. 非 線 形 モデル 構 築 における 考 え 方 を 経 時 データを 例 に 説 明 する. 88 44
JMPのユーザーサポート 非 線 形 回 帰 モデルライブラリー 抜 粋 89 モデルライブラリー 9 45
ロジスティック 2p "Bates, D.M.and Watts, D.G.(988), Nonlinear Regression Analysis & its Applications.New York, John Wiley and Sons." +theta*exp theta2*x Y..9.8.7.6.5.4.3.2.. -5 5 X 9 ロジスティック 3p "Bates, D.M.and Watts, D.G.(988), Nonlinear Regression Analysis & its Applications.New York, John Wiley and Sons." theta +theta2*exp theta3*x 2..5 Y..5. -. -.5..5..5 2. X 92 46
ロジスティック 4p S. (Sylvie) Huet et al.(996), Statistical Tools for Nonlinear Regression: A Practical Guide With S-Plus and R Examples, Springer theta+ theta2-theta +Exp theta3* X- theta4 y = y min ymax ymin + + exp( B( X X 5) 2..5 Y..5. 2 3 4 5 6 7 8 X 93 Michaelis Mentenモデル(2P) Raymond H. Myers(986), Classical and Modern Regression With Applications, Pws Pub Co theta*x theta2+x 5 25 Y 75 5 25. 2.5 5. 7.5. 2.5 5. X 94 47
モデルE(2P) "Draper, N.and Smith, H.(98), Applied Regression Analysis, Second Edition, New York: John Wiley and Sons, Inc." theta*x theta2 y = b x b Y 9 8 7 6 5 4 3 2 2 3 4 5 6 7 8 9 X 95 モデルH(Gompertz 成 長 モデル 3P) "Bates, D.M.and Watts, D.G.(988), Nonlinear Regression Analysis & its Applications.New York, John Wiley and Sons." theta*exp -Exp theta2-theta3*x Y..9.8.7.6.5.4.3.2.. 2 3 4 5 6 7 8 9 X 96 48