MATLAB®製品紹介セミナー

Transcription

1 MATLAB における分類 パターン認識 - 入門編 - MathWorks Japan アプリケーションエンジニアリング部 ( テクニカルコンピューティング部 ) アプリケーションエンジニア大開孝文 2012 The MathWorks, Inc. 1

2 アジェンダ 回帰モデルと分類モデルについて 分類手法を使ったワインの品質モデリング まとめ 2

3 分類手法を使ったワインの品質モデリング アプローチ 膨大なデータから 分類モデリング 線形判別 単純ベイズ分類器 Tree Bagger 並列演算による計算の高速化 パラメータの選択 利用製品 MATLAB Statistics Toolbox Parallel Computing Toolbox 3

4 予測モデル ( 回帰モデル ) Y = F(X 1, X 2, X 3, X n ) 数値 4

5 予測モデル ( 分類モデル ) Y = F(X 1, X 2, X 3, X n ) 数値 ( 名義尺度 順序尺度 ) 5

6 アプリケーション例金融分野 格付けの割り当て 格付け離散値 AAA AA BB 経営状況による格付けの予測 内部留保 総資産 運転資金 6

7 分類 パターン認識における課題 市販のプログラムでは解析手法がよくわからない 分類される訓練について時間がかかる よく分かる専門家が必要 7

8 分類手法を使ったワインの品質モデリング 各種データ量からグルーピングを行う ( 分類 ) 白ワインの糖分 PH 濃さなどデータ量から 品質のいいワインの傾向をつかむ 本デモのダウンロード 8

9 分類 パターン認識のワークフロー 分類手法の選択 訓練 学習 精度の測定 ( 検定 ) 分類モデルの完成 モデルの単純化 9

10 MATLAB で可能な分類 パターン認識のアルゴリズム Statistics Toolbox 判別分析 ロジスティック回帰 単純ベイズ分類器 バギングされた決定木 Bioinformatics Toolbox サポートベクターマシーン Neural Network Toolbox ニューラルネットワーク 10

11 アルゴリズム選択 アルゴリズム複雑さ バギングされた決定木 線形判別分析 前提条件の厳しさ 11

12 アルゴリズム選択大雑把なやり方 シンプルな方法が ( たいてい ) いい シンプルなモデル 解釈が簡単 説明がかんたん メモリ消費量少なくて 高速に学習 単純なモデルは前提条件となる過程が厳しい 前提条件に違反しているかどうかチェック 予備となるデータ解析が重要 12

13 アルゴリズム選択 アルゴリズム複雑さ バギングされた決定木 単純ベイズ 線形判別分析 前提条件の厳しさ 13

14 Naïve Bayes ( 単純ベイズ ) を使った分類器 ベイズの定理 P(C E) = P(E C)*P(C)/P(E) P(C) : 事前確率 P(C E): 事後確率 P(E C): 尤度 P(E) : 証拠 Naïve Bayes P(C E) = P(C)*P(F 1, F 2,..., F n C) = P(C)P(F 1 C) P(F 2,..., F n C,F 1 ) = P(C)*P(F 1 C) P(F 2 C) P(F 3 C) *P(F n C) F: 属性値 ( 特徴 ) 各属性が独立 Bayesian Network F1 F2 F3 C1 F1 F2 F4 F1 F2 F3 F3 14

15 分類 パターン認識のワークフロー 分類手法の選択 訓練 学習 正確性の測定 ( 検定 ) 分類モデルの完成 モデルの単純化 15

16 訓練 学習 特徴を持ったデータと出力となるクラスをもったデータセット の作成 クラス : 予測子 (Y) 特徴 : 応答データ (X) このデータを使って訓練 学習 特徴とクラスとの関係を繰り返し作成するルールを発展 通常 データを 2 種類に分割 訓練データ ( モデルのルールを構築 ) X_train/Y_train 検証用データ ( アルゴリズムの正確性のバリデーション ) X_test/Y_test fit/train : 学習 predict : 予測 16

17 分類 パターン認識のワークフロー 分類手法の選択 訓練 学習 正確性の測定 ( 検定 ) 分類モデルの完成 モデルの単純化 17

18 実際のクラス 分類器の正確性の測定 - 混同行列 - 予測したクラス A B C D E F G A B C D E F G

19 分類 パターン認識のワークフロー 分類手法の選択 訓練 学習 正確性の測定 ( 検定 ) 分類モデルの完成 モデルの単純化 19

20 モデルの単純化 目標 : 特徴情報を最小化 できるだけ同じ結果を得る 理由 オーバーフィッティングの回避 ( ロバスト性が失われる ) サイズ モデルをシンプルに ( 重要なパラメータが分かりやすい ) 手法 前方逐次特徴選択 sequentialfs Out of Bag における特徴の重要度 Treebagger で有効 20

21 モデルの単純化 [fs,history] = sequentialfs( fun, X,Y,'cv',c2) fun=@(xtrain,ytrain,xtest,ytest)... sum(ytest~=predict(naivebayes.fit(xtrain,ytrain),xtest)); fun : 基準 尺度関数分類モデルの誤判別された観測総数 Ytest と Xtest を入力して予測した結果との誤差の和を計算する関数 例 ) 実際 : 予測 2 : 1 一致していない 3 : 3 5 : 4 一致していない fun : 2 回帰モデルにも活用可 21

22 分類 パターン認識のワークフロー 分類手法の選択 訓練 学習 正確性の測定 ( 検定 ) 分類モデルの完成 モデルの単純化 22

23 TreeBagger とは? 分類木 TreeBagger Y 1 = F 1 (X 1, X 2, X 3, X n ) Y 2 = F 2 (X 1, X 2, X 3, X n ) Y = F(X 1, X 2, X 3, X n ) 一つだけの学習器だとロバスト性が悪い Yk = Fk(X 1, X 2, X 3, X n ) 分類木でモデリングしたものの拡張版 弱学習器を多数作成して 結果の多数決を取る 23

24 Parallel Computing Toolbox を使った最適化 TreeBagger 関数の計算は時間が掛かりますが 以下の環境で 高速化が実現 Windows XP 64 bit Intel Xeon CPU ( クアッドコア ) Memory 12.0G 136 sec 39 sec ( 約 3.4 倍 ) 24

25 分類器の正確性の測定 ROC 曲線 平行座標プロット 感度 ( 陽性 /+)/ 偽陽性率 ( 陽性 /-) との関係曲線 AUC は 曲線で分けられた下側の面積 色付きの線 : 実際のクラス各曲線のピーク : 推定クラス高さ : 尤度 25

26 分類モデルの完成 GUI アプリケーションに分類器を統合 格付けアプリケーション アプリケーションとして システムに実装 センサーネットワーク 自動トレーディングシステム スパムメールフィルター 26

27 分類 パターン認識における課題の解決 市販のプログラムでは解析手法がよくわからない 様々なアルゴリズムを提供 Statistics Toolbox Bioinformatics Toolbox Neural Network Toolbox 分類される訓練について時間がかかる Parallel Computing Toolbox による並列処理 よく分かる専門家が必要 ヘルプドキュメント記載を参照 テクニカルサポート 弊社トレーニングサービス 弊社コンサルティングサービス 27

28 まとめ MATLAB における分類 パターン識別のワークフローを紹介 Statistics Toolbox では 多種な分類器を提供 判別分析 単純ベイズ 分類木 バギング ブースティング etc Parallel Computing Toolbox との相性がよく 高速処理が可能 サポートベクターマシーンは Bioinformatics Toolbox ニューラルネットワークは Neural Network Toolbox 28

29 まとめ関数一覧 (Statistics Toolbox) 判別分析 Classify 単純ベイズ (Naïve Bayes) NaiveBayes K 近傍分類 ClassificationKNN 分類木 ClassificationTree バギング TreeBagger ブースティング fitensamble (Bioinformatics Toolbox) サポートベクターマシーン svmtrain (Neural Network Toolbox) ニューラルネットワーク train 29

30 お問い合わせ 営業部へのお問い合わせ TEL: メールアドレス : service@mathworks.co.jp 本日のご参加ありがとうございました 2012 The MathWorks, Inc. MATLAB and Simulink are registered trademarks of The MathWorks, Inc. See for a list of additional trademarks. Other product or brand names may be trademarks or registered trademarks of their respective holders. 30