Microsoft PowerPoint 新道路研究会_公開用.pptx

Size: px

Start display at page:

Download "Microsoft PowerPoint 新道路研究会_公開用.pptx"

えいじろうひでやま
5 years ago
Views:

人物動態のモニタリングに向けた統計的異常検知背景物動態の把握の要請多岐にわたる分野において重要交通モデリングマーケティング等

物動態のモニタリングへの期待 2 東京大学大学院工学系研究科社会基盤学専攻布施孝志モニタリングでは異常状態の検知が重要

異常の判定には限界統計的異常検知法の枠組みに着天候交通状況イベントある地域での 24 時間の推移背景目的 4 物動態の把握の要請

常的に得られるデータから正常な状態を学習, 異常や変化を検知その上で, 最終的に対策が必要か為による確認も可能となる本研究における異常 =

交通事故等の検知 for illustration purposes only 両の混雑検知ホットスポットの検出動画中の動線を分析 NW

(Horanont,2010) 様々な法の開発はアドホックにわれており, その整理も分ではない様々な対象への適は限定的である

1 人物動態のモニタリングに向けた統計的異常検知背景物動態の把握の要請多岐にわたる分野において重要交通モデリングマーケティング等位置情報取得の容易化 GPS や WiFi を利した測位技術の発達分解能かつ低コスト物の位置情報をリアルタイムに集計し, 時々刻々と変化する物動態のモニタリングへの期待 2 東京大学大学院工学系研究科社会基盤学専攻布施孝志モニタリングでは異常状態の検知が重要異常をもたらす要因全てを監視できない天候, 交通状況, イベント観測値としての物動態から異常を検知できれば変有である為による正常 / 異常の判定には限界統計的異常検知法の枠組みに着天候交通状況イベントある地域での 24 時間の推移背景目的 4 物動態の把握の要請多岐にわたる分野において重要交通モデリングマーケティング等位置情報取得の容易化 GPS や WiFi を利した測位技術の発達分解能かつ低コスト物の位置情報をリアルタイムに集計し, 時々刻々と変化する物動態のモニタリングへの期待統計的異常検知法の枠組みに着常的に得られるデータから正常な状態を学習, 異常や変化を検知その上で, 最終的に対策が必要か為による確認も可能となる本研究における異常 = 学習した正常な状態と異なる状態天候交通状況イベントある地域での 24 時間の推移統計的異常検知法の関連研究逸脱動物検出本研究の的交通事故等の検知 for illustration purposes only 両の混雑検知ホットスポットの検出動画中の動線を分析 NW 上の航路を分析集計 QK 曲線との乖離メッシュに内挿処理 ( 鈴木ら, 2007) (Pan,201) ( トラフィックスコープ ) (Horanont,2010) 様々な法の開発はアドホックにわれており, その整理も分ではない様々な対象への適は限定的である物動態モニタリングの特徴を整理し, その上で適可能な法を探る物動態モニタリングにおける統計的異常検知問題の整理整理結果に基づいた異常検知法の構築および基本性能の検証

統計的異常検知問題の整理 5 メッシュ人口データ 6 多様な分野における統計的異常検知問題のレビューを行った統計的異常検知問題は以下の4 要素によって特徴付けられる (Chandola et al, 2009) データの性質するデータの型やデータ間の関係性出法異常検知の出法 { 異常スコア, 異常ラベル } ラベル学習データの正常異常の事前情報の有無異常の種類

2 統計的異常検知問題の整理 5 メッシュ人口データ 6 多様な分野における統計的異常検知問題のレビューを行った統計的異常検知問題は以下の4 要素によって特徴付けられる (Chandola et al, 2009) データの性質するデータの型やデータ間の関係性出法異常検知の出法 { 異常スコア, 異常ラベル } ラベル学習データの正常異常の事前情報の有無異常の種類検出する異常のタイプ異常点文脈型異常集団型異常 GPS ログデータ大規模かつ高時間分解能での人物移動データの取得が可能ポイントデータ個の特定が可能個情報保護への意識のまりメッシュデータ個の特定が不可能活が期待されるメッシュデータ GPS ログデータを基にメッシュのを推計したデータ 10 時の多寡のみ表現多少メッシュ人口データ 7 メッシュ人口データ 8 GPS ログデータ大規模かつ高時間分解能での人物移動データの取得が可能ポイントデータ個の特定が可能個情報保護への意識のまり時系列メッシュデータ 10 時 11 時多少メッシュの増減の視覚化メッシュの状態多少 10 時 11 時いつも通りが多いいつも通りが少ない普段と異なりが多いいつも通り増加しているメッシュデータ個の特定が不可能活が期待される増加変化なし減少増加変化なし減少普段と異なり減少している平常異常等の状態は把握不可能

本研究での統計的異常検知問題の特徴 9 本研究での統計的異常検知問題の特徴 10 人物動態モニタリングにおける統計的異常検知問題の4 要素メッシュ人口データを対象に以下の表に整理を行った時間帯別にメッシュ毎のを推計.

匿名かつ可能性がい要素物動態モニタリングにおける特徴要素物動態モニタリングにおける特徴データの性質各メッシュから得られるメッシュ値の時系列データとみなすまた, 時系列データの空間的な相関, 影響も考えられるデータの性質各メッシュから得られるメッシュ値の時系列データとみなすまた,

減少交通需要の変化等からじるメッシュ値の推移パターンの変動等出法異常スコアの算出 / 異常正常メッシュの判断 ( 両可 ) 本研究では,1 メッシュ中の時系列データに潜む異常の検知を指す半教師付き異常検知および教師なし異常検知空間向へはモデルを拡張することで対応をうラベル

一般状態空間モデル 14 メッシュの状態 x t : 時刻 t におけるメッシュの状態平常視覚化の際の判読性を考慮し : 普段通りの状態 - 増加しており多い離散的に表現 - 増減はないが多い etc 異常 : 普段とはかけ離れた状態グラフィカル表現 x t : 時刻 t における状態ベクトル :

3 本研究での統計的異常検知問題の特徴 9 本研究での統計的異常検知問題の特徴 10 人物動態モニタリングにおける統計的異常検知問題の4 要素メッシュ人口データを対象に以下の表に整理を行った時間帯別にメッシュ毎のを推計. 匿名かつ可能性がい人物動態モニタリングにおける統計的異常検知問題の4 要素つのメッシュの時系列の観測データに着メッシュ人口データを対象に以下の表に整理を行った時間帯別にメッシュ毎のを推計. 匿名かつ可能性がい要素物動態モニタリングにおける特徴要素物動態モニタリングにおける特徴データの性質各メッシュから得られるメッシュ値の時系列データとみなすまた, 時系列データの空間的な相関, 影響も考えられるデータの性質各メッシュから得られるメッシュ値の時系列データとみなすまた, 時系列データの空間的な相関, 影響も考えられる出法異常スコアの算出 / 異常正常メッシュの判断 ( 両可 ) ラベル異常の種類半教師付き異常検知および教師なし異常検知常的な交通状況より正常ラベルを持つデータが可能脈型異常に集約される事故による交通渋滞の影響でじた過度な増加減少交通需要の変化等からじるメッシュ値の推移パターンの変動等出法異常スコアの算出 / 異常正常メッシュの判断 ( 両可 ) 本研究では,1 メッシュ中の時系列データに潜む異常の検知を指す半教師付き異常検知および教師なし異常検知空間向へはモデルを拡張することで対応をうラベル常的な交通状況より正常ラベルを持つデータが可能異常の種類脈型異常に集約される事故による交通渋滞の影響でじた過度な増加減少交通需要の変化等からじるメッシュ値の推移パターンの変動等時系列データに潜む脈型異常の検知が可能な法が望まれるメッシュ人口データと状態 1 一般状態空間モデル 14 メッシュの状態 x t : 時刻 t におけるメッシュの状態平常視覚化の際の判読性を考慮し : 普段通りの状態 - 増加しており多い離散的に表現 - 増減はないが多い etc 異常 : 普段とはかけ離れた状態グラフィカル表現 x t : 時刻 t における状態ベクトル : 観測不可 z t : 時刻 t における観測ベクトル : 観測可システムモデル観測モデル z t : 時刻 t 時に観測されたメッシュメッシュデータ : 観測できない状態から出されたデータメッシュの状態は時系列変化システムモデル x, t ft xt 1 vt 観測モデル z h x, w t t t t 事後確率最大化基準の下, 最適な状態ベクトルを推定 :MAP 推定 p(x t z 1: t ) max. x p x x t t t z p z x t t t 1 optimal x t

4 状態遷移図の決定一般状態空間モデルに基づく変化点検出 15 隠れマルコフモデル (HMM) 17 前述の要件を満たすと考えられる法般状態空間モデルをいた異常検知法が利可能 x t-1 x t x t+1 z t-1 z t z t+1 般状態空間モデルの利点時系列のモデリングがえる変数設定法により由度のい表現が可能般状態空間モデルにおいて, 離散的な潜在変数を導したモデル然語処理などで発展 HMM のグラフィカル表現状態ベクトルパラメータ群 : 初期分布確率 A: 遷移確率 Φ: 出確率状態ベクトル : 潜在的な状態の系列般状態空間モデルによる統計的異常検知法 2 つの法に別できる観測値の尤度出確率計算による法 KF や PF をいて逐次状態推定をい, 観測値の尤度から異常を判断異常状態の推定による法あらかじめ設計した異常状態に推定された時のデータを異常と判断観測ベクトル : メッシュ値の系列 t t 確率 1 Φ Φ Φ Φ 観測値潜在変数系列確率が最となる状態状態遷移図 t 2 状態推定異常検知 2 状態推定異常検知 t 確率 Φ Φ Φ 1 Φ 観測値極端に低い= 異常閾値との較頻度軽微な異常 : 較的い深刻な異常 : 極めて低い潜在変数系列異常の検知

5 隠れマルコフモデル (HMM) 25 統計的異常検知 26 正常異常状態の学習において, 一般には状態数を事前に設定しかし, メッシュ人口データの状態数は未知 HMM のグラフィカル表現状態ベクトル : 潜在的な状態の系列観測ベクトル : メッシュ値の系列離散状態数が不明事前に設定できない観測値の尤度出確率の計算法所由度のいモデリングが可能短所データ成モデル側にい精度が必要尤度の解釈が難しい異常な潜在状態の推定法離散な状態を推定すればよく, 異常の解釈が明確状態数の定義が必要状態が離散的にしか取れず由度の低いモデリングとなる < 観測値の尤度出確率の計算法 > 物動態データの観測値に対し, 観測モデルとシステムモデルの最適な組み合わせは未だ確されていない尤度の低下がモデルの不具合か, 異常の検出か判別が難しい < 異常な潜在状態の推定法 > 潜在状態に離散変数を事前に設定する必要があるメッシュデータの状態数は未知そこで, データに応じて状態数を同時に推定可能な階層ディリクレ過程隠れマルコフモデル (HDP HMM) の枠組みに着目階層ディリクレ過程隠れマルコフモデル 27 Chinese Restaurant Process: CRP 28 加算無限個の状態を潜在的に仮定する階層ディリクレ過程に基づく隠れマルコフモデル (sticky HDP-HMM (Fox,2008)) を基に異常検知手法を構築データに応じて状態数を同時に推定可能なモデル新しい客 x n ( 状態 ) は, 以前の客 x 1:n-1 のテーブル着席状態に従ってテーブルを決定テーブルが決まったらそこの料理 z n ( 観測値 ) を θ k に従って決定 shdp-hmm のグラフィカルモデルハイパーパラメータ : 成される潜在状態の特性を制御出分布 : 正規分布,Σ を設定状態ベクトル : 加算無限個成できる 7 人人 5 人 α 人 θ 1 θ 2 θ θ 基底測度 : 出分布パラメータの事前分布となるー正規分布 Σ ー逆ウィシャート分布 x 1 x 2 x x T z 1 z 2 z z T 観測ベクトル : 正規化したメッシュ値を設定 7 pzn 1 15 pzn pzn 15 pz n 15 G DP, G xz, G 0

shdp-hmm を用いた異常検知手法 29 シミュレーションによる基本性能の検証 0 1. 学習データによってハイパーパラメータおよび正常状態とする潜在状態を学習 2.

状態の対応付けをい各時刻において異なる状態となれば異常と判定ハイパーパラメータの学習事後分布の期待値を使無情報事後分布事前分布 Blocked Gibbs

値が滑らかに遷移する時系列データを作成シミュレーションの状態の平均値は実データを参考各状態に対応した正規分布からのi.

学習データ正常なメッシュデータを検証データ異常値を含み得るデータを x 1 x 2 x x T 正常 OR 異常 z 1 z 2 z z T 5 ~5 10 学習結果 1

6 shdp-hmm を用いた異常検知手法 29 シミュレーションによる基本性能の検証 0 1. 学習データによってハイパーパラメータおよび正常状態とする潜在状態を学習 2. 学習済みの shdp-hmm に適データを適し, 潜在状態を推定. 状態の対応付けをい各時刻において異なる状態となれば異常と判定ハイパーパラメータの学習事後分布の期待値を使無情報事後分布事前分布 Blocked Gibbs Samplerによるサンプリングをう正常状態の学習潜在状態のサンプリング各時刻において正常状態との比較をすることで文脈型異常の検知を試みる状態区分が細かく, 値が滑らかに遷移する時系列データを作成シミュレーションの状態の平均値は実データを参考各状態に対応した正規分布からのi.i.dサンプルを並べて時系列を生成検証データには 5 箇所 1~5 に異常値をそれぞれ付加 shdp-hmmへの入力には時系列で正規化したものを利用作成したシミュレーションデータ E 学習データ正常なメッシュデータを検証データ異常値を含み得るデータを x 1 x 2 x x T 正常 OR 異常 z 1 z 2 z z T 5 ~5 10 学習結果 1 異常検知結果回のサンプリング後の状態推定の結果学習データ出力分布の平均 ±1σ 学習したハイパーパラメータで設定した shdp-hmm を用いて検証データを推定学習データ推定された状態学習した正常状態設定時には大小含め12 個の状態を作成状態数は最終的に6と推定細かい状態がまとめられて一つの状態と推定 [time] 検証データ推定した状態検知した異常検知された異常異常値を付加した部分サンプリング回数 [time]

7 異常検知結果精度検証他のシミュレーション実験の結果概要 4 検証データ全時系列長 T=400 中,64 点で異常を検知異常検出率 :TP/(TP+FN)=80% 精度 :TP/(TP+FP)=50% 状態の境界付近での検知が多見異常を含む状態の出力分布パラメータが変化し, 状態区分も変化値の変動する箇所でも正しく検知検知した異常異常値を付加した部分真の状態正常異常検知された異常学習した正常状態推定した状態異常検知結果異常 64 正常 6 True Positive 2 False Positive 2 False Negative 8 True Negative 28 [time] 前実験の条件を変更し, 学習データ量の相違による影響, データの時間分解能の影響の検証 1. 1 複数の学習データをいた場合における実験同じ状態を持つ学習データ5つを使異常検出率 :TP/(TP+FN)=92.5% 精度 :TP/(TP+FP)=51.4% 異常検出率の向上が確認できた精度についてはきな向上は無し 2. 2 時間分解能の低いデータでの実験時系列 T=24に圧縮したデータを使異常検出率 :TP/(TP+FN)=75% 精度 :TP/(TP+FP)=54.5% 幅な検出率の低下を起こすことなく適可能であることを確認真の状態異常 40 正常 60 真の状態異常 8 正常 16 ( 参考 ) 前実験結果検出率 80%, 精度 50% 異常検知結果異常 72 正常 28 True Positive 7 False Positive 5 False Negative True Negative 25 異常検知結果異常 11 正常 1 True Positive 6 False Positive 5 False Negative 2 True Negative 11 研究の成果 8 今後の課題 9 人物動態モニタリングにおける統計的異常検知問題の整理統計的異常検知に関する論文のレビューメッシュ人口データ中の文脈型異常を検知する問題として設定人物動態モニタリングにおける統計的異常検知手法の構築潜在状態数を自動推定可能な shdp-hmm に基づく手法構築シミュレーションによる提案手法の基本性能の検証状態区分数の相違による影響学習データ量の相違による影響データの時間分解能の影響の検証実データによる適用可能性の検証列車の運転見合わせが発生した地点時刻での異常検知人口メッシュデータにおける空間分解能への示唆精度改良および多様なデータへの適用推定状態異常の交通ネットワーク上における解釈の深化交通 NW 上における交通パターンや実社会現象と照合し, 推定状態検知異常の解釈可能性の検討モデルの拡張空間方向へ拡張したモデルの構築周辺メッシュ値との空間相関の考慮多様なデータを統合した統計的異常検知手法の構築天候やイベント等の要素を変数に加えたモデル構築オンライン型異常検知手法と制御手法との統合異常のリアルタイム検知および動的管制の影響を加味したモデル構築

Probit , Mixed logit

Probit , Mixed logit Probit, Mixed logit 2016/5/16 スタートアップゼミ #5 B4 後藤祥孝 1 0. 目次 Probit モデルについて 1. モデル概要 2. 定式化と理解 3. 推定 Mixed logit モデルについて 4. モデル概要 5. 定式化と理解 6. 推定 2 1.Probit 概要プロビットモデルとは. 効用関数の誤差項に多変量正規分布を仮定したもの. 誤差項には様々な要因が存在するため,