WATSONとOSS

Size: px

Start display at page:

Download "WATSONとOSS"

ひろとおいもり
3 years ago
Views:

1 Watson と OSS の AI/Deep Learning 本アイビーエム株式会社ワトソン事業部雅典

2 おことわりこの資料の内容は講演者の個的解であり所属会社の場戦略意を代表するものではありませんこの資料は執筆時点の情報を元に書いているため必ずしも最新情報であるとはかぎりませんこの資料の内容の正確性には責任を負いません IBM IBM ロゴおよび ibm.com は世界の多くの国で登録された International Business Machines Corporation の商標です他の製品名およびサービス名等はそれぞれ IBM または各社の商標の場合があります現時点での IBM の商標リストについてはをご覧ください当資料に記載された製品名または会社名はそれぞれの各社の商標または登録商標です 1

3 講演者略歴雅典 1987 年本アイビーエムに社社当時は東京基礎研究所研究員として APL2 を利した数式処理システム数学教育援システムの研究開発に従事する 1993 年に SE 部に異動し IT スペシャリストとして主にオープン系システムのインフラ設計構築及びアプリケーションデザインを担当 2013 年よりスマーターシティ事業に転属し 2016 年 8 にワトソン事業部に異動今にるいろいろな領域を幅広くやっているので基盤系からアプリ開発プログラム語 SQL チューニングまで通り語れるのが慢 mail: akaishi@jp.ibm.com 2

4 次第部 IBM Watson 紹介 Watsonとは Watson API - NLC(Natural Language Classifier) - R&R(Retrieve and Rank) - VR(Visual Recognition) - Discovery 第部 Watson と OSS の関わり Watson 開発環境としての OSS Watson API 構成要素としての OSS - R&R と Solr の関係 - Discovery と Elasticsearch の関係 WatsonとOSS 機能レベルの較例 - VRとTensorflowサンプルアプリの較 3

5 第部 IBM Watson 紹介 Watson とは 4

人工知能研究とコグニティブシステム間の知的活動を拡張記号処理 IBM リサーチのグランドチャレンジプロジェクト然語処理チェス対戦 DeepBlue 知識表現質問応答システム Watson Ø がん診断援 Ø 保険査定援 Ø 顧客接点変 Ø 画像認識 Ø 声認識コグニティブシステム ( コグニティブビジネス基盤

6 人工知能研究とコグニティブシステム間の知的活動を拡張記号処理 IBM リサーチのグランドチャレンジプロジェクト然語処理チェス対戦 DeepBlue 知識表現質問応答システム Watson Ø がん診断援 Ø 保険査定援 Ø 顧客接点変 Ø 画像認識 Ø 声認識コグニティブシステム ( コグニティブビジネス基盤 ) 脳のはたらきを再現ニューラルネットワーク専知識のルール化機械学習 Deep Learning Artificial Intelligence エキスパートシステムビッグデータ活 AI 基盤 International Business Machines Corporation 5

7 人工知能研究とコグニティブシステム間の知的活動を拡張記号処理 IBM リサーチのグランドチャレンジプロジェクト然語処理チェス対戦 DeepBlue 知識表現質問応答システム Watson Ø がん診断援 Ø 保険査定援 Ø 顧客接点変 Ø 画像認識 Ø 声認識 Augmented Intelligence コグニティブシステム ( コグニティブビジネス基盤 ) 脳のはたらきを再現ニューラルネットワーク専知識のルール化機械学習 Deep Learning Artificial Intelligence エキスパートシステムビッグデータ活 AI 基盤 International Business Machines Corporation 6

8 コグニティブシステムの特長従来のコンピューターシステムとの違い理解 (Understanding) 推論 (Reasoning) 学習 (Learning) と対話をし必要な情報の探索や度な意思決定を援する (Interacting) 2016 International Business Machines Corporation 7

9 人間の知識を活用するコグニティブシステム知識を活しビジネス課題を解決ソリューション Watson Solution Framework 照会応答 Engagement 考える読むる聴く話す Watsonの提供する機能知識ベース探索発 Discovery 意思決定援 Decision Watsonコグニティブサービス質問応答テキスト解析探索発声認識合成画像認識然語処理知識表現機械学習 Deep Learning 個別領域献企業内データ 2016 International Business Machines Corporation 概念体系辞書脈情報専家の知 8

顧客接点 Watson の顧客接点への適 - 対話型動応答三菱東京 UFJ 銀は 10 7 より Web

コーヒーマシーンネスレジャパンは IBM Watson を活したマルチチャネル対応の対話型

コールセンター JAL は 12 5 IBM Watson を活し JAL バーチャルアシスタントサービス開始

10 顧客接点 Watson の顧客接点への適 - 対話型動応答三菱東京 UFJ 銀は 10 7 より Web チャット形式の動対話応答機能バーチャルアシスタント Chat サービスを開始モバイル IBM Watson コーヒーマシーンネスレジャパンは IBM Watson を活したマルチチャネル対応の対話型動応答によるお客様サポートネスレチャットアシスタントをより開始タブレット PC LINE コールセンター JAL は 12 5 IBM Watson を活し JAL バーチャルアシスタントサービス開始ちゃん同伴のハワイ旅の不安を解消 2016 International Business Machines Corporation 9

Medline Watson の適 : クリニカルトライアル実験ノートその他 1TB 超データ 4000 万超献など他の刊物 FDA drugs/labels 特許 l p53

11 探索発 Watson の知識探索活ソリューション ~ ベイラー医科学との共同研究膨な化学研究献の分析をとおして癌治療の研究を加速 CHEK2 BMPR2 GREEN p53 Kinases RED/ORANGE/YELLOW Predicted Targets 試験管テスト体研究化合物 Watson Corpus ( 知識ベース ) 化学物質データベース公開されたゲノム情報医療献副作毒性 Medline Watson の適 : クリニカルトライアル実験ノートその他 1TB 超データ 4000 万超献など他の刊物 FDA drugs/labels 特許 l p53 の活性化と不活性化を導くタンパク質を予測するため p53 に関する 7 万もの科学論を分析 l この動分析によってベイラー医科学のがん研究者は新たな研究対象となり得る 6 つのタンパク質を特定 2016 International Business Machines Corporation 10

意思決定援 Watson が学習する専家の判断 ~ Watson 技術を活した保険払審査業務かんぽ命はコグニティブコンピューティング IBM Watson を導国内保険会社としては初めて保険払審査業務で度な判断が必要とされる的査定の援に役てようとしている過去の査定事例に含まれるビッグデータを Watson に学習させることで 10

12 意思決定援 Watson が学習する専家の判断 ~ Watson 技術を活した保険払審査業務かんぽ命はコグニティブコンピューティング IBM Watson を導国内保険会社としては初めて保険払審査業務で度な判断が必要とされる的査定の援に役てようとしている過去の査定事例に含まれるビッグデータを Watson に学習させることで 10 年近い経験が必要だった難易度のい査定業務を較的経験の浅い社員でも実施可能にするとともに査定品質の向上や産性の向上を図るのが的だ本 IBM 提供経 PR 記事より International Business Machines Corporation 11

13 Watson とはところで Watson とはなんなのか? 実はいろいろな意味の Watson がありますクイズ番組に勝った Watson: 数百の研究者チームがつの的のため何年もかけて開発した特注システム先進的な Watson: "Jeopardy!" ほどではないが新規ソリューション開拓を的に戦略的に構築されたシステムが多い事例紹介にでてくるものは今のところこのパターンが多い普通の Watson: 商の製品サービスを組み合わせてつくるソリューション上記にべて簡単に構築できるが機能的な制約は多い現段階で本番運されているのはほとんどが顧客接点系次ページ以降で紹介するのは普通の Watson を構築するためのサービス製品ということになります 12

14 Watson の構成要素と製品ファミリー Watson 製品ファミリー製品サービスの形態としてきく次の 3 つに分類される本はこのうち 2 の API サービスを中に紹介します 1 オンプレミス製品 (Watson Explorer) 2 クラウド上の API サービス (Natural Language Classifier 等 ) 3 クラウド上の SaaS サービス (Watson Knowledge Studio) ユースケース顧客対応オペレータ援セルフサービス型顧客対応融商品アドバイスリスク管理がん診断援審査プロセスクリニカルトライアルマッチング創薬援エコシステムパートナーソリューション Watson 製品 / サービス IBM SW 製品 3Watson Knowledge Studio 1Watson Explorer ( テキスト解析エンジン ) 自然言語解析機能分析機能 2016 International Business Machines Corporation 2Watson API Natural Language Classifier, Conversation, Retrieve & Rank, Personality Insights, Speech to Text, Tone etc. Watson Analytics ( 他の SaaS サービス ) コグニティブ (AI) の領域 Other Analytics Software Cognos, SPSS, 構造データ構造データ

15 Watson API 紹介 - NLC (Natural Language Classifier) - R&R (Retrieve and Rank) - VR (Visual Recognition) - Discovery 14

Watson Developer Cloud で提供の API サービス Watson Developer Cloud で提供している API サービスは々進化しています 2017

Conversation アプリケーションに然語インターフェースを追加してエンドユーザとのやり取りを動化 Personality Insights

画像コンテンツに含まれる意味を検出する Retrieve and Rank 然語の質問に対して回答の候補を返す Document Conversion 書を新しい形式に変換する

分類法種別作成者抽出などをう Language Translator( 部本語未対応 ) 1 然語テキストについて翻訳対象の語へ翻訳をう声系 Speech to Text

認知検索およびコンテンツ分析エンジンをアプリケーションに追加して優れた意思決定をうのに役つパターン傾向およびアクション可能な洞察を識別する Tradeoff

16 Watson Developer Cloud で提供の API サービス Watson Developer Cloud で提供している API サービスは々進化しています 2017 年 3 18 現在の提供サービスは以下の通りとなります語系画像系 Natural Language Classifier テキスト章の分類をう ( 質問の意図推定など ) Conversation アプリケーションに然語インターフェースを追加してエンドユーザとのやり取りを動化 Personality Insights テキストから筆者の性格を推定する Tone Analyzer( 本語未対応 ) テキストの感情社交性体を解析する Visual Recognition 画像コンテンツに含まれる意味を検出する Retrieve and Rank 然語の質問に対して回答の候補を返す Document Conversion 書を新しい形式に変換する Natural Language Understanding( 本語未対応 ) 然語処理を通じてキーワード抽出エンティティー抽出情分析感情分析概念タグ付け関係抽出分類法種別作成者抽出などをう Language Translator( 部本語未対応 ) 1 然語テキストについて翻訳対象の語へ翻訳をう声系 Speech to Text 声をテキスト章に変換する Text to Speech テキスト章を声に変換する分析系 Discovery( 本語未対応 ) 認知検索およびコンテンツ分析エンジンをアプリケーションに追加して優れた意思決定をうのに役つパターン傾向およびアクション可能な洞察を識別する Tradeoff Analytics( 本語未対応 ) 複数の競合する選択肢の中から選択をう過程を援する本紹介する API 1 Language Translator に関してはニュースドメインのみ本語対応をしています

17 NLC (Natural Language Classifier) NLC とは : 質問やテキストに含まれるひとつまたは複数の意図を判別する機能意図とは内部の実装として deep learning を利質問や発から語に含まれるノイズを取り除いてそれが何をおうとしているかあるいは何を聞こうとしているのかということ例 : 銀座はどうやって開けますか? 銀で座を開くために必要なものを教えてくださいはどちらも銀座開設法という意図を聞くための質問のバリエーション NLC での学習とは銀座開設法を意図とする異なる複数の質問 ( 最低 10 個程度 ) を同じ意図のバリエーションとして学習させる -> 学習の結果質問と似た表現の質問に対しても同じ意図を持つ質問であると解釈できるようになる -> FAQ と呼ばれるよくある質問に対して適切な回答をつける仕組みを実現するのに適した仕組み 16

18 NLC (Natural Language Classifier) ( 学習フェーズ ) 質問銀座はどうやって開けますか銀行で口座を開くために必要なものを教えてください住所変更はどうやっていますか転居したのですがどうしたらいいですか学習意図銀座開設法つの意図に対して表現の異なる複数の質問 ( 最低 5 つ 20 程度が望ましい ) を意し学習させる住所変更続き ( 運フェーズ ) 質問 ( ) 学習させた質問と似た表現の質問は同 NLC 問い合わせ結果 ( 出 ) じ意図と判断するようになる意図候補確信度銀座を開きたいのですが銀座開設法 0.95 住所変更続き 0.10 : : 17

19 R&R とは : R&R (Retrieve and Rank) 複数ある検索結果の優先順位を学習によって変更するしくみ質問辞書 Retrieve Rank Solr ( インデックスされた文書 ) ランカー ( トレーニングモデル ) 再ランクされた回答コレクション ( 書群 ) Solr による検索結果ランカーによって再ランクされるこの時点では Solr という OSS の検索エンジンによる検索結果が単純に返る表順は検索キーワードの頻度に基づくもので重要性の順とはなっていないランカーと呼ばれる機械学習モデルに検索結果の優先順位を学習させる学習を続けると重要な順番に表されるようになる 18

20 R&R (Retrieve and Rank) 実サンプル質問 : 明治維新の志たちにちなんだ名所を教えてください回答結果例 : ID Title Body 692 親鸞聖御旧跡きらら坂京都の観光名所のつです修学院離宮の脇より叡の頂にる古道で親鸞上も参拝に利したと伝えられています ( 中略 ) 760 新島旧邸同志社の創し幕末は志としても活躍した新島襄の旧邸宅です ( 中略 ) 897 維新の道坂本をはじめ維新の志たち 549 が霊に祀られています ( 中略 ) 学習法 : グランドトゥルースと呼ばれる質問と回答の関連度を CSV で表現したファイル ( 関連度ファイル ) を意し API でサーバーにアップロードすることで学習させます ( 例 ) 明治維新の志たちにちなんだ名所を教えてください, 897, 3, 760, 2, 692, 0

21 Visual Recognition の提供機能 Visual Recognition は画像コンテンツに含まれる意味を検出しますこの API は下記の詳細機能を提供しています Image Tagging Facial Detection Visual Learning 般種別画像の特徴を検知しタグとして抽出しクラスキーワード ( などの般名詞 ) を成しますこの機能は事前学習済みであり成されるキーワードは他ユーザーと共通のものとなります顔検出イメージ内の物の顔を検出しますまた顔の般的な年齢層と性別もされます有名に関してはその名称も検出することが可能ですこの機能は事前学習済みであり検出結果は他のユーザーと共通のものとなります画像トレーニングカスタム画像種別をいますユーザーが識別をいたいクラスのイメージを事前学習させます識別結果は確信度と共に返されます Similarity Search Link Extraction 類似イメージ検索 ( ベータ ) 事前準備としてイメージのコレクションをアップロードした後検索をかけると視覚的に類似したイメージを検出します Web 画像抽出指定された URL 先の Web ぺージの内容を分析しページ内容に番関連性のい画像を抽出します 20

画像トレーニング (Visual Learning) 画像トレーニングについて内部の実装としてdeep learningを利的 Visual Recognition による事前分類やフィルタリングをすることで業務における様々な確認や分析作業をう間の負荷低減をいます不適切な画像のフィルタリング画像選択での事前分類商品や製作物の品質確認トレーニングデータ

22 画像トレーニング (Visual Learning) 画像トレーニングについて内部の実装としてdeep learningを利的 Visual Recognition による事前分類やフィルタリングをすることで業務における様々な確認や分析作業をう間の負荷低減をいます不適切な画像のフィルタリング画像選択での事前分類商品や製作物の品質確認トレーニングデータ分類すべきクラスごとに集められた最低 10 枚の画像 ( 適切な分類品質を得るには 50 枚以上理想的には 200 枚 ) どのクラスにも該当しないネガティブな画像 (2 つ以上のクラスがある場合はなくてもいい ) Apple クラス ( ポジティブ ) Banana クラス ( ポジティブ ) Orange クラス ( ポジティブ ) Vegetable ( ネガティブ ) 分類器 Apple 21

23 画像トレーニング (Visual Learning) 画像トレーニングの利サンプルネットで有名になったラブラドールと分けの付かないフライドチキンを VR で分ける学習データネット上で集めたラブラドールとフライドチキンの写真約 200 枚ずつ 22

24 画像トレーニング (Visual Learning) 検証結果全問正解参考リンク : 23

25 Discovery Discovery はテキスト分析の SaaS/API プラットフォームとしてこれから IBM が推進しようとしているサービスです下記の機能をつの API ですべて持っていることが最の特徴ですデータ取り込み機能 : HTML / PDF / WORD / JSON に対応機能的に従来の Document Conversion と同等ですエンリッチ機能 : 取り込んだ書に対して NLU(Natural Language Understanding) によるタグ付けをいます追加可能項は Entity, Concepts など最 7 項ですストレージ機能 : データはクラウド上に INDEX として保存されます検索機能 : エンリッチ機能で付加された情報を含めデータの検索をうことができます内部で動いている検索エンジンは OSS の Elasticsearch です 24

Discovery Query サンプル (1) ( ユースケース ) IBM が XXX 社を買収するという News 記事中の章をすべて収集する ( 検索パラメータ ) aggregation=nested(relations).filter(relations.action.text:acquire,relations.subject.

26 Discovery Query サンプル (1) ( ユースケース ) IBM が XXX 社を買収するという News 記事中の章をすべて収集する ( 検索パラメータ ) aggregation=nested(relations).filter(relations.action.text:acquire,relations.subject.text:ibm).term(relations.sentence) Discovery は検索用の Query 言語を持っておりこれを使うことで複雑な検索も一回の API 呼び出しで行うことが可能ですこの例では検索対象コーパスに IBM が標準で提供している Discovery のコレクションである Watson News を利用しています

Discovery Query サンプル (2) ( ユースケース ) 2017 年 1 1 から 2017 年 1 31 までの間の Airbnb に関する記事という条件で検索しその記事の評判分析を単位でう ( 検索パラメータ ) aggregation 機能は複数の関数を連続して利可能 query= text:airbnb count=0

27 Discovery Query サンプル (2) ( ユースケース ) 2017 年 1 1 から 2017 年 1 31 までの間の Airbnb に関する記事という条件で検索しその記事の評判分析を単位でう ( 検索パラメータ ) aggregation 機能は複数の関数を連続して利可能 query= text:airbnb count=0 aggregation=term(docsentiment.type).timeslice(blekko.chrondate,1day) filter=blekko.chrondate> ,blekko.chrondate< 期間を FROM-TO で絞り込む場合 chrondate を利する Query の結果グラフ化の結果 (D3.js を利 )

28 第部 Watson と OSS の関わり Watson 開発環境としての OSS Watson API 構成要素としての OSS - R&R と Solr の関係 - Discovery と ElasticSearch の関係 WatsonとOSS 機能レベルの較例 - VRとTensorflowサンプルアプリの較 27

29 Watson 開発環境としての OSS GitHub Watson Developer Cloud ( おまけ )Kibana の利 28

30 Watson 開発環境としての OSS GitHub GitHub はソースコード管理 + チーム開発援機能を持った統合環境です OSS のリポジトリとして常に有名です IBM は 2016 年に Github との戦略的提携を発表しています Watson Developers Cloud Watson API を使ったアプリ開発を援する環境ですライブラリサンプルアプリリポジトリは GitHub 上に構築されています Bluemix と連携することで効率のいい開発テスト実環境を構築可能です以前にべて IBM の開発系のマインドがオープン志向になったつの象徴 29

31 Watson 開発環境としての OSS サンプルアプリのリポジトリの README.md ファイル例を下にします Bluemix のアカウントを持ったユーザーがこのボタンをクリックすると Bluemix に向けて deploy が始まり数分後には利可能なサービスまで起動される状態になります簡単にサンプルアプリのビルド実ができます Watson を試してみたいは是お試し下さい 30

32 Watson 開発環境としての OSS ( おまけ )Kibana の利 Watson API 呼び出しのアプリケーションサーバーを Bluemix 上に作った場合そのサーバーのログ分析に Kibana を利できる形になっていますダッシュボード左のメニューからログをクリックします画右の詳細ビューをクリックします Kibana が動的に起動します 31

33 Watson API 構成要素としての OSS R&R と Solr の関係 Discovery と ElasticSearch の関係 32

34 R&R と Solr の関係 Watson API のつである R&R (Retrieve and Rank) では OSS の検索エンジンである Solr が API の構成要素として使われています -> 実は R&R は簡単に構築可能な Solr SaaS として利することも可能です ( 基盤的な冗構成も API が裏でやってくれています ) 質問辞書 Retrieve Solr 連携プラグイン Rank IBM 独開発機械学習モデル OSS 部分 (Solr + kuromoji) Solr ( インデックスされた文書 ) ランカー ( トレーニングモデル ) 再ランクされた回答コレクション ( 書群 ) Solr による検索結果ランカーによって再ランクされる 33

35 R&R と Solr の関係 R&R の API で Solr Index 作成時に必要な構成ファイルの部を以下にします本語形態素解析には Solr にバンドルされている OSS の kuromoji が使われています Solr 連携プラグイン <fieldtype name="watson_text_ja" indexed="true" stored="true" class="com.ibm.watson.hector.plugins.fieldtype.watsontextfield"> <analyzer> 形態素解析実装は kuromoji <tokenizer class="solr.japanesetokenizerfactory" mode="search"/> <filter class="solr.japanesebaseformfilterfactory"/> <filter class="solr.japanesepartofspeechstopfilterfactory" tags="lang/stoptags_ja.txt"/> <filter class="solr.cjkwidthfilterfactory"/> <filter class="solr.stopfilterfactory" words="lang/stopwords_ja.txt" ignorecase="true"/> <filter class="solr.japanesekatakanastemfilterfactory" minimumlength="4"/> <filter class="solr.lowercasefilterfactory"/> </analyzer> </fieldtype>

36 R&R と Solr の関係 (API リファレンス記載の標準検索パターン ) Ranker なしに素の Solr を呼び出す法と Ranker 付きで呼び出す法の 2 通りがあります 1 つの Solr Index に複数の Ranker を持たせることも可能です Ranker なしに素の Solr を利 ( 表順は Solr の結果と同 ) ${base_url}/solr_clusters/${cluster_id}/solr/${collection_name}/select? q=' 検索文字列 '... Ranker による順付けをう場合 ( 機械学習の結果を含めて表順が決まる ) ${base_url}/solr_clusters/${cluster_id}/solr/${collection_name}/fselect? ranker_id=${ranker_id},q=' 検索文字列 '...

37 R&R と Solr の関係 ( テストで判明した拡張検索パターン ) Solr で元々持っている MLT(MoreLikeThis 類似検索 ) も夫すると使えますただしこの場合 Ranker との連携はできなくなります MoreLikeThis Handler 呼び出しをう場合 R&R 標準の構成ファイルに修正が必要です MoreLikeThis Component の呼び出し ${base_url}/solr_clusters/${cluster_id}/solr/${collection_name}/select? mlt=true,q=' 検索文字列 '... MoreLikeThis Handler の呼び出し ${base_url}/solr_clusters/${cluster_id}/solr/${collection_name}/mlt? q=' 検索文字列 ',mlt.mintf=2,mlt.mindf=5... 後者の呼び出しをう場合に必要な構成ファイルの追加定義  <requesthandler name="/mlt" class="solr.morelikethishandler"> </requesthandler> R&R を Solr として使う場合のより詳細な情報については下記リンク先を参考とされて下さい

38 Discovery と Elasticsearch の関係 R&R では API 内部のインデックス検索機能の実装が Solr だったのに対して新しい API である Discovery ではその内部で Elasticsearch を利しています Discovery API で query により検索をかけると結果セットはそれぞれ score を含んでいてこれが検索との適合度をしています結果セットは socre のい順に返されるので結果的により検索に合致した書から順に表されることになりますこの score の実装は OSS である Elasticsearch によりわれています (Index 体も Elasticsearch のもの ) Discovery の検索のもうつのきな特徴である aggregation 関数に関しては Discovery(IBM) 独の実装となってます Discovery は OSS の Elasticsearch の特徴をうまく活した API であるということができます

39 Discovery と Elasticsearch の関係 Discovery での検索サンプル下の図は Watson News に対して Discovery の query 機能で検索をした結果です Elasticsearch で求められた score のい順に結果が返されていることがわかります同じキーワードを filter 機能で検索すると結果件数は同じですが score の値はすべて 0 になります query 検索引数画ここに検索条件をれるとスコア付きで検索結果が返るスコア付きで検索結果が返ってきている様

40 WatsonとOSS 機能レベルの較例 - VRとTensorflowサンプルアプリの較 39

41 VR と Tensorflow サンプルアプリの較資料作成のきっかけ Watson API の VR と Tensorflow はどちらがいいのかという質問をする IBM 社員お客様が多いことに気付きましたそもそもこの 2 つを較するのは業務パッケージと WEB framework の stutus2 のどちらがいいかを較するのと同じくらい意味がないことなのですがということで社員向けに VR と Tensorflow のち位置の違いを説明するとともに相が Tensorflow でなく Tensorflow サンプルアプリなら較可能ではあるのでそのような較テスト結果も付けた資料を作成しました 40

42 VR と Tensorflow サンプルプログラムとの較 VR の画像トレーニング機能は機能的には Google で提供している Deep Learning フレームワーク Tensorflow 付属のサンプルプログラムと似た点がありますがサービスのレベルは相当異なっています以下にその違いを整理しました Visual Recognition 画層トレーニング Tensorlflow サンプル (full_connected_feed.py) ニューラルネットへの由度学習のデータ学習にかかる間トレーニングに必要なイメージ数内部処理はすべて隠蔽されていて学習データ以外に外部から調整できる余地はない般的な jpeg または png ファイルをクラス毎に zip で固めたものイメージサイズは 320x320 が理想的だがそうでなくてもいい画像の収集 -> クラスことに zip に固める ->API 呼び出しで終わるので常に簡単 1 クラスあたり最低 50 枚理想的には 200 枚程度これ以上多くなってもあまり学習には効果がないニューラルネットの組み重み付け関数のパラメータなどすべて調整可能 ( サンプルはあくまで最低限の動作をするプログラムという位置づけ ) 機械学習しやすいようイメージデータからヘッダなど除いて 1 次元配列データに展開したものサンプルプログラムのため解像度は 28x28 で固定実際のイメージファイルをとする場合機械モデルのとなる 1 次元配列データを作るため事前準備としての加が必要サンプルアプリは 1 クラスあたり 5000 枚 ( 全体で枚 ) を利しているある程度の認識性能を出すためにはこの程度の枚数が必要と考えられるトレーニングに必要なイメージ数については 2 つの式で実際にテストし結果を較しました 41

43 ベンチマークテスト VR および Tensorflow サンプルアプリでの学習曲線を条件をそろえてテストしました VR に関しては最新の版 Tensorflow に関しては v1.0 を利していますテスト法 : VR と Tensorflow サンプルプログラムとの較教師データ : に公開されている書き字 (0 から 9 の数字 ) サンプルデータを利しました 0 から 9 までの数字はランダムに出てくるので例えば先頭から 500 件のデータを取ると 1 クラスあたりそれぞれ約 50 枚のイメージが対応する形になります全体で件分ありますが先頭から N 件のみを教師データとするテストを N を変えていました VR にはこのデータに逆変換をかけて png ファイルとしたものを利しました確認データ : に公開されている書き字 ( 数字 ) サンプルデータデータの形式は教師データと同様です全体で件分ありますが条件を合わせるため先頭から 100 件のみを検証データとしました Tensorflow に関してはテストの試のたびに正解数にばらつきがあったので 5 回テストをい平均値を取りました 42

44 ベンチマークテスト結果 VR と Tensorflow サンプルプログラムとの較結論として Visual Recognition のが少ない枚数で認識可能であることがわかりましたある程度の品質を担保するのに 1 クラスあたり 50 枚 ( 全体件数に換算すると 500 枚 ) 理想的に 200 枚 ( 全体件数換算で 2000 枚 ) という Visual Recognition の学習ガイドの妥当性も確認できました 1 クラス当たり学習データ数 VR tensor flow サンプル 1 回 2 回 3 回 4 回 5 回 10 73% 69.2% 70% 68% 64% 72% 72% 20 88% 72.8% 74% 74% 72% 71% 73% 50 96% 86.2% 86% 86% 86% 87% 86% % 89.2% 89% 88% 90% 92% 87% % 88.6% 88% 89% 89% 88% 89% % 91% 88% 90% 88% 90% % 93% 92% 93% 92% 92% 43

45 VR と Tensorflow サンプルプログラムとの較ベンチマークテスト結果前ページの結果をグラフでしたものです 44

46 VR と Tensorflow サンプルプログラムとの較 Visual Recognition が少ない学習データでい認識精度を出せる理由について ( 参照元 ) ( 本語訳抜粋 ) Visual Recognition の画像トレーニング機能は deep learning の仕組みを使っていますが新しい分類器を作った時点で数百万のサンプルデータによる事前学習データが活されています deep learning の中的な概念は特定のクラスを他のクラスと分類するのにどのような特徴量を利するかですこのような特徴量は形質感 (texture) などで明的に表されるものではなくトレーニングにより学習される機械ネットワークの数千万のパラメータによって暗黙に表現されます Visual Recognition は形質感 (texture) などの特徴量を組み合わせた形によりクラス間の識別をっているということができます -> 事前学習と合っていない種類の画像の識別ではうまくいかない可能性も考えられます 45

47 VR と Tensorflow サンプルプログラムとの較較結果まとめ今回の較は Watson API で提供されている機能と TensorFlow などのフレームワークを利したカスタム AI との較に般化することも可能ですそういう観点で両者の所短所を較すると次のようになりますそれぞれの特徴を理解して適材適所で対応することが重要です Watson API カスタム AI コスト 1 Call あたりの従量料なのでい 1 度開発してしまえば従量料はかからない適範囲限定されている機械学習が適可能な領域に対してはどこでも可能利しやすさすぐに使える開発数がかかる学習数 VR のように事前学習されたモデルでは少ない学習数となる場合がある基本的に多くの学習数が必要 ( 夫次第ではそうでないこともある ) チューニング余地完全なブラックボックスで切できないニューラルネットワークの組みパラメータなどいくらでも可能 46

48 End of File 47

ワトソンで体感する人工知能フォローアップ情報株式会社リックテレコム / 書籍出版部 ( 最終情報更新日 :2018 年 4 月 5 日 ) [INDEX] 2018 年 4 月 1 日時点の IBM Watson 仕様変更について ( 著者 : 井上研一氏からのフォロー情報 ) [ 変更点 -1

ワトソンで体感する人工知能フォローアップ情報株式会社リックテレコム / 書籍出版部 ( 最終情報更新日 :2018 年 4 月 5 日 ) [INDEX] 2018 年 4 月 1 日時点の IBM Watson 仕様変更について ( 著者 : 井上研一氏からのフォロー情報 ) [ 変更点 -1 ワトソンで体感する人工知能フォローアップ情報株式会社リックテレコム / 書籍出版部 ( 最終情報更新日 :2018 年 4 月 5 日 ) [INDEX] 2018 年 4 月 1 日時点の IBM Watson 仕様変更について ( 著者 : 井上研一氏からのフォロー情報 ) [ 変更点 -1] IBM Cloud の登録とライトアカウントについて [ 変更点 -2] IBM Cloud における