Machine Learning on AWS

Size: px

Start display at page:

Download "Machine Learning on AWS"

あきおこやぎ
4 years ago
Views:

Machine Learning on AWS アマゾンウェブサービス株式会社ソリューションアーキテクト志村誠 2017.06.

2 志村誠 (Makoto Shimura) 所属 : アマゾンウェブサービスジャパン株式会社業務 : ソリューションアーキテクト ( データサイエンス領域 ) 経歴 : Hadoop ログ解析基盤の開発データ分析データマネジメントや組織のデータ活用

3 Target / Key takeaway 機械学習を使ってビジネスを加速させたい方機械学習サービスを AWS 上で構築したい方 AWS 上で機械学習のサービスをどう構築するか問題ごとに AWS サービスをどう選択するか

4 業種業態問わずさまざまなビジネスで機械学習が活用されるようになってきている

5 Howard Hughes Corporation 利用者の物件購入性向を予測するモデルを構築

6 Zillow Group Apache Spark on EMR による各種レコメンデーション

7 AWS を活用して, 機械学習を用いたサービスを展開するにはどうすればよいか

8 本セッションのアジェンダ解くべき問題を明確にする AWS の機械学習サービス AWS を活用したサービスの構築典型的なユースケース

9 解くべき問題を明確にする

10 解決したいビジネス課題から出発するまずは自分たちのビジネスを振り返るニーズがあるが実現できていない部分に注目機械学習から出発するのではなくあくまで課題を解決するためのツールと考える

11 機械学習とはなにか特定事象のデータを学習し, モデルを獲得それに基づいて判断や予測を実施する

12 機械学習の一般的な処理の流れ Training Prediction

13 機械学習の一般的な処理の流れ Training 大量のデータ学習アルゴリズム機械学習モデル Prediction

14 機械学習の一般的な処理の流れ Training 大量のデータ学習アルゴリズム機械学習モデル Prediction 機械学習モデル

15 機械学習の一般的な処理の流れ Training 大量のデータ学習アルゴリズム機械学習モデル Prediction 入力データ機械学習モデル予測判断結果

16 機械学習の一般的な処理の流れ Training 大量のデータ学習アルゴリズム機械学習モデル Prediction 入力データ機械学習モデル予測判断結果

17 ビジネス課題で機械学習を活用するためのポイント ( 大量の ) 良質なデータでモデルの精度が向上判断や予測を自動化することが可能大規模に展開するほど ( 単位 ) コストが下がる

18 ビジネス課題で機械学習を活用するためのポイント良質なデータが継続的に手に入るか? 自動化する価値のあるクリティカルな予測か? 費用対効果に見合うか?

19 機械学習に向いている典型的なビジネス課題レコメンド人間の手では不可能な量の商品 / ユーザーに対して個別のおすすめを提供したい異常検知 24 時間 365 日人間が監視するのはコストが非常に高い異常が起きたらすぐに検知して対策をとりたい画像認識大量の画像をチェックするのは不可能自動的に顔の位置や不適切な画像か等を判定したいクラスタリングユーザをいくつかのセグメントに分類してセグメント別のマーケティング施策を実施したい

20 AWS の機械学習サービス

21 4 層から構成される AWS の機械学習サービス Amazon Rekognition Amazon Polly Amazon Lex More to come in 2017 AI Services Amazon Machine Learning Amazon Elastic MapReduce Spark & SparkML More to come in 2017 AI Platform Apache MXNet TensorFlow Caffe Torch Theano CNTK Keras AI Engines P2 EMR/Spark ECS Lambda GreenGrass FPGA More to Come In 2017 Hardware

22 4 層から構成される AWS の機械学習サービス Amazon Rekognition Amazon Polly Amazon Lex More to come in 2017 AI Services Amazon Machine Learning Amazon Elastic MapReduce Spark & SparkML More to come in 2017 AI Platform Apache MXNet TensorFlow Caffe Torch Theano CNTK Keras AI Engines P2 EMR/Spark ECS Lambda GreenGrass FPGA More to Come In 2017 Hardware 22

Deep Learning に最適な P2 インスタンス GPU アクセラレータ NVIDIA Tesla K80 を最大 16 個搭載可能大量の GPU を使うことで, ディープラーニングのモデル構築にかかる時間を大幅に短縮可能 Instance Name GPU Count

23 Deep Learning に最適な P2 インスタンス GPU アクセラレータ NVIDIA Tesla K80 を最大 16 個搭載可能大量の GPU を使うことで, ディープラーニングのモデル構築にかかる時間を大幅に短縮可能 Instance Name GPU Count Memory GPU Memory Network Performance P2.xlarge 1 61GiB 12 GiB High P2.8xlarge 8 488GiB 96 GiB 10 Gigabit P2.16xlarge GiB 192 GiB 20 Gigabit 23

24 Greengrass によるエッジコンピューティングオフラインでニアリアルタイムのローカルイベント処理 AWS Lambda を利用したプログラミングモデルオンラインになったときにクラウドと同期 Messages Action Authentication & Authorization Device Gateway Security Device State

25 4 層から構成される AWS の機械学習サービス Amazon Rekognition Amazon Polly Amazon Lex More to come in 2017 AI Services Amazon Machine Learning Amazon Elastic MapReduce Spark & SparkML More to come in 2017 AI Platform Apache MXNet TensorFlow Caffe Torch Theano CNTK Keras AI Engines P2 EMR/Spark ECS Lambda GreenGrass FPGA More to Come In 2017 Hardware 25

6.0 tag CNTK v2.0 beta 12.0 tag Torch master branch Keras 2.0.2 tag 26 https://aws.

26 Deep Learning AMI で各種パッケージを手軽に利用 OS は Amazon Linux と Ubuntu の 2 種類各種フレームワークがプリインストール * MXNet v0.9.3 tag Tensorflow v1.0.1 tag Theano rel tag Caffe rc5 tag Caffe2 v0.6.0 tag CNTK v2.0 beta 12.0 tag Torch master branch Keras tag 26

27 AWS は MXNet を全面的にサポートマルチ GPU でのスケーラビリティに優れている AWS 社員もコミッターとして活躍 CloudFormation で MXNet クラスタを構築するテンプレートを提供 27

28 4 層から構成される AWS の機械学習サービス Amazon Rekognition Amazon Polly Amazon Lex More to come in 2017 AI Services Amazon Machine Learning Amazon Elastic MapReduce Spark & SparkML More to come in 2017 AI Platform Apache MXNet TensorFlow Caffe Torch Theano CNTK Keras AI Engines P2 EMR/Spark ECS Lambda GreenGrass FPGA More to Come In 2017 Hardware 28

29 Amazon machine Learning スケーラビリティ : システムの拡張や運用を考える必要がないパッケージ化 : テストデータ分割や評価手法, 予測 API の提供などが組み込まれているアプリケーション Redshift 上の取引データを使って Amazon ML で不正取引の抽出を行い S3 に出力される結果を Redshift に戻して利用 Amazon Redshift 2 クラス分類ロジスティック回帰多クラス分類多項ロジスティック回帰回帰分析線形回帰 29

30 Amazon EMR (Elastic MapReduce) フルマネージドな Hadoop を提供しており, クラスタの構築, 構成変更, 破棄まで管理可能 HDFS ではなく S3 上のデータを直接読み書きすることで, コンピュートとストレージを分離可能ワークロードに応じたクラスタを複数立ち上げて, 同一データを処理可能 Spark MLlib や Mahout でスケーラブル機械学習 30

31 4 層から構成される AWS の機械学習サービス Amazon Rekognition Amazon Polly Amazon Lex More to come in 2017 AI Services Amazon Machine Learning Amazon Elastic MapReduce Spark & SparkML More to come in 2017 AI Platform Apache MXNet TensorFlow Caffe Torch Theano CNTK Keras AI Engines P2 EMR/Spark ECS Lambda GreenGrass FPGA More to Come In 2017 Hardware 31

32 AI Services Polly 文章をリアルな音声に変換するサービス Rekognition 画像分析機能をアプリケーションに簡単に追加できるようにするサービス Lex 声やテキストを使用した会話型インターフェイスを様々なアプリケーションに構築するためのサービスこれらは,fine-tuning された AWS が提供するディープラーニングモデルを API で簡単に利用できるマネージドサービスとなります 32

33 そのほかのサービスも合わせてシステムを構築機械学習用途にも利用できるサービス Amazon Kinesis Analytics 異常検知アルゴリズムをそなえた RUNDOM_CUT_FOREST 関数 Amazon Elasticsearch Service more like this のように, 検索機能を機械学習用途で利用可能機械学習のサイクルを構成するサービス Amazon Data Pipeline スケジュールを組んで EMR のジョブを実行 Amazon API Gateway 機械学習の結果を提供するための API を作成

34 AWS を活用したサービスの構築

35 サービス選択における指針 Right tools for the job 機能的特性と性能的特性の両面から, 最適なサービスを見極める Managed services first インフラの運用を AWS に任せて, アルゴリズムやアプリケーションに集中

36 ゴールを明確にする? 解決したいビジネス課題取得したいアウトプット Machine Learning System!

37 機械学習における 3 つのステージ? Model ゴールに合わせたモデルを設定する Machine Learning Training Pipeline データを用いてモデルを学習する Prediction 学習済みモデルを用いて予測する!

38 適切なモデルを選択する? Model レコメンド異常検知分類問題 Machine Learning System!

39 適切なモデルを選択する? Model Machine Learning System レコメンド協調フィルタリングコンテンツベースルールベース Spark MLlib or Mahout on Amazon EMR Amazon Elasticsearch Service! Amazon EC2

40 適切なモデルを選択する? Model Machine Learning System 異常検知 K-means ChangeFinder Random Cut Forest Spark streaming on Amazon EMR Storm on Amazon EC2! Amazon Kinesis Analytics

41 適切なモデルを選択する? Model Machine Learning System 分類問題 Logistic Regression Deep Learning SCW Amazon Machine Learning Spark on Amazon EMR Amazon Rekognition Amazon Polly MXNet on Amazon EC2! Hivemall on Amazon EMR

42 データからモデルを学習する? データサイズデータの場所 Machine Training Learning System モデルの更新頻度ハードウェア特性!

43 データからモデルを学習する? データサイズ単一のインスタンスで扱えるサイズクラスタで処理する必要があるサイズ Machine Training Learning System Amazon EC2 Spark on Amazon EMR Amazon Machine Learning!

44 データからモデルを学習する? データの場所ストレージに保存されている DB に保存されている Machine Training Learning System ストリームで流れてくる Amazon S3 Amazon RDS! Amazon Kinesis Stream

45 データからモデルを学習する? モデルの更新頻度バッチで定期的に更新オンラインで更新し続ける Machine Training Learning System 更新の必要が ( ほとんど ) ない Amazon Data Pipeline Spark streaming on Amazon EMR!

46 データからモデルを学習する? ハードウェア特性 CPU のみ CPU + GPU Machine Training Learning System メモリ最適化 C4 instance on Amazon EC2 P2 instance on Amazon EC2! X1 instance on Amazon EC2

47 学習したモデルで予測する? モデルサイズ提供形態 Machine Learning System Prediction!

48 学習したモデルで予測する? モデルサイズ単一のインスタンスで扱えるモバイルデバイスに組み込める Machine Learning System DB に格納する必要がある Amazon EC2 Prediction AWS Greengrass (Preview)! Amazon Dynamo DB

49 学習したモデルで予測する? 提供形態 API を提供ストリームデータを逐次処理デバイス等に組み込む Machine Learning System Amazon Machine Learning Amazon Rekognition Amazon Polly Prediction! Amazon API Gateway Amazon Kinesis Analytics Spark Streaming on Amazon EMR AWS Greengrass (Preview)

50 典型的なユースケース

51 ユースケース 1 EC サイトにおける商品のレコメンドあなたはハンドメイドの雑貨をあつかう EC ショップを運営しています.1 回の購入あたりの売り上げが伸び悩んでおり, 商品ページでほかのおすすめ商品を表示することで, 合わせ買いを促進したいと思っています. 毎日新しい商品が入荷してくるので, できるだけ早くおすすめに反映させたいです. またそれとは別に, セール商品は手動でおすすめできるようにもしたいと考えています.

52 ユースケース 1 EC サイトにおける商品のレコメンドアイテムベースのレコメンドと, ルールベースのレコメンドの 2 種類ストレージに溜まった巨大なログデータと,DB にあるマスタデータアイテムベースのレコメンド内容は日次で更新スマホアプリから結果を API 経由で取得して表示

53 ユースケース 1 新商品のルールベースレコメンド Elasticsearch Service Kinesis Firehose API Gateway Lambda 日次更新のアイテムベースレコメンド Dynamo DB S3 EMR

54 ユースケース 2 画像 SNS における同一人物の顔判定あなたは画像ベースの SNS を運営しています. ユーザーがアップロードした写真から顔部分を抽出して人物判定を行い, 同一人物が写っている場合, そのユーザーを知り合いかも? とおすすめする機能を追加しようとしています. これにより, ユーザー同士のつながりが強化され, サービスへのコミットメントも高まるのではないかと考えています.

55 ユースケース 2 画像 SNS における同一人物の顔判定複数の画像から顔を抽出して, 同一人物の判定 S3 上の大量の画像データモデルの更新頻度は週次 - 日次スマホアプリから結果を API 経由で取得して表示

56 ユースケース 2 バッチで Rekognition の index を追加 Dynamo DB EC2 Worker Rekognition S3

57 ユースケース 3 プラントのセンサデータにおける異常検知あなたの会社では, 常時稼働させているプラントにおいて, 複数のセンサから常にデータを取得し続けています. 現在は 3 交代制で作業員が監視する仕組みで, 非常に負荷が高い状況ですが, センサデータから異常検知を行う仕組みを作ることで, 作業員の負荷を下げたり, 判断ミスを減らしたりすることを考えています.

58 ユースケース 3 プラントのセンサデータにおける異常検知数百のセンサが 5 秒間隔で JSON データを送信ストリーム処理異常検知アラートをあげる

59 ユースケース 3 異常を検知したらアラートをあげる Kinesis Firehose Kinesis Analytics Kinesis Streams Lambda SNS

60 まとめ

61 まとめ解決したいビジネス課題から出発するその中でニーズはあるが実現できていない部分に注目機械学習はあくまでツールであり, 目的ではないシステム要件を定める要件に即した AWS サービスを選択するユースケースを参考に

62 本セッションの Feedback をお願いします受付でお配りしたアンケートに本セッションの満足度やご感想などをご記入ください. アンケートをご提出いただきました方には, もれなく素敵な AWS オリジナルグッズをプレゼントさせていただきますアンケートは受付, パミール 3F の EXPO 展示会場内にて回収させて頂きます

63 AWS ソリューション Day Database Day ~ すでに始まっている! クラウドへのデータベース移行とデータレイクを軸としたビッグデータ活用 ~ Database Day とは? ユーザー企業 / パートナー /AWS による導入事例や活用動向また技術情報をご紹介する IT 部門 ( エンジニア管理者など ) 向けのカンファレンス開催日時会場 2017 年 7 月 5 日 ( 水 ) 10:00~17:30 (9:30 開場予定 ) 大崎ブライトコアホール (JR 大崎駅より徒歩 5 分 ) セッション 1 基調講演 2 ブレイクアウトセッション 2 トラック構成トラック 1: データベース移行 ( 事例セッションあり ) トラック 2: データレイク (JAWSUG-BigData 支部事例セッションあり ) お申込み

65 Appendix

66 機械学習とはなにか Artificial Intelligence Machine Learning Deep Learning

67 機械学習とはなにか Artificial Intelligence Machine Learning Deep Learning

68 機械学習とはなにか Strong AI Artificial Intelligence 汎用人工知能人間のように知的な知能 Machine Learning Deep Learning

69 機械学習とはなにか Artificial Intelligence Weak AI Machine Learning 特化型人工知能汎用人工知能のための要素技術人間側でいろいろお膳立てが必要知的ではない Deep Learning

70 機械学習とはなにか Artificial Intelligence Machine Learning Deep Learning 機械学習特定事象のデータを学習してモデルを獲得それに基づいて判断や予測を実施

71 機械学習とはなにか Artificial Intelligence Machine Learning Deep Learning ディープラーニング機械学習の手法のひとつ

72 機械学習の一般的な分類教師あり学習機械に学習させたい事象の ( 正しい ) 結果を与えて学習させる Machine Learning 教師なし学習与えたデータからその分布の特徴を捉える学習を行う強化学習正解ではなく行動に対する評価を与えて学習する

73 ユースケース 1? Model モデル選定協調フィルタリングコンテンツベース Machine Learning System Spark MLlib の ALS を使って協調フィルタリングのモデルを更新また新しい商品が追加されたら, レコードを Elasticsearch Service に追加して,more like this 検索!

74 ユースケース 1? 学習システムクラスタで処理する必要があるサイズストレージ保存 + バッチ更新ストリーム + オンライン更新 Machine Training Learning System S3 上のログデータを Spark on EMR で読みこんで日次バッチを実行 Kinesis Firehose から直接データを挿入してオンラインでデータ更新!

75 ユースケース 1? 予測システム DB に格納する必要がある API で提供 Machine Learning System Prediction 協調フィルタリングの結果は Dynamo DB に格納 API Gateway から lambda で Dynamo DB および Elasticsearch Service 両方から結果を取得!

76 ユースケース 2? Model Machine Learning System モデル選定 Deep Learning Rekognition で顔認識と類似度判定をおこなう!

77 ユースケース 2? 学習システムストレージ保存 + バッチ更新 Machine Training Learning System S3 上の画像データを Rekognition の indexfaces API 経由で認識させて index を作成する!

78 ユースケース 2? 予測システム DB に格納する必要がある API で提供 Machine Learning System Prediction ユーザーごとの知り合いかも? リストは Dynamo DB に格納して API 経由で提供!

79 ユースケース 3? モデル選定 Random Cut Forest Model Machine Learning System Kinesis Analytics で変化点を検知データの種類や問題によっては, Spark Streaming 等を使う場合も!

80 ユースケース 3? 学習システムストリーム + オンライン更新 Machine Training Learning System Kinesis Stream 経由で取得したデータを Kinesis Analytics でストリームで処理!

81 ユースケース 3? 予測システムアラートをあげる Machine Learning System Kinesis Analyitcs の分析結果を Lambda 経由で SNS に送り, アラートをあげる Prediction!

PowerPoint Presentation

PowerPoint Presentation Analytics on AWS Amazon Web Services Japan IoT/AI Solution Builder Team Mitsuaki Nakata 自己紹介中田光昭 (Mitsuaki Nakata) nmitsu@amazon.co.jp IoT/AI Solution Builder Team Solutions Architect IoT/AI 関連プロジェクトのご支援など