PowerPoint Presentation

Transcription

1 TE-08 実用フェーズに入った HPC クラウドの実力 松尾康博 ( matsuoy@amazon.co.jp ) アマゾンデータサービスジャパン ソリューションアーキテクト 014 Amazon.com, Inc. and its affiliates. All rights reserved. May not be copied, modified, or distributed in whole or in part without the express consent of Amazon.com, Inc.

2 自己紹介 名前 松尾康博 ( matusoy@amazon.co.jp ) 仕事 ソリューションアーキテクト HPC, ビッグデータに関するお客様を担当 好きな AWS のサービス C3.8xlarge, API

3 Agenda AWSとは? なぜHPC on AWSなのか? クラスタインスタンスの性能 お客様事例

4 Agenda AWSとは? なぜHPC on AWSなのか? クラスタインスタンスの性能 お客様事例

5 Agenda AWSとは? なぜHPC on AWSなのか? クラスタインスタンスの性能 お客様事例

6 Agenda AWSとは? なぜHPC on AWSなのか? クラスタインスタンスの性能 お客様事例

7 主要な HPC アプリケーション ゲノム解析 モデリングシミュレーション 教育機関 政府機関 モンテカルロシミュレーション トランスコーディングエンコーディング 計算化学

8 お客様のお悩み 集約した共用計算機だと 長い待ち時間 スペックミスマッチ コア数不足 各自で計算機を持つと 予算 調達 構築 場所 電源 空調 騒音 運用管理

9 AWS なら

10 気軽に待たずに必要な時に必要なだけのコアで

11 Corporate Data Center Elastic Data Center

12 Corporate Data Center データを S3 にアップロード Elastic Data Center

13 マスターノードを起動 M Corporate Data Center Elastic Data Center

14 M Corporate Data Center 計算ノードを起動してクラスタ稼働開始 Elastic Data Center

15 M Corporate Data Center 必要に応じて必要な台数でクラスタを構成 Elastic Data Center

16 ジョブが完了したらインスタンスを Terminate M Corporate Data Center Elastic Data Center

17 Corporate Data Center 計算結果をダウンロードし 結果の精査等を行う Elastic Data Center

18

19 プログラムで操作可能

20 AWS API を使った Toolkit MIT Starcluster だと

21 $ starcluster start -s 16 samplecluster

22 $ starcluster start -s 16 samplecluster StarCluster - ( (v ) Software Tools for Academics and Researchers (STAR) Please submit bug reports to starcluster@mit.edu >>> Using default cluster template: smallcluster >>> Validating cluster template settings... >>> Cluster template settings are valid >>> Starting cluster... >>> Launching a 16-node cluster... >>> Waiting for cluster to come up... (updating every 30s) 0/0 100% >>> Configuring SGE... >>> Configuring NFS exports path(s): /opt/sge6 >>> Mounting all NFS export path(s) on 16 worker node(s) 16/16 100% >>> Setting up NFS took mins

23

24 コマンド 1 つでこの構成が! ジョブスケジューラ兼 NFS サーバ 計算ノード クラスター

25

26 $ starcluster start -s 16 cluster1 $ starcluster start -s 16 cluster $ starcluster start -s 16 cluster3

27 ジョブごとにクラスタを用意すればジョブの待ち時間ゼロ! ジョブスケジューラ兼 NFS サーバ 計算ノード クラスター

28 $ starcluster terminate cluster1 $ starcluster terminate cluster $ starcluster terminate cluster3 $ starcluster terminate samplecluster

29 ジョブが終われば クラスタを削除してコスト削減

30 Agenda AWSとは? なぜHPC on AWSなのか? クラスタインスタンスの性能 お客様事例

31 AWS Summit Tokyo 013 ( 013/6/5)

32 AWS Summit Tokyo 013 ( 013/6/5)

33 インスタンスタイプの歴史 AWS を開始した 006 年より 様々な用途に応じたインスタンスタイプを随時追加し 利用可能 (014 年 7 月 18 日時点で 37 タイプ ) 今後も新しいインスタンスタイプを追加予定 m1.small 006 m1.xlarge m1.large m1.small 007 c1.medium c1.xlarge m1.xlarge m1.large m1.small m.xlarge m.4xlarge c1.medium c1.xlarge m1.xlarge m1.large m1.small cc1.4xlarge cg1.4xlarge t1.micro m.xlarge m.xlarge m.4xlarge c1.medium c1.xlarge m1.xlarge m1.large m1.small cc.8xlarge cc1.4xlarge cg1.4xlarge t1.micro m.xlarge m.xlarge m.4xlarge c1.medium c1.xlarge m1.xlarge m1.large m1.small hs1.8xlarge m3.xlarge m3.xlarge hi1.4xlarge m1.medium cc.8xlarge cc1.4xlarge cg1.4xlarge t1.micro m.xlarge m.xlarge m.4xlarge c1.medium c1.xlarge m1.xlarge m1.large m1.small c3.large c3.xlarge c3.xlarge c3.4xlarge c3.8xlarge i.large i.xlarge i.xlarge i.4xlarge i.8xlarge g.xlarge cr1.8xlarge hs1.8xlarge m3.xlarge m3.xlarge hi1.4xlarge m1.medium cc.8xlarge cc1.4xlarge cg1.4xlarge t1.micro m.xlarge m.xlarge m.4xlarge c1.medium c1.xlarge m1.xlarge m1.large m1.small t.micro t.small t.medium r3.large r3.xlarge r3.xlarge r3.4xlarge r3.8xlarge c3.large c3.xlarge c3.xlarge c3.4xlarge c3.8xlarge i.large i.xlarge i.xlarge i.4xlarge i.8xlarge g.xlarge cr1.8xlarge hs1.8xlarge m3.xlarge m3.xlarge hi1.4xlarge m1.medium cc.8xlarge cc1.4xlarge cg1.4xlarge t1.micro m.xlarge m.xlarge m.4xlarge c1.medium c1.xlarge m1.xlarge m1.large m1.small 014

34 013 年 11 月最新 高速インスタンス登場 C3.8xlarge インスタンス Intel Xeon E5-680v Ivy Bridge I/O Performance: Very High (10 Gigabit Ethernet) Enhanced Networking (SR-IOV ) Intel Turbo Boost Technology 3 vcpus.8 GHz Intel Xeon E5-680v Ivy Bridge 60GB RAM x 30 GB Local SSD c3.8xlarge

35 高性能インスタンスの変遷 CC1 CC.8xlarge C3.8xlarge vcpu RAM (GiB) CPU Xeon X5570 (Nehalem) Xeon E5-670 (Sandy Bridge) Xeon E5-680v (Ivy Bridge) NIC 10Gbps 10Gbps 10Gbps(SR-IOV) Launch Date Jul, 010 Nov, 011 Nov, 013 $.000/hour $1.680/hour 014 年 7 月 18 日時点の US-EAST Linux の価格

36 10GbE クラスタネットワーク + Enhanced Network Full bisection 10Gbps 低レイテンシ 低ジッタープレイスメントグループ内にインスタンスを配備 SR-IOV 対応インスタンスはさらなる低レイテンシを実現

37 Amazon c3.8xlarge インスタンスクラスタ 1,656 ノード (6,496 コア ) 484. TFLOPS TOP 位 (Nov 013) 一時間当たり約 9 万円から

38 Top500 性能の変遷 Linpak (TFlops) Linpak Score Efficiency 90.00% 80.00% 70.00% % 50.00% 40.00% 30.00% 0.00% 10.00% Linpak(Tflops) Efficiency 0 010(CC1) 011(CC) 013(C3) 0.00%

39 実際の計測結果 64 コアまではオンプレと同等性能 C3 では 18 コアまでスケール CC と C3 の性能差は 1.88 倍

40 GPU インスタンス CG1 インスタンス Intel Xeon X5570 processors x NVIDIA Tesla Fermi M050 GPUs I/O Performance: Very High (10 Gigabit Ethernet) G Intel Intel Xeon E NVIDIA Kepler GK104 GPU I/O Performance: Very High (10 Gigabit Ethernet) 33.5 Compute Units 6 Compute Units 0GB RAM x NVIDIA GPU 448 Cores 3GB Mem cg1.8xlarge 16GB RAM 1x NVIDIA GPU 1536 Cores 4GB Mem g.xlarge

41 G + Citrix XenApp によるリモートグラフィックス g.xlarge では HDX 3D Pro を有効にしてサーバサイドで 3D アプリケーションの実行が可能 3D CAD プリポスト処理 アニメーション生成 医療用画像処理

42 ほぼ無制限のリソース ( ノード数 / コア数 ) 低価格 & 様々な価格モデル クラスタ運用の効率化 HPC on AWS 計算スループット向上 共同作業の効率化 需要に応じて複数クラスタ起動

43 Agenda AWSとは? なぜHPC on AWSなのか? クラスタインスタンスの性能 お客様事例

44 主要な HPC アプリケーション ゲノム解析 モデリングシミュレーション 教育機関 政府機関 モンテカルロシミュレーション トランスコーディングエンコーディング 計算化学

45 Novartis Institutes for Biomedical Research $44M 相当のスパコンを $5K で実現 10,000 台を Spot で起動 39 年かかる計算を 11 時間で完了

46

47 Ames 研究センター 大規模 Embarrassingly Parallel, 小規模 MPI 超並列 MPI MPI and EP NASA 研究員

48

49

50 EM シミュレーションのスケーラビリティ Job 投入 $ bsub J CyArray[1-N] Node 01: parameters = set 1 Node 0: parameters = set Node 03: parameters = set 3 シミュレーション結果取りまとめ Node N: parameters = set N 実行プログラムは同一で インプットパラメータが異なる複数のシミュレーションを並列実行 AWS CloudFormation で Job 投入後にクラスタを構築し並列実行 MASTER Node 01 Node 0 Node N VPC Subnet

51 HPC パートナーと対応アプリケーション

52

53

54 VT-HCM(HPC Hybrid Cluster Manager) 主要機能 Job の投入とインスタンス起動終了自動制御 大容量高速ファイル転送 課金情報収集 54

55 CieSpace Web ベースの SaaS CAE サービス Solver: OpenFOAM Meshing : CAD Import: CATIA, NX, etc. Visualization : OpenFOAM,Star-CCM, Fluent, Flow3D Nastran, Abaqus, Ansys, Marc, LS-Dyna

56 AWS Marketplace ソフトウェア構築済み環境を 従量課金ですぐに利用可能

57 AWS HPC Test Drives AWS パートナー様が提供する 無料検証環境

58 まとめ

59 HPC クラウドを使うことで可能になること カイゼン イノベーション 待ち時間の削減 ハードウェア更改からの開放 コスト削減 データ共有の容易さ生産性向上 リードタイム短縮 新しい HPC 領域へ 新規研究の検証 新しい HPC アプリ開発 HPC の教育ベンチマーク調査

60 aws.amazon.com/hpc aws.amazon.com/life-sciences

61 SAVE THE DATE Cloud Storage & DB Day 検索

62 Thank you! TE-08 実用フェーズに入った HPC クラウドの実力 松尾康博 ( matsuoy@amazon.co.jp ) アマゾンデータサービスジャパン ソリューションアーキテクト 014 Amazon.com, Inc. and its affiliates. All rights reserved. May not be copied, modified, or distributed in whole or in part without the express consent of Amazon.com, Inc.