2018年9月18日 PCクラスターコンソーシアム実用アプリケーション・シンポジウム IBM

Transcription

1 実用アプリケーション シンポジウム IBM Spectrum LSF 分散コンピューティング環境における厳しい要求に対応するワークロード マネージャー 2018 年 9 月 18 日日本アイ ビー エム株式会社 IBM システムズ ハードウェア事業本部大澤暁 ohsawa@jp.ibm.com

2 本日の内容 Spectrum Computing Spectrum LSF ファミリー Cloud Bursting コンテナー サポート Application Center & Process Manager Precise Scheduling 2

3 Spectrum Computing

4 IBM Spectrum Computing ポートフォリオ High Performance Computing Oil & Gas CAE Cognitive and Deep Learning High Performance Analysis Big Data Business Intelligence Material Science Life Sciences Financial Analytics Social Analytics Enterprise Grid Orchestrator Servers & Storage 4

5 IBM Spectrum Computing 従来 非効率な実行 IBM Spectrum LSF IBM Spectrum Symphony IBM Spectrum Conductor コグニティブ リソース アプリケーションを容易に管理 研究 デザイン シミュレーションの TAT 短縮 Red Bull Racing では 30% 高速化 究極の低レイテンシー 高スループット環境 分析アプリケーションの TAT 短縮 CME Group では 700 倍のスケーラビリティと 100 倍の高速化 Spark アナリティクス AI フレームワークに対応 クラスターの共有 最大 58% 高速化 より少ないリソース より短い TAT 最適化された実行 クラスター仮想化ソフトウェア 複数ユーザー 複数アプリケーションによる計算リソースの共有 性能及びコストの最適化と 管理の簡単化を実現 25 年にわたる leading ソフトウェア 高い scalability と高信頼性を確保 複数のアーキテクチャ フレームワークのユニファイド管理を実現 OpenPOWER x86 LinuxOne ARM GPU Docker VMs Hadoop Spark TensorFlow 5

6 6

7 Power Accelerated Computing Platform オープン サイエンスを推進する新しい計算環境 CORAL compute 構成をベース Power9 GPGPU Storage ソフトウェアが all in one 想定アプリケーション High Performance Computing Artificial Intelligence Quantum Computing Simulator 7

8 Spectrum LSF ファミリー

9 IBM Spectrum LSF ファミリー HPC 環境がどのように使用されているかの洞察による運用効率化 Analytics Application Center 使いやすさ アクセスしやすさおよびシンプル性の追求によるユーザーの生産性向上 Explorer IBM Spectrum MPI Process Manager コスト削減 High Performance Workload Scheduling 生産性向上 Report, Track, Monitor Power x86 aarch64 License Scheduler Data Manager MPI 効果的なスケジューリングと資産の効率的共有による使用率向上 9

10 IBM Spectrum LSF Suites 10.2 Suite for Enterprise Suite for HPC Suite for Workgroups IBM Spectrum MPI Application Centric User Portal Workflow Automation Software License Optimization Lightweight Reporting & Dashboards Intelligent Data Staging High Performance Workload Scheduling Power x86 aarch64 Cluster Deployment and Monitoring Hybrid Cloud Auto-scaling Enterprise Scalability 10

11 フォーカス エリア コア スケジューリング パフォーマンス 拡張性 GPU コンテナー コグニティブ スケジューリング マルチ クラウドへの対応 ワーク連携 : MultiCluster Autoscaling: Resource Connector データ連携 : Data Manager 使用操作性の追求 Portals: Application Center Workflows: Process Manager Reporting: Explorer Management: RTM (Report, Track, Monitor) 11

12 Cloud Bursting Any Compute Anywhere

13 Cloud Bursting LSF MultiCluster は事前定義されたポリシーに基づき ジョブをクラウド側に転送 LSF スケジューラ LSF スケジューラ 計算ノード ジョブ投入 On Premise On Cloud 13

14 Cloud Bursting LSF MultiCluster は事前定義されたポリシーに基づき ジョブをクラウド側に転送 LSF スケジューラ LSF スケジューラ LSF Resource Connector は ジョブ ワークロードに必要なリソースとクラウド上のポリシーに基づき リソース量を動的に調整 計算ノード ジョブ投入 On Premise On Cloud 14

15 Cloud Bursting LSF スケジューラ LSF スケジューラ 計算ノード クラウド上にデータがない場合コピーが必要!! ジョブ投入 On Premise On Cloud 15

16 データの Pre-staging と Post-staging LSF Data Manager は クラウド側でホストが provision される前に必要なデータを pre-staging LSF スケジューラ LSF スケジューラ 計算ノード Data Manager は 同一ファイルの重複転送を防止するためにクラウド側で caching ジョブ投入 On Premise 実行終了後は post-staging On Cloud 16

17 データの Pre-staging と Post-staging LSF Data Manager は データ移動の What と When を制御 How は複数構成可能 LSF スケジューラ LSF スケジューラ 計算ノード IBM Aspera による高速転送も可能 ジョブ投入 On Premise On Cloud 17

18 データの Pre-staging と Post-staging Spectrum Scale との連携も可能 LSF スケジューラ LSF スケジューラ 計算ノード ジョブ投入 On Premise On Cloud 18

19 コンテナー サポート

20 LSF & Kubernetes HPC ワークロード Kubernetes ワークロードの両方を同時に対応 Deploys Application IBM Cloud Private, RedHat OpenShift シングル インタフェース Charts Pending Deployed 同一ポリシー 統一的で容易な管理 Query Pending Update host 管理者 Defines Application (Chart) scheduler: lsf resources: mem: 256M cpu: 100m Reservation Job (bsub) LSF K8s Scheduler Job Host Allocated LSF 20

21 コンテナー サポートの特徴 LSFクラスタで Dockerジョブの実行が可能 Docker 対応の構築および管理が容易 従来のHPCユーザが Dockerジョブと非 Dockerジョブを同一インタフェースで実行可能 LSFの従来の機能が Dockerジョブで使用可能 Dockerセキュリティにも対応 ユーザから 管理者 (root) 権限を分離 セキュリティに強いアーキテクチャ Dockerユーザ グループにユーザ登録せずにコンテナー ジョブの実行が可能 計算ノード クラスターでは 管理者権限を留保 開発ノード クラスターでは Dockerユーザ グループを使用 LSF ファミリー製品との融合も実現 21

22 Application Center & Process Manager

23 Application Centerの特徴 いつでも どこでも 簡単に HPDAワークロードにアクセス よく使用するアプリケーションをカタログ化 GUI画面で簡単実行 容易なインタフェース ビルダー Webブラウザーからジョブの実行 変更 管理 今後増加するmobilityに配慮し RESTful標準 プロトコルを使用 Desktop GUIとも連携 モバイル端末から ジョブ状況の確認や通知が 可能 23

24 Process Manager の特徴 複雑なワークフローも簡単に制御 複雑なフローをブラウザ上で作成 フローの分岐 サブ フロー XML 形式で保存 様々な実行トリガー ブラウザWeb 画面 コマンド ライン カレンダー イベント Application Centerと高度に連携 24

25 Precise Scheduling

26 GPU ジョブの制御 ユーザー A NUMA0 NUMA1 bsub -n 10 -R affinity[core(same=numa): distribute=pack] -gpu num=1:mode=exclusive./train.py ユーザ B bsub -n 10 -R affinity[core(same=numa): distribute=pack] -gpu num=1:mode=exclusive./train.py MEMORY 1 GPU1 GPU2 GPU3 GPU4 MEMORY 2 26

27 ジョブの Packing 制御 repeat 8 bsub n 1 R./a.out order[-slots] affinity[core(1):distribute=balance]./a.out 計算クラスター host1 host2 host3 host4 32 Core Job N0 N1 N0 N1 N0 N1 N0 N1 free core occupied core 27

28 IBM Spectrum LSF

29 Faster Time to Results 継続的な性能向上 時間あたりのスケジューリング性能 5 倍高速化 LSF LSF 10.1 ~9 million jobs/hr Plan Based Reservations Burst Buffer 連携 LSF Simulator 29

30 ご静聴ありがとうございました 30

31 ワークショップ セッション および資料は またはセッション発表者によって準備され それぞれ独自の見解を反映したものです それらは情報提供の目的のみで提供されており いかなる参加者に対しても法律的またはその他の指導や助言を意図したものではなく またそのような結果を生むものでもありません 本講演資料に含まれている情報については 完全性と正確性を期するよう努力しましたが 現状のまま 提供され 明示または暗示にかかわらずいかなる保証も伴わないものとします 本講演資料またはその他の資料の使用によって あるいはその他の関連によって いかなる損害が生じた場合も は責任を負わないものとします 本講演資料に含まれている内容は またはそのサプライヤーやライセンス交付者からいかなる保証または表明を引きだすことを意図したものでも ソフトウェアの使用を規定する適用ライセンス契約の条項を変更することを意図したものでもなく またそのような結果を生むものでもありません 本講演資料で製品 プログラム またはサービスに言及していても が営業活動を行っているすべての国でそれらが使用可能であることを暗示するものではありません 本講演資料で言及している製品リリース日付や製品機能は 市場機会またはその他の要因に基づいて独自の決定権をもっていつでも変更できるものとし いかなる方法においても将来の製品または機能が使用可能になると確約することを意図したものではありません 本講演資料に含まれている内容は 参加者が開始する活動によって特定の販売 売上高の向上 またはその他の結果が生じると述べる または暗示することを意図したものでも またそのような結果を生むものでもありません パフォーマンスは 管理された環境において標準的なベンチマークを使用した測定と予測に基づいています ユーザーが経験する実際のスループットやパフォーマンスは ユーザーのジョブ ストリームにおけるマルチプログラミングの量 入出力構成 ストレージ構成 および処理されるワークロードなどの考慮事項を含む 数多くの要因に応じて変化します したがって 個々のユーザーがここで述べられているものと同様の結果を得られると確約するものではありません 記述されているすべてのお客様事例は それらのお客様がどのように 製品を使用したか またそれらのお客様が達成した結果の実例として示されたものです 実際の環境コストおよびパフォーマンス特性は お客様ごとに異なる場合があります ロゴ 以下当該情報に関連し商標リスト中に掲載された IBM ブランドや IBM の製品名称があれば追加するは 世界の多くの国で登録されたの商標です 他の製品名およびサービス名等は それぞれまたは各社の商標である場合があります 現時点でのの商標リストについては をご覧ください ロゴロゴは の米国およびその他の国における登録商標または商標です は の登録商標です インテルロゴロゴロゴおよびはまたは子会社の米国およびその他の国における商標または登録商標です は の米国およびその他の国における登録商標です およびロゴはの米国およびその他の国における商標です は は の登録商標です の米国およびその他の国における登録商標です は の米国およびその他の国における商標であり 同社の許諾を受けて使用しています およびすべての 関連の商標およびロゴは やその関連会社の米国およびその他の国における商標または登録商標です ロゴ および ロゴは および の米国およびその他の国における商標です および は またはその子会社の米国およびその他の地域における登録商標または商標です 31