OF2018 Cloud3-1

Transcription

1 学術情報基盤オープンフォーラム 2018 オンデマンドクラウド構築サービス 竹房 あつ子 国立情報学研究所クラウド基盤研究開発センター 2018 年 6 月 21 日 1

2 NII のクラウド導入 利用支援 利用 導入検討 調達 オンデマンドクラウド構築サービス 2018 年度予定 学認クラウド導入支援サービス スタートアップガイド セミナー チェックリスト 個別相談 提供中 クラウドゲートウェイ提供中 SINET クラウド接続サービス提供中 2

3 SINET クラウド接続サービス 大学等とクラウドのデータセンターを SINET5 L2VPN で接続 高速 安定 安全な通信環境 3

4 クラウド利用時の課題 クラウド接続時のネットワーク設定 主要なクラウドでは BGP ルータが必要 利用開始までに時間がかかる プロバイダ毎にサービスメニューやインタフェースが異なるので 複数のプロバイダの利用は大変 ベンダロックインを回避したい 調達の関係で途中でプロバイダが変更になる アプリケーション実行環境を構築するのが大変 基幹業務アプリ以外はコスト的にサポートに頼れない アプリのインストールやアップデート作業は複雑 資源の最適化やクラウドならではの使い方をするには? 4

5 オンデマンドクラウド構築サービス (H30 年 10 月サービス開始予定 ) SINET L2VPN でのクラウド接続を支援 クラウドの差異を吸収した制御インタフェースを提供 アプリケーション構築手順書の共有で環境構築支援 クラウド環境 インタークラウド環境 SINET5 L2VPN マシン確保 ソフトウェア配備 オンデマンド構築サービス テンプテンプレートレート 教員 研究者が テンプレートを選択 ( または作成 ) することにより クラウド環境を簡単に構築可能 SINET5 L2VPN 大学 研究所等 マシン確保 ソフトウェア配備 オンデマンド構築サービス テンプテンプレートレート 5

6 オンデマンドクラウド構築サービス 構築 管理ソフトウェア :Virtual Cloud Provider (VCP) クラウド接続を支援する仮想ルータを提供 プロバイダごとの API を抽象化し 制御 管理を容易に クラウドでのインスタンス配備 管理 ソフトウェアの配備 2 種類のインタフェースを提供 VCP REST I/F: 詳細な構築 管理が可能な REST インタフェース VCP SDK: 簡易な構築 管理可能な Python インタフェース 構築手順書 & 実行環境 : アプリケーションテンプレート クラウドでのアプリ環境構築 管理 ソフトウェア配備のための Jupyter Notebook 形式の手順書 ( ワークフロー ) を提供 仮想クラウド基盤環境構築 管理テンプレート 研究 教育用アプリケーションの実行環境構築 管理テンプレート 6

7 構築 管理ソフトウェア Virtual Cloud Provider (VCP) 7

8 構築 管理ソフトウェア VCP 仮想ルータによりクラウド接続時のネットワーク設定を支援 Docker コンテナによる高速なアプリケーション環境配備 構築したアプリケーション環境のモニタリング機能提供 基盤環境やアプリケーション実行環境の構築 管理 サービス利用者 Jupyter Notebook / Python / REST で制御 東京 DC 仮想クラウドコントローラ 仮想ルータ オンデマンドクラウド構築サービス 利用組織毎に独立した環境を提供 app bins/libs Container OS (kernel) app bins/libs Container VCP Base Container Hardware / VM アプリケーション実行環境 SINET SINET 大学 研究所等の利用組織 商用クラウド 8

9 VCP のサービスインタフェース クラウドごとの制御 API の差異を吸収 各クラウドプロバイダに制御には Terraform を使用 独自 Provider プラグインの実装も可能 VCP REST API YAML ベースでクラウド構成を記述し送信 Jupyter Notebook VCP SDK (Python) VCP SDK Python ベースの開発キット + Jupyter Notebook 環境で制御を容易に # 初期化 vc = VcpSDK( vcp_accesskey, my_vc_name ) # 計算ノード性能指定 spec = vc.spec.find( aws, small ) # spec = vc.spec.find( azure, small ) # 計算ノード起動 nodes = vc.unit.create( sample_server, spec) AWS に計算ノード起動するコード例 AWS VCP REST API Terraform Azure 各クラウドへ 構成ファイル Open Stack.. 9

10 VCP の性能 Throughput [Mbps] クラウド間通信性能 Base container on BM NII Cloud in Chiba Better SINET5 IPSec over Internet 1436 VCP IGW in Tokyo SINET5 IPSec over Internet SINET Transfer data size [Mbytes] Base container on r4.large AWS Tokyo SINET 利用で高性能通信 Throughput [Mbps] クラウド内通信性能 Better AWS r4.large (10G NIC) 使用 0 r4.large w/o EN 最適化なし 本サービスで高性能環境が利用可能 r4.large r4.large w/ EN w/ VCP, 最適化あり EN 10

11 構築手順書 & 実行環境アプリケーションテンプレート 11

12 アプリケーションテンプレート =Jupyter Notebook 形式の手順書 Outline of HPC Template Parameter settings Resource Allocation Network configuration of application containers Installation of HPC libraries User account settings Installation of optional packages Execution of benchmark programs 12 12

13 アプリケーションテンプレート HPC テンプレート OpenHPC で提供されているライブラリ + バッチシステムの科学技術計算用クラスタ環境を構築 LMS テンプレート Moodle を用いた学習管理システムを構築 VDI テンプレート Guacamole を用いた講義 演習用仮想デスクトップ環境構築 ゲノム解析テンプレート Galaxy ワークフローツールによるゲノム解析環境の構築 コースウェアテンプレート Jupyter Notebookを用いた講義演習環境の構築アプリケーションのコミュニティと協力 13

14 事例: ゲノム解析環境 Galaxy オンプレミスでの環境構築 資源不足時にクラウドに環境拡張 スケールアウト Galaxy Template (Jupyter Notebook) VCP User (VC Administrator) 2017/11 SC17展示発表 Galaxy Users OpenStack AWS VPC VCP system VCP Manager VC Controller GW Unit: galaxy Unit: galaxy-compute App: Galaxy +Slurmctld BC node #1 App: Slurmd BC BM BM Unit: compute node #2 App: Slurmd BC NFS Client BM Scale-out node #n App: Slurmd BC node #n+1 App: Slurmd VM VM BC SINET5 Unit: shared-storage NII App misc (DNS, Logging, ) BC NFS server BM disk Persistent Data Ø Galaxy DB Ø Tool Config Ø Workflow Ø Reference Data etc App Application Container BC VCP Base Container BM Bare-metal Machine VM Virtual Machine 14

15 事例 : ゲノム解析環境 Galaxy 動画 15

16 ハンズオン VCP 基礎編 + ゲノム解析構築 2017 年 12 月 4 日 Galaxy Meetup 遺伝研柏ラボ 参加者 7 名 2018 年 1 月 18 日 CREST 九州大学 参加者 15 名 VCP 基礎編 +Moodle 構築 本日!@NII20 階実習室 基礎編 : 那須野淳様 ( 株式会社アスケイド ) Moodle 編 : 浜元信州先生 ( 群馬大 ) VCP 管理者編 +Guacamole 構築 9 月 ( 予定 ) 16

17 まとめ クラウド利用推進のため オンデマンドクラウド構築サービス を H30 年度 10 月から提供開始 構成 : 構築 管理ソフト 実行手順書 & 実行環境 対象 : 大学 研究機関等 (6 機関試験運用中 ) 方針 : 重点アプリケーションのコミュニティと協力し 更なる有用化を図る 試用されたい方はご一報下さい : vcp@nii.ac.jp 関連サイト 文献 : 学認クラウド : NII OpenForum 2017: NII Cloud Operation Team: SINET を活用したインタークラウド環境構築システムの開発, 電子情報通信学会技術研究報告 CPSY , pp. 7-12, 2017 年 7 月 Virtual Cloud Service System for Building Effective Inter-Cloud Applications, Proc. IEEE CloudCom 2017, pp , 2017 年 12 月 17

18 18