エンジニアの 皆 さん パブリッククラウドだけで 満 足 ですか? ~ハイブリッドクラウドで 実 現 する 新 しいインフラのかたち~ Nov 28, 2014 Internet Initiative Japan Inc. Takashi Sogabe
Who am I? Takashi Sogabe @rev4t Software Engineer, Internet Initiative Japan Inc. 最 近 の 注 力 分 野 OpenStack 関 わっているプロジェクト OpenContrail, mruby, Riak, etc.
クラウドの 先 にあるもの サーバ 資 産 を 変 動 費 用 にできる? コストが 下 がる? Agilityが 上 がる?
ソフトウェア 化 が 進 んだ 世 界 (1) 20 years from now, labor demand for lots of skill sets will be substantially lower. Bill Gates http://bitly.com/1tkh7q2
ソフトウェア 化 が 進 んだ 世 界 (2) Rapid improvements in artificial intelligence, for instance, will make computers and robots adept at most jobs. Given the chance to give up work, nine out of 10 people wouldn t want to be doing what they re doing today Larry Page http://on.ft.com/1ouooza
クラウドの 先 にあるもの(2) コンピュータがジャブジャブに 使 える 世 界 AI, BigData, IOT, etc. クラウドのユーザ 世 界 中 の 誰 でも 何 処 からでも コンピュータが 使 える クラウド 提 供 者 大 量 のサーバを 全 世 界 的 に 自 動 制 御 にて 管 理
開 発 スタイルの 変 化 に 対 応 したい Agile IT 分 散 システムが 大 前 提 クラウド 必 須 スケールアップ -> スケールアウト これからのアプリ 開 発 に 必 須 IaaSがあれば 実 現 できるが..
クラウドだけあれば 十 分? Traditional IT: Do it Right 従 来 のエンタープライズ 型 IT 運 用 管 理 モデル 効 率 セキュリティ コンプライアンス 信 頼 性 を 重 視 Agile IT: Do it Fast 新 しい 時 代 の 戦 略 性 の 高 いITモデル クラウド モバイル アナリシス ソーシャルなど の 動 きに 沿 う
プライベートクラウドも 欲 しいのです 開 発 環 境 は 堅 牢 なサービスでなくて 良 い 開 発 環 境 向 けにコスト 最 適 化 退 役 サーバ 余 りサーバ etc. の 有 効 利 用 社 外 に 出 したくないデータ IaaSを プライベート 環 境 でも 使 いたい 伸 縮 自 在, Self Manage, APIによるプログラム 制 御
Agile ITと Traditional ITの 棲 み 分 け インフラ ハイブリッドクラウドを 駆 使 してクラウドの 恩 恵 を 受 けつつ Agile ITのインフラと Traditional IT のイン フラを 共 有 開 発 運 用 開 発 スタイルが 全 く 違 うので 無 理 に 一 本 化 はせ ず 別 々のチームで 開 発 運 用 する
コスト 面 では 圧 倒 的 に 不 利 なHybrid Cloud IaaSに 最 適 化 されたコモディディサーバ 人 力 作 業 を 最 大 限 に 排 除 できるCloud OS 余 分 な 電 力 を 消 費 しないファシリティ サーバ Cloud OS ファシリティのコスト 構 造 を 可 能 な 限 り Public Cloud に 近 づけることが Hybrid Cloud 導 入 には 必 要
他 業 種 での 取 り 組 み 事 例 コスモスベリーズ 町 の 電 気 屋 さんでも 量 販 店 と 同 じ 価 格 で 電 気 製 品 を 販 売 できる 仕 入 れなどの 流 通 システムはヤマダ 電 機 のもの を 共 有 地 域 密 着 Face to Face 等 の 強 みを 活 かして 従 来 の 量 販 店 がカバーできなかったユーザを 開 拓
Reference Design: Hybrid Cloud ファシリティ co-izmo/i ラック サーバ スイッチ Open Compute Project (OCP) Cloud OS OpenStack
Ready-Made Data Centers co-izmo/i(コイズモアイ) モジュール 型 のコンテナDC http://www.iij.ad.jp/dc/en/products/index.html
高 い 電 力 消 費 効 率 伸 縮 自 在 なDC 高 い 電 力 消 費 効 率 PUE 1.17 伸 縮 自 在 1コンテナ 当 たり4rack 連 結 することで 拡 張 ができる
ラック サーバ スイッチ Open Compute Project コスト 効 率 の 高 いコンピューティングインフラを 設 計 するためのプロジェクト Facebook 社 が 取 り 組 みを 始 め 現 在 では 多 数 の 会 社 が 参 画 オープンソースの 開 発 モデルをハードウェア 設 計 に 適 用
Cloud OS OpenStack IaaSを 誰 でも 無 償 で 構 築 できるソフトウェア Compute(Nova), Block Storage(Cinder), Object Storage(Swift) 等 多 岐 にわたるコンポーネントが 提 供 されている
システム 構 成 コンポーネントの 差 し 替 えが 可 能 自 由 にコンポーネントを 選 ぶこともできる データセンタ( 都 市 型 DC, coizmo/iなど) Cloud OS DCIM Federation Compute Servers Storage Servers Switches Connectivity
PoC 環 境 OpenStack Controller, Compute nodes Winterfell, etc. Object Storage Swift, Swift/Kinetic(テスト 中 ) Networking Cumulus, ARISTA
OCP Rack 直 流 給 電 各 ラックにn+1 電 源 モジュールを 搭 載 電 源 レールを 用 いてサーバにDC 給 電 前 面 吸 気 後 面 排 気 ホットアイル コールドアイル 型 のデータセンタに 最 適 21inch 幅 サーバの 横 幅 を 大 きくできる Open Rack 自 体 は 横 幅 がスリム
電 源 モジュール 電 源 バー WinterFell
OCP Server (Winterfell) Simple クラウドインフラに 不 要 な 周 辺 機 器 は 一 切 ない No VGA port No Optical drive 1 NIC with a Mezz slot IPMI/DCMI サーバやパーツの 交 換 が 容 易
OCP JBOD (Knox) 2Uのシャーシに 30 台 のHDD を 搭 載 RAIDコントローラ 内 蔵 SAS Interface で Winterfellに 接 続 できる
シンプルなことの 利 点 (1) 起 動 時 間 がとても 早 い Winterfell 約 30sec 汎 用 サーバ Over 120sec
シンプルなことの 利 点 (2) OpenStack Integration IaaSに 不 要 な 周 辺 機 器 を 買 う 必 要 がない コモディティサーバを 束 ねることで 計 算 能 力 や ストレージ 容 量 を 自 在 に 増 減 できる
OpenStack 現 在 の 課 題 プロダクション 環 境 向 けのインストールは 大 変 商 用 ディストリビューションを 使 うことで 緩 和 できる Metacloud, Mirantis, Piston, RedHat, etc. Open Source 実 装 を 使 う 場 合 TripleO (OpenStack on OpenStack) Juju/MAAS
OpenStack 主 要 コンポーネント 1. Horizon WebUI Neutron VM Provide Image Provison Provide Volume 4. VMs Save Images 5. Cinder 3. 2. Nova Glance Swift Backup Volumes Authenticate Keystone
PoC 環 境 のコンポーネント Management Server Juju MAAS Nagios neutron-gateway The Internet Clos Fabric Pacemaker, Corosync, HAproxy glance dashboard cloud-controller cinder nova-compute keystone swift-proxy swift-storage ceph rabbitmqserver mysql-cluster
Bare Metal Provisioning MAAS Metal as a Service ver.1.7では 他 社 Distro(CentOS 等 )にも 対 応 Cobbler 昔 から 広 く 使 われているOS Deployment Tool 商 用 OpenStackのインストーラとして 良 く 使 われて いる
Juju Deployment tool Chef, Puppet, Ansible 等 に 似 たツール MAASと 組 み 合 わせて 使 える Charm 例 OpenStack Hadoop MySQL
Networking (1) Flat Network Simple スケールアウトさせるのが 難 しい CLOS Topology Scalable ECMPでロードバランスできる Overlay networkが 必 要 GRE, VXLAN, etc.
Networking (2) 一 元 管 理 DevOpsに 向 いた 管 理 方 法 の 確 立 Chef/Puppet/Ansible, CI Network 機 器 実 は 既 にLinuxベースが 主 流 であれば User Interface も Linuxで 良 いはず! 余 計 なUser Interfaceがあるとソフトウェアによる 一 元 管 理 の 妨 げになる
Seagate Kinetic ServerからHDDを 分 離 Key-Value Store API Protobuf with Ethernet 利 点 柔 軟 性 スケールアウト 性 効 率 Storage(1)
Swift with Kinetic Storage (2) https://github.com/swiftstack/kinetic-swift OpenStack(Swift)との 組 み 合 わせも 可 能 $ swift-ring-builder kinetic.builer kinetic.builder, build version 31 1024 partitions, 3.000000 replicas, 1 regions, 1 zones, 4 devices, 0.00 balance The minimum number of hours before a partition can be reassigned is 1 Devices: id region zone ip address port replication ip replication port name weight partitions balance meta 7 1 1 127.0.0.1 6010 127.0.0.1 6010 10.174.251.101:8123 1.00 768 0.00 8 1 1 127.0.0.1 6020 127.0.0.1 6020 10.174.251.102:8123 1.00 768 0.00 9 1 1 127.0.0.1 6030 127.0.0.1 6030 10.174.251.103:8123 1.00 768 0.00 10 1 1 127.0.0.1 6040 127.0.0.1 6040 10.174.251.104:8123 1.00 768 0.00 $ swift upload mycontainer test test $ swift download mycontainer test -o - awesome $ for i in {1..4}; do kcmd -H 10.174.251.10${i} list objects; done objects.202f47d75a808c212d43c6dda051f39c.1407379571.83189.data.89a32569-fbbf-4ad3-8e8a-f46e1d632cbb objects.202f47d75a808c212d43c6dda051f39c.1407379571.83189.data.dd7a79e0-3c92-43fb-937a-10fd11a28c32 objects.202f47d75a808c212d43c6dda051f39c.1407379571.83189.data.df9f0a7f-d2da-4d52-aa06-55e96a1fdcd7
Container 対 応 への 取 り 組 み Mesosphere, Kubernetes など 分 散 コン ピューティングに 最 適 なコンテナ 環 境 の 開 発 が 急 速 に 進 んでいる IIJは OCP Japan の PoC Working Group にて OCP Server を 用 いたOpenStack のコンテナ 環 境 について 検 証 中 http://opencomputejapan.org/community/workin g-group
課 題 のまとめ Agile IT と Traditional IT 全 く 別 の 開 発 運 用 チームが 必 要 だが インフラについてはHybrid Cloud を 用 いて 共 用 するのが 望 ましい Hybrid Cloudを 導 入 するためには サーバ ファシリティ Cloud OS の3つを Public Cloudの ように 最 適 化 する 必 要 がある
取 り 組 みのまとめ Hybrid Cloudのリファレンスデザインを 作 成 し PoC 環 境 を 構 築 した ContainerやKineticなど 新 しい 技 術 への 取 り 組 みを 進 めている