自作仮想化基盤 n0stack の紹介ぱろっく法政大学 h-otter 電気通信大学 hnron 日本工学院八王子専門学校 kyontan 電気通信大学

Size: px

Start display at page:

Download "自作仮想化基盤 n0stack の紹介ぱろっく法政大学 h-otter 電気通信大学 hnron 日本工学院八王子専門学校 kyontan 電気通信大学"

たしろういなくら
4 years ago
Views:

1 自作仮想化基盤 n0stack の紹介ぱろっく法政大学 h-otter 電気通信大学 hnron 日本工学院八王子専門学校 kyontan 電気通信大学

2 Attention! - ContainerSIG (Special Interest Group) - But... - No - No - No Jail

3 Attention! - ContainerSIG (Special Interest Group) - But... - We use

4 自己紹介 - 日本工学院八王子専門学校 - ITスペシャリスト科 4 年 - ICTSC ( 第 3-6 回参加 ) ( 第 7-9 回運営 ) - 自宅ラック勢 - OpenStack - 自宅にBGPフルルートが来てたり

5 自己紹介 - 電気通信大学総合情報学科 3 年セキュリティコース - ICTSC 運営 ( 第 6 ~ 9 回 ) - - 自宅ラック勢 - openstack on k8s

6 自己紹介 ( ぱろっく ) - 法政大学理工学部 4 年知的情報処理研究室 - ICTSC 運営委員 ( 第 5-9 回 ) 機械学習セキュリティを研究

7 自己紹介電気通信大学情報理工学部 3 年 - 元 ICTSC 運営委員 ( 第 5-8 回 ) - & - 就活中 (?) 自宅サーバ群 (FreeBSD, CoreOS,...)

8 ICT トラブルシューティングコンテスト - 通称 ICTSC (ICT Trouble Shooting Contest) 学生によるインフラ技術を中心に出題されるトラブルシューティング大会 - 次回は第 9 さくらインターネット株式会社大阪本社

10 開発の動機 - これまでは CloudStack や OpenStack を用いていた - CloudStack はネットワークの構造等の自由度が低く ICTSC に用いるのが難しかった - OpenStack は比較的自由度が高かったが ICTSC で使う際に毎回特殊な構築の仕方を取る必要があった - どちらを用いた場合でも学習コストや不具合が発生した時のデバッグのコストがとても高かった - クラウドを理解するためにクラウドを作ってみる

11 We introduce

12 全体の構成 - 各コンポーネントやエージェントを分割して開発 - リソースをそれぞれ抽象化するエージェントを作る - IaaSとしてコンポーネントをまとめる - Compute, Network, Volume の依存は比較的大きい - ex. Nova と Neutron と Cinder OpenStackやKubernetesの構造を参考にしながら粒度を調整

13 インターフェイス (OpenStack) - VMを作るには - Neutron でネットワークを作って - Neutron でサブネットポートを作って - Nova で VM を立てて - Cinder でディスクをつくって - いろいろアタッチして - Heat? Murano?

14 インターフェイス (Kubernetes) - サービスを提供するには - PersistentVolumeつくって - Deploymentを作って - Service 作って - いろいろ制約を追加して - いろいろタグでアタッチして

15 しんどい

16 インターフェイス (n0core) - resource: vm - VMを作るには name: hello_vm - procedure という power_state: started attachments: 1つのリクエストを投げるだけ - resource: volume size: 10G - リソースの依存関係を解決 - resource: port - 効率的なスケジューリング network: type: vlan vlan_id: 10 subnets: - cidr: /24

17 Architecture (0.1) - RESTful API - 全ては HTTP でやる - デバッグのしやすさを重視 - 疎結合 - agent 同士の依存を減らす - マイクロサービスに近い - agent は比較的密結合である - 破綻

18 Architecture (0.2) - MQ を導入 - 到達性を重視 - 容易にリトライが可能 - Scheduler / Conductor - agent 間の調整 / 管理 - データフローを一方向に

19 Architecture (0.2) - API Gateway - HTTP / MQ の変換 - n0auth, n0image - HTTP 依存部は外部へ

20 Architecture (0.2) メッセージの流れ - Scheduler が必要な agent へ命令

21 Architecture (0.2) メッセージの流れ - エラーがあれば Conductor Scheduler で再スケジューリング

22 Architecture (0.2) - 依存関係があると - Scheduler Agent Conductor Scheduler Agent...

23 Architecture (0.2) - 依存関係があると - Scheduler Agent Conductor Scheduler Agent... 必要ないのでは?

24 全体の構成 (Latest) 依存関係の通知を Agent から直接 Agent へ - VM に必要なディスク... ポート - ポート... ネットワーク

25 全体の構成 (Latest) 依存関係の通知を Agent から直接 Agent へ - VM に必要なディスク... ポート - ポート... ネットワーク

26 全体の構成 (Latest) n0core - Core Component

27 Messaging - 全てのメッセージは N0stackMessage である - Protobuf はそれ自身の型情報を持たない Create VM Delete VM Create Network Requests.. Simple Notification Request Procedure Notification N0stackMessage

28 Pulsar - Yahoo! が日米で開発した MQ ( メッセージングキュー ) - レイテンシの低さがウリ - メッセージは ZooKeeper / BookKeeper で伝達 / 保持 - (acknowledgement を返すまでメッセージを保持できる ) - 今は Apache Incubator の配下で開発続行中 - n0stack の MQ として採用 - MQ の扱いになれておらず色々苦労中

29 Messaging - Protobuf (Protocol buffer) 3 を全体で採用 - agent 間でのスキーマの統一 - 文字列 / 数値等の最低限の型は保証できる - 列挙型もある - Protobuf 3 では全てのフィールドが optional ( なくてもよい ) - シリアライズできたからといってエラーが起きないわけではない

30 n0gateway - API Gateway - クライアント (WebUI, CLI) からのリクエストのルーティング - Authentication, Authorization - Kong, Traefik などを使いたい ( 未検証 ) - 未着手

31 api - HTTP - MQ の橋渡し Clients api MQ YAML, JSON,... Protobuf

32 scheduler - ホストのリソースを元に VM のスケジューリング - filter / weight - API から送られてくる procedure の分割 - 各コンポーネントへリソースの作成リクエストを送る

33 networker - 外部ネットワークから VMへの疎通を確保 - n0stack 側から外部の router/switch を操作 - NAPALM - BGPで外部のrouterに VMのIPを /32で広報 - GoBGP

34 porter - VMのnetworkを抽象化 - ブリッジの作成 & DHCP による IPアドレスの割当 - 複数のタイプに対応 - flat - vlan -...

35 volumer - VMイメージ等の管理 - リソースプールの作成 - 作成 - 削除 - ダウンロード - マイグレーション

36 compute - VM の管理 - 作成 - 起動 - 停止 - 複製 - デバイス追加 - スペック変更 - マイグレーション

37 compute - ハイパーバイザに KVM を使用 - libvirt を用いて KVM を管理

38 libvirt - RedHat が主体となって開発している OSS - KVM や Xen などのハイパーバイザを管理する抽象化ライブラリ - C / Python / Java などから API を利用可能

39 libvirt を使う理由 - 将来的に様々なハイパーバイザに対応させやすい - Linux Containers (LXC) もサポートしている - コンテナの管理も可能に (?)

40 進捗着手し始めた部分 - Scheduler - Compute - Volumer - Porter - Networker : Procedure 設計 : ほぼ完成 : Attach 以外ほぼ完成 : MQと結合以外は完成 : gobgp 検証中

41 Schedule Release (Soon) - 色が濃い部分の基本動作 - (0.2,...) - 1.0: 全体の完成 - ICTSC9 (2018/3/3, 4) - 導入判断は 2017/12 - 間に合わせたい

42 様々な形でのサポートをお願いします!!

43 Thanks / Check it out!

44 Docker on Heroku כך 倯 HerokuծDocker ٦ ه آ ٦ ג ز Takashi Platform Specialist tabe@salesforce.com

45 Forward-Looking Statements Statement under the Private Securities Litigation Reform Act of 1995: This presentation may contain forward-looking statements that involve risks, uncertainties, and assumptions. If any such uncertainties materialize or if any of the assumptions proves incorrect, the results of salesforce.com, inc. could differ materially from the results expressed or implied by the forward-looking statements we make. All statements other than statements of historical fact could be deemed forward-looking, including any projections of product or service availability, subscriber growth, earnings, revenues, or other financial items and any statements regarding strategies or plans of management for future operations, statements of belief, any statements concerning new, planned, or upgraded services or technology developments and customer contracts or use of our services. The risks and uncertainties referred to above include but are not limited to risks associated with developing and delivering new functionality for our service, new products and services, our new business model, our past operating losses, possible fluctuations in our operating results and rate of growth, interruptions or delays in our Web hosting, breach of our security measures, the outcome of any litigation, risks associated with completed and any possible mergers and acquisitions, the immature market in which we operate, our relatively limited operating history, our ability to expand, retain, and motivate our employees and manage our growth, new releases of our service and successful customer deployment, our limited history reselling non-salesforce.com products, and utilization and selling to larger enterprise customers. Further information on potential factors that could affect the financial results of salesforce.com, inc. is included in our annual report on Form 10-K for the most recent fiscal year and in our quarterly report on Form 10-Q for the most recent fiscal quarter. These documents and others containing important disclosures are available on the SEC Filings section of the Investor Information section of our Web site. Any unreleased services or features referenced in this or other presentations, press releases or public statements are not currently available and may not be delivered on time or at all. Customers who purchase our services should make the purchase decisions based upon features that are currently available. Salesforce.com, inc. assumes no obligation and does not intend to update these forward-looking statements.

46 自己紹介鿇䃨 (Takashi Abe) Platform Specialist ف صآ à HW صآ à ؿ صآ à ٦ ز ذ IT à 植耵 הـ 攦䌒눴 㥨 : Perfume/BABYMETAL/谏 /珗䊛幄

47 Heroku

ف 涪/ ٦ أؽ 䲿罏盖椚 Platform as a Service كس ت ٦盖椚涪罏 ח ծ 涪罏 ؿزح فך ך ٦ ي

٦ ء ف ٦ ء ف ٦ ء سى سى سى DBMS DBMS DBMS OS OS OS 䟝䟝䟝 ٦ غ ٦ ٦ غ ٦ ٦ غ

Service) 24儗 /365傈 ך ٦ ז غ 麊欽 ⵖ Ύ 㣐鋉垷 ؿ 麊欽 ך 鞢㺡 آح شז 襳琎 Ώ 鋉垷 ך 椚崞

48 ف 涪/ ٦ أؽ 䲿罏盖椚 Platform as a Service كس ت ٦盖椚涪罏 ח ծ 涪罏 ؿزح فך ך ٦ ي أى ف IaaS PaaS (Infrastructure as a Service) (Platform as a Service) ف ٦ ء ف ٦ ء ف ٦ ء سى سى سى DBMS DBMS DBMS OS OS OS 䟝䟝䟝 ٦ غ ٦ ٦ غ ٦ ٦ غ ٦ زأ ٦ آ زأ ٦ آ زأ ٦ آ زحط ٦ زحط ٦ زحط ٦ 倵鏣倵鏣倵鏣 SaaS (Software as a Service) 24儗 /365傈 ך ٦ ז غ 麊欽 ⵖ Ύ 㣐鋉垷 ؿ 麊欽 ך 鞢㺡 آح شז 襳琎 Ώ 鋉垷 ך 椚崞㼎䘔٥㼎瘻 ךפ 䫎项 ΐ 珩㹋籐 Ⱅך ف ٦ ء سى DBMS OS 䟝 ٦ غ ٦ زأ ٦ آ كس ت ٦ ך IaaS ⵃ 欽 زحط ٦ 倵鏣

49 ذءػ ך ف 㺁僒 ח 䭁䓸 ד ת 椚鍑 Heroku ך 圓䧭銲稆 ה 䭁䓸 ך 倯圓䧭銲稆 Ruby Node.js Java Python PHP Scala Clojure Postgres Redis Kafka Dyno 铡僇䧭 ي ف شذ 䭁䓸倯岀䎂遤珩 Dyno ך 侧㟓 װ ז 知 ח 䭁䓸 ךזך ד Data ر ٦ ة 盖椚٥ 盖 걄㚖㣐㺁ꆀ٥넝䚍腉 ז ف رח ٦ ة 獳 ⴖ 剏 The Twelve Factor App و ٦ أؽ Payments SMS Search Analytics Monitoring Logging Add-ons ⵃ ז 鷄堣腉纇 و װ ح דس 堣腉鷄橆㞮㢌侧鏣㹀 ך חزفإ 鏣鎘涪 ז ف

50 竰竲涸 ז 涪 ך فر 㹋遤 ח 䕵甧 א CI/CD堣腉䲿 갪湡 غ ٦ آ 盖椚铡僇 Git / Github ךה 䓼 ז 鸬䵿٥窟さ ㅷ颵 넝 涪 Pipeline堣腉 ؽ ח ٦ > أإ ف 彊䬿 ذأ ٦ آ > 劤殢 ך 橆㞮 يأ ٦ חؤ 獳遤荈 زأذ 㹋倵〳腉橆㞮醱醡 Fork و דس ծ珩橆㞮 ך ٦ 㺁僒 ח 䧭

ة ٦ ؤ ف 欽鷿 ח 㼎䘔 ד 堣腉/ ٦ أؽ 䲿項 Private Spaces 説明 Private

本国内のデータセンター利も可能エンタープライズ技術的な質問やトラブル時のサポートチケットに対してサポート

時のアーキテクチャデザインやAdd-on選定といったご相談に本技術者が対応 Heroku Connect

51 ة ٦ ؤ ف 欽鷿 ח 㼎䘔 ד 堣腉/ ٦ أؽ 䲿項 Private Spaces 説明 Private Spaces DynoやDataなど Herokuのアプリ実環境をネットワーク的に分離された環境に構築本国内のデータセンター利も可能エンタープライズ技術的な質問やトラブル時のサポートチケットに対してサポート重要度に応じた応答時間のSLAを提供本語でのサポート対応を提供導時のアーキテクチャデザインやAdd-on選定といったご相談に本技術者が対応 Heroku Connect Salesforceのオブジェクトとの双向データ同期機能を提供 Heroku Connect Postgres Heroku ز آـ Salesforce

52 Container Registry & Runtime Heroku א ך 杝荈 ך Docker Registry ⵃ 欽 ג ծheroku ד Docker!!

53 Docker Heroku ך فرפ 勴 1. Heroku ز 䭯 ה ג 2. Heroku CLI و ⵃ س 欽〳腉 ה ז 3. docker و ⵃ س 欽〳腉 ה ז buildpack ではなく docker イメージでランタイムやミドルウェアを開発者が準備できるのでこれまで docker を利していた開発者でも容易にデプロイが!

54 Heroku פ Docker فر ف 菙涸 ז 崧 Heroku פ فر ف 倯岀 ו הקה ず!! Docker アプリ準備 Herokuアプリ追加アドオン追加デプロイ起動確認 170以上!? データベースアプリ開発ログ出アプリ準備 heroku create 監視ツールファイル保管 git clone : などなど container:push heroku logs

Ⱗך فر 涸 و ז س ⱄ فر 㜥さ כ heroku container:push

heroku container:login heroku create Heroku

55 Ⱗך فر 涸 و ז س ⱄ فر 㜥さ כ heroku container:push 事前準備 Herokuアプリ追加アドオン追加デプロイ起動確認 heroku login heroku container:login heroku create Heroku のアドオンも Docker から利可能 heroku addons:create heroku アプリの作成とアドオン追加は度の実でOK heroku container:push heroku open heroku-docker ف ח heroku docker و ⵃ س 欽〳腉 ד

56 Dockerfile ח ծ ⵖך 秈 갪 $PORT 橆㞮㢌侧 ד Listen ה Network link כ 劢 ه ٦ ز Default ך working directory כ / ծ㢌刿㜥さ כ WORKDIR 鏣㹀 CMD زحإך 䗳갭կENTRYPOINT ءف כ կ VOLUME EXPOSE STOPSIGNAL SHELL HEALTHCHECK כ 劢 ه ٦ ز $PORT هך ٦ ز 殢 ד 饯 Web ف 彊 ל ծ ח 㹋鄲〳腉

ך ծheroku ךג ה 岣䠐 갪 Heroku כד ծ㸜ⰻ䚍 װ 庠 ך 䡾 ג ח 棆 ⵖ ꣲ ת Dyno כ ծ24儗 +α ד 荈涸 ח 䩛 ⱄח 饯 ת ثحػ ذ إ ծ剑㣐 24儗 ד 黝欽 ה 爙 ת ג ؿ 宕竲涸 ח 盖 װה ծ ءحإ 䞔㜠笝䭯 ת ז ז ד ծ ر ٦ ة ٥ ؿ ٥ ءحإ 䞔㜠 וז 笝䭯㜥さ כ ծ ر ٦ كة ٦ װأ 㢩鿇

57 ך ծheroku ךג ה 岣䠐 갪 Heroku כד ծ㸜ⰻ䚍 װ 庠 ך 䡾 ג ח 棆 ⵖ ꣲ ת Dyno כ ծ24儗 +α ד 荈涸 ח 䩛 ⱄח 饯 ת ثحػ ذ إ ծ剑㣐 24儗 ד 黝欽 ה 爙 ת ג ؿ 宕竲涸 ח 盖 װה ծ ءحإ 䞔㜠笝䭯 ת ז ז ד ծ ر ٦ ة ٥ ؿ ٥ ءحإ 䞔㜠 וז 笝䭯㜥さ כ ծ ر ٦ كة ٦ װأ 㢩鿇 زأز آـ ٦ דוזآ ծ宕竲 ת 盖 ת կ䗳銲 ל ד ծ س דוז 鷌鼘٥麊欽 ת Web כأإ 30猱 ד 䓼ⵖ涸 ⴖח 倖 ת Ⳣثحغל 椚 וז ծⳣ椚 ח 儗 כך ך ծꬊず劍ⳣ椚 ג ה Worker Dyno Ⳣד 椚 ف ٦ ء 涪 ח 椚 כ ծtwelve Factor App( ח 䖞 ג דך ծ莆涪罏 ך 倯 כ ծ ו 鋮詳しくはこちらへどうぞ!!

58 DEMO 䱰䱠 ג

59 Japan Heroku User Group פ

60 次のステップへ...Trailhead Heroku Enterprise の基礎 Heroku Enterprise をいつどのように使するかについての基礎を学習します Salesforce と Heroku のインテグレーション Heroku のアプリケーションを Salesforce に統合するためのパターンと法を学びます

61 Appendix Heroku References

62 Heroku 䞔㜠 Ⰵ 䩛 Heroku ⵃ 欽 ךג ח 彊 ן فح Heroku CLI ך زأ ٦ 涪罏ぢ Heroku 䞔㜠 ך 如 ا ٦ أ Heroku Dev Center չheroku ث כד ٦ ي 涪 ה 麊欽պ鸬鯹鋮 Heroku כ ةأ ٦ ( س ز Heroku Getting Started 傈劤铂晛) Node.js 涪罏 ך ך Heroku Ⰵ Ruby 涪罏 ך ך HerokuⰅ װ Heroku - Java ف ٦ ء 涪箟 PHP 涪罏 ך ך HerokuⰅ Python 涪罏 ך ך HerokuⰅ Heroku ד 㹋騧 CI/CD

Salesforce DX.key

Salesforce DX.key Salesforce DX とは? Salesforceの開発生産性向上のための新機能 Mitsuhiro Okamoto Senior Developer Evangelist Trail blazer @mitsuhiro mokamoto@salesforce.com Forward-Looking Statements Statement under the Private Securities

自作仮想化基盤 n0stack の紹介 ぱろっく 法政大学 h-otter 電気通信大学 hnron 日本工学院八王子専門学校 kyontan 電気通信大学

自作仮想化基盤 n0stack の紹介ぱろっく法政大学 h-otter 電気通信大学 hnron 日本工学院八王子専門学校 kyontan 電気通信大学