Heartbeat + Xenで仮想化クラスタリングしてみよう！

Size: px

Start display at page:

Download "Heartbeat + Xenで仮想化クラスタリングしてみよう！"

ゆうりゅうしもとり
6 years ago
Views:

1 + Xenで仮想化クラスタリングしてみよう! 2010 年 2 月 26 日 Linux-HA-Japanプロジェクト田中崇幸 Linux-HA-Japan Project 1

2 本日の話題 1 って何? 仮想化クラスタリング構成仮想化クラスタリング応用構成編 Linux-HA-Japanプロジェクトについて参考情報 Linux-HA-Japan project 2

3 1 って何? Linux-HA-Japan project 3

4 とは? オープンソースで実現する高可用性クラスタリングソフトウェアですはサービスの可用性向上ができる HA クラスタを可能としたコストパフォーマンスに優れたオープンソースのクラスタリングソフトウェアです Linux-HA-Japan project 4

5 概要は故障発生を検知し待機系サーバへフェイルオーバさせることが可能ですサービス利用者には故障を意識させずにサービスを継続して提供することが可能です Active Standby フェイルオーバ Active ハートビート故障発生故障ハートビート共有ディスク共有ディスク Linux-HA-Japan project 5

6 基本的動作 : ノード監視相手ノードの監視一定間隔で相手ノードと通信し相手ノードの生死を確認します ( ハートビート通信 ) 相手ノードと通信できなくなった場合に相手はダウンしたと判断しフェイルオーバ処理を行います ACT ノード SBY ノード ACT ノード SBY ノードリソース生きてる? リソースリソースリソース故障生きてるよ! ハートビート通信断ノード断 Linux-HA-Japan project 6

7 リソースリソースエージェントとは? リソースではよく出てくる言葉なのでおぼえてください! HA クラスタにおけるリソースとはサービスを提供するために必要な構成要素の事でが起動停止監視等の制御対象とするアプリケーション NIC ディスク等を示します Linux-HA-Japan project 7

8 リソースエージェント (RA) リソースエージェント (RA) とはそのリソースとを仲介するプログラムになり主にシェルスクリプトで作成されていますはリソースエージェントに対して指示を出しリソースの起動 (start) 停止 (stop) 監視 (monitor) の制御を行います Linux-HA-Japan project 8

9 基本的動作 : リソース制御リソースの制御 : 起動 (start) 停止 (stop) 監視 (monitor) 起動後は一定間隔で監視正しく動作していない場合にはフェイルオーバ等の処理を実施します生きてる? ACT ノードリソース生きてるよ! SBY ノードリソース生きてる? ACT ノード故障リソース SBY ノードリソース開始リソースが壊れたなリソースを SBY 側で起動してサービス継続して! Linux-HA-Japan project 9

10 では Web 系 DB 系ネットワーク系ファイルシステム系等のリソースエージェントがなど標準で多数用意されています MySQL やや Tomcat 用のリソースエージェントなどもありますよ! 標準リソースエージェントの一例分類リソースリソースエージェント (/usr/lib/ocf/ resource.d/heartbeat/) ファイルシステム系ディスクマウント Filesystem DB 系 PostgreSQL pgsql Web 系 Apache apache ネットワーク系仮想 IPアドレス IPaddr Linux-HA-Japan project 10

11 pgsql リソースエージェント監視 (monitor) 処理の抜粋 #!/bin/sh ( 省略 ) pgsql_monitor() { if! pgsql_status then ocf_log info "PostgreSQL is down" return $OCF_NOT_RUNNING fi if [ "x" = "x$ocf_reskey_pghost" ] then runasowner "$OCF_RESKEY_psql -p $OCF_RESKEY_pgport -U $OCF_RESKEY_pgdba $OCF_RESKEY_pgdb -c 'select now();' >/dev/null 2>&1" else ( 省略 ) Linux-HA-Japan project 11

12 例 ) と PostgreSQL リソースエージェントの関係 PostgreSQL 用リソースエージェント (pgsql) PostgreSQL 用のコマンド等に変換リソース PostgreSQL start OK/NG monitor OK/NG stop OK/NG スタート制御 pgsql_start() 状態監視 pgsql_monitor() ストップ制御 pgsql_stop() pg_ctl start OK/NG select now(); OK/NG pg_ctl stop OK/NG Linux-HA-Japan project 12

13 2 仮想化クラスタリング構成ここからやっと本番? Linux-HA-Japan project 13

14 話を進めるにあたってまずは仮想化を行うターゲットの構成を決めます Linux-HA-Japan project 14

15 仮想化のターゲットとする HA 構成ここでは異なる 2 つのサービスでクラスタ化されている 4 台ノード構成を Xen でサーバ統合する構成を考えてみますサービスA 仮想 IP ACT ノードサービス A 系クラスタグループ SBY ノードサービス LAN サービスB 仮想 IP ACT ノードサービス B 系クラスタグループ SBY ノードクライアントリソース A リソース A リソース B リソース B ハートビート LAN1 ハートビート LAN2 ハートビート LAN1 ハートビート LAN2 Linux-HA-Japan project 15

16 ACT ノードにはサービス LAN 側にからサービス提供用仮想 IP IPアドレスが付与されクライアントへサービスが提供されているとしますクライアントサービスA 仮想 IP ACT ノードサービス A 系クラスタグループ SBY ノードサービス LAN サービスB 仮想 IP ACT ノードサービス B 系クラスタグループ SBY ノードリソース A リソース A リソース B リソース B ハートビート LAN1 ハートビート LAN2 ハートビート LAN1 ハートビート LAN2 Linux-HA-Japan project 16

17 サービスA 仮想 IP ACT ノードサービス A 系クラスタグループ SBY ノードすべてのノードでサービス LAN ハートビート LAN は別経路が用意されそれぞれの LAN は冗長化されているとしますリソース A リソース A ハートビート LAN1 ハートビート LAN2 Linux-HA-Japan project 17

18 サービス A サービス B と 4 ノードで別々のサービスが提供されているクラスタグループを Xen により仮想化してサーバ統合する構成を考えますクライアントサービスA 仮想 IP ACT ノードサービス A 系クラスタグループ SBY ノードサービス LAN サービスB 仮想 IP ACT ノードサービス B 系クラスタグループ SBY ノードリソース A リソース A リソース B リソース B ハートビート LAN1 ハートビート LAN2 ハートビート LAN1 ハートビート LAN2 Linux-HA-Japan project 18

19 このターゲットで仮想化クラスタリングの HA 構成を考えてみました Linux-HA-Japan project 19

20 を各 Domain-U のゲスト OS にインストールしノード間の Domain-U でハートビート通信を行い HA クラスタを構成します ACT 系 Domain-U サービス LAN Domain-0 ACT ノード Domain-U [ サービス A] リソース A Domain-U [ サービス B] リソース B リソース監視 Domain-0 SBY ノード Domain-U [ サービス A] リソース A Domain-U [ サービスB] リソースリソースB b リソースエージェントリソースエージェントリソースエージェントリソースエージェントハートビート通信ハートビート LAN Linux-HA-Japan project 20

21 リソース監視方法など物理環境と同様にリソースの制御が実現できます! ACT 系 Domain-U Domain-0 ACT ノード Domain-U [ サービスA] リソースA Domain-U [ サービス B] リソース B リソースエージェントリソースエージェントハートビート通信 Linux-HA-Japan project 21

22 サービス層であるリソース監視のみで仮想マシン層である Domain-U の監視が行われていないが? ACT 系 Domain-U Domain-0 ACT ノード Domain-U [ サービスA] リソースA Domain-U [ サービスB] リソースB リソースエージェントリソースエージェントハートビート通信 Linux-HA-Japan project 22

23 Domain-U が停止しているまたはホスト OS である Domain-0 が停止している場合はハートビート通信断によりフェイルオーバ処理が行われます Domain-0 ACT ノード Domain-U [ サービスA] リソースA Domain-U [ サービスB] リソースB 構成に面白味は無いけど Domain-U を物理環境 ( ハードウェア ) とみなすシンプルな構成ですね! Domain-0 SBY ノード Domain-U [ サービス A] リソース A Domain-U [ サービスB] リソースリソースB b リソースエージェントリソースエージェントリソースエージェントリソースエージェントハートビート通信断ノード断 Linux-HA-Japan project 23

24 仮想化クラスタリングに適したネットワークの構成を考えてみました Linux-HA-Japan project 24

25 仮想ブリッジと bonding 構成ネットワークの冗長化は Domain-0 で bonding を構成し仮想ブリッジと接続することで実現可能です Domain-U は bonding と結び付けられている仮想ブリッジに接続させるだけで bonding による冗長化の効果を得ることができます ACT ノード bond0 Domain-U eth0 Domain-0 vif0.0 vif1.0 xenbr0 pbond0 eth0 eth1 外部ネットワーク ( サービス LAN) サービス LAN 側はこの bonding 構成により冗長化します Linux-HA-Japan project 25

26 仮想化クラスタリングのネットワーク構成 ACT ノード SBY ノードサービス A Domain-U サービス B Domain-U bond0 Domain-0 eth2 eth3 eth0:0 eth0 eth1 eth2 eth0:0 eth0 eth1 eth2 xenbr0 pbond0 xenbr1 xenbr2 eth0 eth1 peth2 peth3 サービス LAN ハートビート LAN1 ハートビート LAN2 eth0 eth1 peth2 peth3 pbond0 xenbr1 xenbr2 Domain-0 xenbr0 bond0 eth2 eth3 eth0 eth1 eth2 eth0 eth1 eth2 サービス A Domain-U サービス B Domain-U Linux-HA-Japan project 26

27 サービス A Domain-U サービス B Domain-U Domain-U のサービス LAN 側インターフェース (eth0) ACTノードは bonding デバイス (pbond0) に接続している仮想ブリッジ xenbr0 に接続します eth0:0 eth0 eth1 eth2 eth0 eth1 eth2 bond0 eth2 eth3 eth0:0 Domain-0 xenbr0 pbond0 xenbr1 xenbr2 eth0 eth1 peth2 peth3 サービス LAN ハートビート LAN1 ハートビート LAN2 Linux-HA-Japan project 27

28 サービス提供用の仮想 IP IPアドレスは Domain-U の ACT から起動されるノード IPaddr リソースエージェントにより eth0 に付与します ( リソースエージェントにより eth0:0 が作成される ) サービス A Domain-U サービス B Domain-U Domain-0 サービスLAN ( リソースエージェントにより bond0 eth0:0 eth0 が作成される ) eth2 xenbr0 pbond0 eth3 eth1 eth0:0 eth0 eth1 eth2 eth0:0 eth0 eth1 eth2 xenbr1 xenbr2 peth2 peth3 ハートビート LAN1 ハートビート LAN2 Linux-HA-Japan project 28

29 サービス A Domain-U サービス B Domain-U ACT ノード接続します Domain-0 bond0 eth0:0 eth0 eth1 eth2 eth0 eth1 eth2 eth2 eth3 eth0:0 ハートビート LAN は物理環境と同じく 2 系統とするため仮想ブリッジをさらに 2 系統 ( xenbr1,, xenbr2 ) 作成して接続します xenbr1 xenbr0 pbond0 xenbr1 xenbr2 eth0 eth1 peth2 peth3 サービス LAN ハートビート LAN1 ハートビート LAN2 Linux-HA-Japan project 29

30 2 つの異なるクラスタグループでハートビート LAN の物理線を共有するためハートビート通信用 ACTノード UDP ポートを分けブロードキャストパケットが混在しないようにする必要があります Domain-0 サービス A Domain-U サービス B Domain-U eth0:0 eth0 eth1 eth2 eth0 eth1 eth2 bond0 eth2 eth3 eth0:0 xenbr0 pbond0 xenbr1 xenbr2 eth0 eth1 peth2 peth3 サービス LAN ハートビート LAN1 ハートビート LAN2 Linux-HA-Japan project 30

31 ハートビート通信用ポートを変更するためにはの基本設定ファイル (/etc/ha.d/ha.cf) に異なるポート番号の設定が必要ですサービス A: /etc/ha.d/ha.cf crm crmon on use_logd on on udpport keepalive 2 warntime deadtime initdead bcast eth1 eth1 bcast eth2 eth2 node srv-a01 node srv-a02 ハートビート LAN 用に異なるポート番号を設定します同一ポート番号でも動作しますがログに Warning が多数出力されます... サービス B: /etc/ha.d/ha.cf crm crmon on use_logd on on udpport 1694 keepalive 2 warntime deadtime initdead bcast eth1 eth1 bcast eth2 eth2 node srv-b01 node srv-b02 Linux-HA-Japan project 31

32 仮想ネットワークの設定方法ブリッジ作成用カスタムスクリプト (network-custom-hoge) を新規に作成します /etc/xen/scripts/network-custom-hoge の例 #!/bin/bash script=/etc/xen/scripts/network-bridge $script start vifnum=0 bridge=xenbr0 netdev=bond0 $script start vifnum=1 bridge=xenbr1 netdev=eth2 $script start vifnum=2 bridge=xenbr2 netdev=eth3 仮想ブリッジ xenbr0 に物理デバイス bond0 を関連付ける Linux-HA-Japan project 32

33 Xen デーモンの構成ファイル (xend-config.sxp) を修正して作成したカスタムスクリプト (network-custom-hoge) を読み込ませるように設定します設定後 Domain-0 を再起動させると新しい仮想ブリッジが作成されます /etc/xen/xend-config.sxp の修正箇所 #(network-script network-bridge) (network-script network-custom-hoge) 新規に作成したスクリプト名を記載する Xen 仮想ブリッジの作成方法は HA に特化した設定ではなくインターネット上では多数紹介されています! Linux-HA-Japan project 33

34 あとは物理環境と同様にを設定して起動するだけ! # service heartbeat start Starting High-Availability service: [OK] Linux-HA-Japan project 34

35 3 仮想化クラスタリング応用構成編 Linux-HA-Japan project 35

36 仮想化クラスタリングでの STONITH 構成を考えてみました Linux-HA-Japan project 36

37 STONITH とは? STONITH とは Shoot The Other Node In The Head の略であり不具合のあるノードを強制的にそのノードをダウンさせる機能ですコントロールが利かないノードをから STONITH プラグインを通じて強制的に離脱させることによりリソースの 2 重起動を防ぎます確実にノードを強制離脱させるためにサービスを提供する OS とは別経路の HW 制御ボードを用いた電源操作を推奨します Linux-HA-Japan project 37

38 HW 制御ボードの例 IBM 社リモート管理アダプター Ⅱ SlimLine RSAⅡ System x 3650 ( 旧モデル ) 等にオプションで搭載が可能 Integrated Management Module IMM System x 3650 M2 ( 新モデル ) 等に標準搭載 HP 社 Integrated Lights-Out 2 ilo2 ProLiant DL380 G6 等に標準搭載 ilo2 Linux-HA-Japan project 38

39 フェイルオーバ時に STONITH 機能が発動されるまでの流れ 1 1 フェイルオーバ時に ACT ノードのリソース停止処理が NG となる事象が発生 OS 1 停止失敗 ACT ノードリソース STONITH プラグイン電源ユニット HW 制御ボード L2SW HW 制御ボード SBY ノード STONITH プラグイン電源ユニットリソース OS Linux-HA-Japan project 39

40 フェイルオーバ時に STONITH 機能が発動されるまでの流れ 2 2 検知したが SBY ノードのに状態を伝達 OS 1 停止失敗 ACT ノードリソース STONITH プラグイン HW 制御ボード 2 L2SW SBY ノード STONITH プラグイン HW 制御ボードリソース OS 電源ユニット電源ユニット Linux-HA-Japan project 40

41 フェイルオーバ時に STONITH 機能が発動されるまでの流れ 3 3 SBY ノードのが STONITH プラグインを通じ故障発生サーバの HW 制御ボードを操作して強制電源断 OS 1 停止失敗 ACT ノードリソース STONITH プラグイン HW 制御ボード 2 L2SW 3 SBY ノード STONITH プラグイン HW 制御ボードリソース OS 電源ユニット電源ユニット Linux-HA-Japan project 41

42 フェイルオーバ時に STONITH 機能が発動されるまでの流れ 4 4 強制電源断成功後リソースが起動電源 OFF OS 1 停止失敗 ACT ノードリソース STONITH プラグイン HW 制御ボード 2 L2SW 3 SBY ノード STONITH プラグイン HW 制御ボードリソース OS 4 電源ユニット電源ユニット Linux-HA-Japan project 42

43 STONITH プラグインには様々な HW 制御ボードに対応した STONITH プラグインが標準装備されていますプラグインはシェルスクリプト Perl Python 等で作成されています HP ilo2 用プラグイン (/usr/lib64/stonith/plugins/external/riloe) IBM RSAⅡ 用プラグイン (/usr/lib64/stonith/plugins/external/ibmrsa-telnet) IPMI 用プラグイン (/usr/lib64/stonith/plugins/external/ipmi) IPMI IPMI とはとはサーバープラットフォームの状態 (( 温度電圧ファンバスなど )) 監視や復旧リモート制御を行うための標準インターフェイス仕様 Linux-HA-Japan project 43

44 xen0 STONITH プラグイン (/usr/lib64/stonith/plugins/external/xen0) HW 制御ボード操作の代わりに SSH 経由で xm destroyコマンドを Domain-0からDomain-Uの強制断を行うSTONITHプラグインが標準装備されています Domain-0 SSH ACT ノード Domain-U [srv-a01] 停止失敗リソース STONITH プラグイン SSH で対向ノードの Domain-0 にログインして SBYノード xm destroy を実行 L2SW # xm destroy srv-a01 Domain-U [srv-a02] STONITH プラグインリソース Linux-HA-Japan project 44

45 しかし Domain-0にSSHログイン不可な故障状態ならば STONITH 機能の発動ができないのでは? Linux-HA-Japan project 45

46 STONITH エスカレーション機能 SSH でログイン出来ない場合でも STONITH 機能拡張プラグインによるエスカレーション機能により HW 制御ボードを利用して強制離脱させる事が可能になります Linux-HA-Japan プロジェクトより機能拡張プラグインを 3 月公開予定!! Linux-HA-Japan project 46

47 1 仮想環境でのSTONITH 発動時 SSHで対向ノードへのログインが失敗 SSH でログイン失敗 ACT ノード SBY ノード Domain-0 Domain-U [srv-a01] Domain-U [srv-a02] SSH 停止失敗 STONITH 機能拡張プラグインリソース L2SW STONITH 機能拡張プラグインリソース HW 制御ボード HW 制御ボード電源ユニット電源ユニット Linux-HA-Japan project 47

48 2 SSHログインが失敗した場合エスカレーション機能で物理環境と同様にHW 制御ボードを操作して強制電源断を行う HW 制御ボードを操作して強制電源断 SBYノード ACT ノード Domain-0 Domain-U [srv-a01] Domain-U [srv-a02] SSH 停止失敗 STONITH 機能拡張プラグインリソース L2SW STONITH 機能拡張プラグインリソース HW 制御ボード HW 制御ボード電源ユニット電源ユニット Linux-HA-Japan project 48

49 4 Linux-HA-Japan プロジェクトについて Linux-HA-Japan project 49

50 Linux-HA-Japan プロジェクトの経緯 ( ハートビート ) の日本における更なる普及展開を目的として 2007 年 10 月 5 日 Linux-HA () 日本語サイトを設立しましたその後日本での Linux-HA コミュニティ活動として -2.* の rpm バイナリと機能追加パッケージを提供しています Linux-HA-Japan project 50

51 Linux-HA-Japan プロジェクト URL SourceForge.JP に開設中 RHEL 用 -2.* rpm バイナリの提供や機能追加パッケージ類を GPL ライセンスにて公開しています共有ディスク排他制御機能 (SFEX) やディスク監視デーモン等が提供中でこれからも多数の追加パッケージ公開を予定しています Linux-HA-Japan project 51

52 本家 Linux-HA サイト Linux-HA-Japan プロジェクトのサイトとは相互リンクを張っていきます Linux-HA-Japan project 52

53 の次期バージョンってどうなっているの? Linux-HA-Japan project 53

54 Pacemaker 2.x リソース制御部 Tengine CRM Pengine CCM RA 2.x 系のリソース制御部が Pacemaker として切り出されました Pacemaker CRM: Cluster Resource Manager Tengine: Transition Engine Pengine: Policy engine CCM: Cluster Consensus Membership RA: Resource Agent Linux-HA-Japan project 54

55 Corosync OpenAIS リソース制御部クラスタ制御部 OpenAIS コミュニティによって開発されたクラスタソフトである OpenAIS のクラスタ制御部は Corosync として分離されました Corosync Linux-HA-Japan project 55

56 Pacemaker 単独で動作させるのではなく複数のコンポーネントの組み合わせとして提供されます開発コミュニティではクラスタソフトウェア間でのコンポーネントの共通化を行いコミュニティを統合していくという流れになっています Pacemaker Pacemaker + Corosync Pacemaker 共通コンポーネント Corosync Pacemaker + 3.x Pacemaker 共通コンポーネント 3.x 現在開発中長期的には全てこちらに移行 2010/2/1 リリース済み大幅な機能改善はなし短期的な中継ぎの位置づけ Linux-HA-Japan project 56

57 HA クラスタ開発コミュニティの状況ユーザが利用可能な HA クラスタ機能 SUSE 主導 RedHat 主導 OpenAIS コミュニティ SLES11 HAE 1 Pacemaker コミュニティ Pacemaker コミュニティ OpenAIS OpenAIS Corosync agents, glue Pacemaker + Corosync ( 開発版 ) Pacemaker 年 2 月時点 Pacemaker + agents, glue Pacemaker + Corosync Pacemaker 1.0.x Corosync 1.2.x RedHat 主導 LINBIT 主導 RedHat 主導 RedHat Cluster コミュニティ 1 SUSE Linux Enterprise Server 11 High Availability Extension 2 RedHat Cluster Suite Cluster 3 Cluster 3.x RHCS 6 2 RHCS 6.x 2 Linux-HA-Japan project 57

58 Pacemaker ロゴアンケート実施中 Linux-HA-Japan プロジェクトでは次期クラスタソフトウェア Pacemaker のロゴを作成中です投票サイトに5つ案を載せましたのでどれが良いか皆さんの投票をお待ちしています! ロゴの案紹介ページアンケートページアンケート実施期間 2010 年 3 月 1 日まで Linux-HA-Japan project 58

59 Linux-HA-Japan メーリングリスト日本におけるについての活発な意見交換の場として Linux-HA-Japan 日本語メーリングリストも開設しています Linux-HA-Japan ML では Pacemaker 3.0 Corosync その他 DRBD など HA クラスタに関連する話題は全て歓迎します! ML 登録用 URL ML アドレス Linux-HA-Japan project 59

60 さいごに Linux-HA-Japan project 60

61 Linux-HA-Japanプロジェクトでは様々な設定例や追加パッケージなどのコンテンツを載せていき Linux-HA-Japan project 61

62 や次期クラスタソフトPacemaker Corosyncの普及展開を推し進めます Linux-HA-Japan project 62

63 ぜひメーリングリストに登録して HAクラスタの活発な意見交換を交わしましょう! Linux-HA-Japan project 63

64 Linux-HA-Japan 検索 Linux-HA-Japan project 64

65 5 参考情報 Linux-HA-Japan project 65

66 のインストール方法は? CentOS5 系 (RHEL5 系 ) ならばインストールは簡単! の rpm パッケージを Linux-HA-Japan プロジェクトからダウンロード heartbeat rhel5.x86_64.rpms.tar.gz heartbeat x86_64.rpm stonith x86_64.rpm pils x86_64.rpm 用ユーザ / グループの設定グループ : haclient / gid:90 ユーザ名 : hacluster / uid:90 上記 Tarball には他 rpm ファイルもありますが最低限これだけを入れれば OK! ダウンロードした rpm ファイルを rpm コマンドでインストール Linux-HA-Japan project 66

67 Linux-HA-Japan プロジェクト提供の rpm ダウンロードサイト Linux-HA-Japan project 67

68 の設定方法は? /etc/ha.d/ha.cf の基本的な動作情報クラスタ内の全ノードに同じ内容のファイルを配置 crm crmon on use_logd on on udpport keepalive 2 warntime deadtime initdead bcast eth1 eth1 bcast eth2 eth2 node srv01 node srv02 ー Ver.2 モードで動作させるー log logデーモンを使ってログを出力ーハートビート通信にポートを使用ーハートビート間隔を 2 秒に設定ー警告発信用ハートビート不通時間を秒に設定ーノードが死んだと判断する時間を秒に設定ー node で指定された全ノードの起動を待つ時間を秒に設定ハートビート通信に bcast を使用し I/F I/Fに eth1,eth2 を使用クラスタを構成するノード名が srv01 srv02 Linux-HA-Japan project 68

69 /etc/logd.cf のログ出力先を指定クラスタ内の全ノードに同じ内容のファイルを配置 /etc/ha.d/authkeys クラスタを構成する認証キーを保持するファイル認証キーが同じノード群でクラスタを構成クラスタ内の全ノードに同じ内容のファイルを配置 Linux-HA-Japan project 69

70 /var/lib/heartbeat/crm/cib.xml cib.xml = 主にリソースの定義を設定するxmlファイルどのようなリソースをどのように扱うか起動監視停止時に関連する時間リソースの配置などを指定 cib.xml の記法 (DTD) を知る必要があり難しい <constraints> (.. (.. 略..)..) <rsc_location id="rul_dk_dsc" rsc="grp_pgsql"> <rule <rule id="prefered_rul_dk_dsc" score="-infinity" boolean_op="and"> <expression attribute="diskcheck_status" id="dkstatus1" operation="defined"/> <expression attribute="diskcheck_status" id="dkstatus2" operation="eq" value="error"/> </rule> </rule> </rsc_location> (.. (.. 略..)..) </constraints> Linux-HA-Japan project 70

71 cib.xml はもう恐くない! 複雑な XML 形式の設定も hb-cibgen で解決! Ver.2 では DBMS 等のリソース構成や動作は cib.xml で記述しますこの cib.xml が複雑なのでなかなか手が出せないという声がありました hb-cibgen を使用すれば Excel ファイルから cib.xml を簡単に生成する事が可能です Linux-HA-Japan project 71

72 cib.xml 編集ツールを使おう! hb-cibgen のパッケージ (zip ファイル ) を Linux-HA-Japan プロジェクトのサイトからダウンロード hb-cibgen _1-noarch.zip hb-cibgen noarch.rpm hb_cibgen 本体 hb_cibgen_env_1.03-1_1.xls テンプレートファイル (Excel 形式 ) hb-cibgen 本体の rpm ファイルを rpm コマンドでインストール 1 テンプレート作成 2csv ファイル作成 3hb_cibgen コマンド実行により簡単に xml ファイルが生成可能! Linux-HA-Japan project 72

73 詳しくは cib.xml 編集ツールの公開 wiki を参照しましょう! Linux-HA-Japan project 73

74 Xen リソースエージェント (/usr/lib/ocf/resource.d/heartbeat/xen) Domain-0から標準の Xen リソースエージェントを使用して仮想マシンを監視させることができますがサービス LAN ACT 系 Domain-U Domain-0 リソースエージェント (Xen) ACT ノード Domain-U [ サービス A] リソース A Domain-U [ サービス B] リソース B 仮想マシン監視 Domain-0 リソースエージェント (Xen) SBY ノード Domain-U [ サービス A] リソース A Domain-U [ サービスB] リソースリソースB b ハートビート通信ハートビート LAN Linux-HA-Japan project 74

75 このリソースエージェントによる監視では Domain-0 から xm list コマンドの結果を参照するのみなので Domain-U 内の詳細な稼動状態がわからない Xen リソースエージェント監視 (monitor) 処理の抜粋 #!/bin/sh ( 省略省略 ) # we we have have Xen Xen or or lower STATUS=`xm list list --long $1 $1 2>/dev/null grep grep state 2>/dev/null` echo echo "${STATUS}" grep grep -qs -qs "[-r][-b][-p]---" if if [ $? $? -ne -ne 0 ]; ]; then then return $OCF_NOT_RUNNING xm xmlist の結果から Domain-U がが else else r r (running), b (blocked), p (paused) return $OCF_SUCCESS かどうかの状態しか判断していない fi fi ( 省略省略 ) Linux-HA-Japan project 75

76 ACT 系 Domain-U 仮想マシン内が異常であるかどうかは Domain-0 のレイヤからは検出できない Domain-0 リソースエージェント (Xen) ACT ノード Domain-U [ サービス A] Domain-U [ サービス B] リソースA リソースB?? ハートビート通信 Linux-HA-Japan project 76

77 監視対象は ACT 系 Domain-U の仮想マシンであり Domain-U 内のリソース監視を行うことができない ACT 系 Domain-U Domain-0 リソースエージェント (Xen) ACT ノード Domain-U [ サービス A] Domain-U [ サービス B] リソース? A リソース? B 仮想マシンを仮想マシンをいちリソースとみなす構成これでは高可用性のシステムは構築できませんねムは構築できませんねハートビート通信 Linux-HA-Japan project 77

78 デバイス一括監視機能 Domain-U のディスク I/O 処理は Xen Hyperviosr と Domain-0 経由のため Domain-U のゲスト OS からではディスク故障検出ができない場合がありましたデバイス一括監視機能はホスト OS の Domain-0 にディスクや ping 監視機能を搭載する事が可能なため故障検出をより確実に行うことが可能になります Linux-HA-Japan プロジェクトより 3 月公開予定!! Linux-HA-Japan project 78

79 デバイス一括監視機能による内蔵ディスク監視の例 Domain-0 デバイス一括監視機能ディスク監視 ACT ノード Domain-U [ サービス A] リソース A 故障を検出した場合は各 Domain-U のへ故障情報を通知する Domain-U [ サービス B] リソース B Xen Hyperviosr 内蔵ディスク Domain-0 からディスク監視を行う Linux-HA-Japan project 79

挑戦！Pacemakerで自由自在にHAクラスタリング

挑戦！Pacemakerで自由自在にHAクラスタリング挑戦! Pacemakerで自由自在にクラスタリング 2010 年 9 月 11 日 OSC2010 Tokyo/Fall Linux-HA Japan プロジェクト田中崇幸 Linux-HA Japan Project 1 本日の話題 1 Pacemaker って何? 2 Pacemaker のコンポーネント構成 3 Pacemaker でクラスタリングに挑戦しよう! 4 Linux-HA Japan