- PDF Free Download

Size: px

Start display at page:

Download "　"

こうだいえいさか
4 years ago
Views:

1 管理者ガイド NAREGI Middleware Mediator 2008 年 10 月国立情報学研究所

2 ドキュメントリスト管理者ガイドグループ管理者ガイド NAREGI Middleware IS(Distributed Information Service) 管理者ガイド NAREGI Middleware IS(Distributed Information Service) - LRPSConfig - 管理者ガイド NAREGI Middleware SS(Super Scheduler) 管理者ガイド NAREGI Middleware GridVM(Grid Virtual Machine) 管理者ガイド NAREGI Middleware Portal 管理者ガイド NAREGI Middleware PSE(Problem Solving Environment) 管理者ガイド NAREGI Middleware WFT(GUI Workflow Tool) 管理者ガイド NAREGI Middleware GVS (Grid Visualization System) 管理者ガイド NAREGI Middleware DataGrid 管理者ガイド NAREGI Middleware CA(Certification Authority) 管理者ガイド NAREGI Middleware UMS(User Management Server) 管理者ガイド NAREGI Middleware Authorization Service 管理者ガイド NAREGI Middleware Renewal Service 管理者ガイド NAREGI Middleware SBC(Synchronous Data Transfer Library) i

3 利用者ガイドグループ利用者ガイド NAREGI Middleware IS(Distributed Information Service) 利用者ガイド NAREGI Middleware Portal 利用者ガイド NAREGI Middleware PSE(Problem Solving Environment) 利用者ガイド NAREGI Middleware PSE(Problem Solving Environment) - Command line Interface - 利用者ガイド NAREGI Middleware WFT(GUI Workflow Tool) プログラミングガイド NAREGI Middleware WFT(GUI Workflow Tool) 利用者ガイド NAREGI Middleware GVS(Grid Visualization System) - Client Module - 利用者ガイド NAREGI Middleware GVS(Grid Visualization System) - Parallel Visualization Module - 利用者ガイド NAREGI Middleware CA(Certification Authority) 利用者ガイド NAREGI Middleware UMS(User Management Server) 利用者ガイド NAREGI Middleware Authorization Service 利用者ガイド NAREGI Middleware Renewal Service 利用者ガイド NAREGI Middleware SBC (Synchronous Data Transfer Library) 利用者ガイド NAREGI Middleware Mediator Copyright National Institute of Informatics, Japan. All rights reserved. This file or a portion of this file is licensed under the terms of the NAREGI Public License, found at If you redistribute this file, with or without modifications, you must include this notice in the file. ii

4 目次第 1 章 Mediatorの導入導入の概要動作環境必要なハードウェア必要なソフトウェア対応コンパイラ...1 第 2 章 Mediatorのインストールインストールの概要インストール前の作業インストール前の注意事項配布パッケージの解凍環境変数の設定インストールの作業コンパイルリンクインストールインストール結果の確認インストールに失敗した場合の対処方法アクセス権限の設定インストール後の動作確認 MPIを使用した実行の確認手順 MPIとSBCを使用した実行の確認手順補注部分インストール方法 SBCがインストールされていない環境の場合 NAREGIミドルウェアがインストールされていない環境の場合...14 第 3 章 Mediatorの実行時環境の提供第 4 章 Mediatorの起動 / 停止と保守について前提ソフトのアップグレードに伴う再ビルドについて第 5 章 Mediatorのアンインストール方法アンインストール前の作業アンインストールの作業 iii

5 5.3 アンインストール結果の確認第 6 章 Mediator のアップグレードインストール方法 iv

6 第 1 章 Mediator の導入 1.1 導入の概要本ドキュメントでは Mediatorのインストール及び運用操作方法について説明します 1.2 動作環境必要なハードウェア Mediator のインストールの際に最小限必要なハードウェアについて述べますただし実行時にはアプリケーションが解こうとする問題の規模に応じてメモリ容量が必要となります [Linux 環境 ] CPU: IA-32 メモリ : 10MB 以上ハードディスク : 10MB 以上 [AIX 環境 ] CPU: PowerPC(POWER4) メモリ : 10MB 以上ハードディスク : 10MB 以上必要なソフトウェア [Linux 環境 ] OS: Linux(Centos 5,OpenSUSE 10) その他 : glibc2.5, GlobusToolkit 4.0.5, j2sdk 1.5, gcc 3.2 以降, 同期ファイル転送ライブラリ ( 本パッケージと同時にリリースされた版 ) [AIX 環境 ] OS: AIX Version5.2 その他 : GlobusToolkit 4.0.5, j2sdk 1.5, 節の AIX 用各コンパイラ, 同期ファイル転送ライブラリ ( 本パッケージと同時にリリースされた版 ) 対応コンパイラ [Linux 環境 ] gcc3.2 以降 [AIX 環境 ] IBM XL C Version 6 IBM XL Fortran version 8 release 1 1

7 なお以下の場合については動作を保証いたしません (1) 上記以外のコンパイラを使用した Mediator のコンパイルリンク (2) 上記以外のコンパイラでコンパイルしたプログラムと Mediator とのリンク (3) (1) で作成した Mediator の実行および (1) をリンクしたプログラムの実行 (4) (2) で作成したプログラムの実行 AIX, PowerPC and Power4 are trademarks of IBM Corporation in the US and other countries. RED HAT is a registered trademark of Red Hat, Inc. Globus and Globus Toolkit are trademarks held by the University of Chicago. NFS is a trademark of Sun Microsystems, Inc. Java is a trademark or registered trademark of Sun Microsystems, Inc. in the US and other countries. 2

8 第 2 章 Mediator のインストール 2.1 インストールの概要 Mediator は使用している環境においてソースコードからコンパイルしてインストールします本インストール作業では Mediator 本体とライブラリプログラムおよびC 言語用のヘッダファイルをインストールします重要 Mediator の全コンポーネントをインストールするには SBC が必要です必ず SBC を先にインストールしてください SBC のインストールされていない環境用に SBC を利用しないコンポーネントのみ部分インストールする場合は節を参照して作業してください 2.2 インストール前の作業インストール前の注意事項以下では実際に Mediator をリンクしたユーザープログラムを実行するホストを計算ノードと呼んでいます Mediator をインストールする場所は任意ですが以下の点に注意してください 1.Mediator のパッケージはクラスタ内の全計算ノードにインストールする必要があります 2. クラスタ内の各ノードの実行時環境が変わらないのであればクラスタ内の各ノードから参照可能な NFS ディスク等にインストールすることが可能です配布パッケージの解凍 Mediatorはユーザープログラムを実行する計算ノード上にインストールします Mediatorのインストールディレクトリを作成しそこにパッケージファイル mediator.tar.gz を展開します ( 配布ファイル名がmediator.tar.gzと異なる場合がありますので適宜読み変えて作業してください ) 本稿ではパッケージファイルを /tmp 以下に置き /opt/naregi-mdl/tools 下に mediator というディレクトリを作成してそこを Mediator のインストールディレクトリとしています # cd /opt/naregi-mdl/tools # mkdir mediator # cd mediator # tar zxvf /tmp/mediator.tar.gz 3

9 ./bin/./bin/mediator # 環境変数の設定コンパイルを行う前に以下の環境変数の設定を行います (1) DEX_ROOT Mediatorのインストールディレクトリを設定します (2) MPIR_HOME, MPIROOT MPIがインストールされているディレクトリを指定します (3) GLOBUS_LOCATION GLOBUSがインストールされているディレクトリを指定します (4) SBC_ROOT SBCがインストールされているディレクトリを指定します (5) JAVA_HOME JAVAがインストールされているディレクトリを指定します AIXの場合は32ビットモード用 JAVAがインストールされているディレクトリです (6) PATH $JAVA_HOME/bin, $MPIR_HOME/binを先頭に追加します 2.3 インストールの作業コンパイルリンクインストール $DEX_ROOT の下で以下を実行してくださいコンパイルとリンクとインストールまでがすべて行われます # cd $DEX_ROOT # make.. # 以上でインストールは完了です (( 注 )make install の必要はありません ) 2.4 インストール結果の確認 (1) 端末にエラーメッセージが表示されていないか確認します 4

10 (2) 以下の3つのログファイルが出力されているか確認します (2-1) log.build GridMPI を用いたコマンドラインからの実行用バイナリをコンパイルリンクした際のログ (2-2) log.build.sbc 同期型ファイル転送を用いたコマンドラインからの実行用バイナリをコンパイルリンクした際のログ (2-3) log.build.is 同期型ファイル転送を用いた NAREGI Workflow Tool からの実行用バイナリをコンパイルリンクした際のログ (3) (2-1),(2-2),(2-3) の3つのログファイル中にエラーメッセージが表示されていないか確認します (4) 以下のコマンドを実行した結果出力されるファイルのリストが下記と同様になるか確認します # cd $DEX_ROOT # ls -1 bin lib include bin: mediator mediator_g mediator_s include: SBC.h SBC_proto.h dexlibrary.h dex_msgtag.h dpp_define.h dpp_extern.h dpr_bucket.h dpr_define.h dpr_extern.h dpr_finddest.h dpr_shlibmng.h version.h 5

11 lib: libdex.a libdex_g.a libdex_s.a 2.5 インストールに失敗した場合の対処方法インストール作業に失敗した場合は実行環境や環境変数を確認して適切な設定を行った後以下のコマンドを実行してください # make clean # rm log.build* 上記の後再度インストール作業を行ってください 2.6 アクセス権限の設定 $DEX_ROOT および $DEX_ROOT 以下の bin,lib,include ディレクトリとファイルを一般ユーザから読み取り可能に設定します作業例 : # cd $DEX_ROOT # chmod 755. bin lib include bin/* lib/* include/* 2.7 インストール後の動作確認すべての計算ノードにインストール後インストールが正常に行われたことをテスト用プログラムを使用して以下の手順で確認します注意以下ではテスト用プログラムをインストールしたディレクトリが共有ディスク上にあることを仮定しています共有ディスクが無い場合にはプログラムの実行直前にテストプログラムを実行する各計算ノードの同じパスの場所にテスト用プログラムのインストールディレクトリをコピーしてください MPI を使用した実行の確認手順動作確認を行う前に以下のものを用意してください 1 全計算ノードの一般ユーザのアカウント 2 1のアカウントにおける3 章の環境変数設定 (1) 一般ユーザでのログイン 6

12 一般ユーザアカウントで端末からログインします DEX_ROOT 環境変数に Mediator のインストールディレクトリが設定されていることを確認します設定されていない場合はお使いのシェルのプロファイル (.profile 等 ) に設定後ログインし直してくださいまたプロファイル中で PATH 変数に $DEX_ROOT/bin を追加してください例 : (sh,bash をお使いの場合 ) PATH=$DEX_ROOT/bin:$PATH (2) テスト用プログラムのコピー $DEX_ROOT/test/pmtest を適当なディレクトリにコピーします例 : ~/work にコピーする場合 $ cp -r $DEX_ROOT/test/pmtest ~/work (3) テスト用プログラムのコンパイルコピーしたディレクトリに移動します例 : $ cd ~/work/pmtest (3-1) 粒子プログラムのコンパイル Linux で実行する場合 make コマンドで粒子プログラムをコンパイルします例 : $ make particle AIX で実行する場合 make -f Makefile.aix コマンドで粒子プログラムをコンパイルします例 : (AIX) $ make -f Makefile.aix particle (3-2) メッシュプログラムのコンパイル Linux で実行する場合 make コマンドでメッシュプログラムをコンパイルします例 : $ make mesh AIX で実行する場合 make -f Makefile.aix コマンドでメッシュプログラムをコンパイルします例 : (AIX) $ make -f Makefile.aix mesh 7

13 (4) 設定以下のファイルを編集します 1 'm_conf' には mesh プログラムを実行する計算ノード名を記述します例 :m_conf sig0001.naregi.org 2 'p_conf' には particle プログラムを実行する計算ノード名を記述します例 :p_conf pbg2010.naregi.org 3 'med_conf' には Mediator プログラムを実行する計算ノード名を記述します同じ計算ノード名を 2 行記述します例 :med_conf png1009.naregi.org png1009.naregi.org (5) テストプログラムの実行以下のコマンドを実行します $./run (6) 実行結果の確認以下の出力結果を確認します 1 mout 2 pout $DEX_ROOT/test/pmtest 以下の同名のファイルと結果が一致するか比較します MPI と SBC を使用した実行の確認手順動作確認を行う前に以下のものを用意してください 1 全計算ノードの一般ユーザのアカウント 2 1のアカウントにおける3 章の環境変数設定また下記の動作環境を確認してください 3 'globus-url-copy' コマンド (Globus Toolkit に含まれるコマンドの 1 つ ) が計算ノード間で相互に行えること 8

14 (1) 一般ユーザでのログイン一般ユーザアカウントで端末からログインします DEX_ROOT 環境変数に Mediator のインストールディレクトリが設定されていることを確認します設定されていない場合はお使いのシェルのプロファイル (.profile 等 ) に設定後ログインし直してくださいまたプロファイル中で PATH 変数に $DEX_ROOT/bin を追加してください例 : (sh,bash をお使いの場合 ) PATH=$DEX_ROOT/bin:$PATH (2) テスト用プログラムのコピー $DEX_ROOT/test/pmtest_sbc を適当なディレクトリにコピーします例 : ~/work にコピーする場合 $ cp -r $DEX_ROOT/test/pmtest_sbc ~/work (3) テスト用プログラムのコンパイルコピーしたディレクトリに移動します例 : $ cd ~/work/pmtest_sbc (3-1) 粒子プログラムのコンパイル Linux で実行する場合 make コマンドで粒子プログラムをコンパイルします例 : $ make particle AIX で実行する場合 make -f Makefile.aix コマンドで粒子プログラムをコンパイルします例 : (AIX) $ make -f Makefile.aix particle (3-2) メッシュプログラムのコンパイル Linux で実行する場合 make コマンドでメッシュプログラムをコンパイルします例 : $ make mesh AIX で実行する場合 make -f Makefile.aix コマンドでメッシュプログラムをコンパイルします 9

15 例 : (AIX) $ make -f Makefile.aix mesh (4) 設定 (4-1)MPI の設定以下のファイルを編集します 1 'm_conf' には mesh プログラムを実行する計算ノード名を記述します 2 'p_conf' には particle プログラムを実行する計算ノード名を記述します 3 'med_conf' には Mediator プログラムを実行する計算ノード名を記述します同じ計算ノード名を2 行記述します (4-2)SBC の設定 sbc.conf の以下の行を編集します 12 行目 :mesh を実行する計算ノード名と通信バッファの絶対パスを指定します以下の形式で指定します MESH file:// 計算ノード名 / 通信バッファの絶対パス 23 行目 :particle を実行する計算ノード名と通信バッファの絶対パスを指定します以下の形式で指定します PARTICLE file:// 計算ノード名 / 通信バッファの絶対パス 34 行目 :Mediator を実行する計算ノード名と通信バッファの絶対パスを指定します以下の形式で指定します MEDIATOR file:// 計算ノード名 / 通信バッファの絶対パス [ 記述例 ] [BUFFER] MESH file://sig0001.naregi.org//home/user1/work/pmtest_sbc/wk2 PARTICLE file://pbg2010.naregi.org//home/user1/work/pmtest_sbc/wk1 MEDIATOR file://png1030.naregi.org//home/user1/work/pmtest_sbc/wk0 [/BUFFER] [CONNECTION] PARTICLE MEDIATOR GRID_GT MEDIATOR MESH GRID_GT [/CONNECTION] 説明 2 行目において mesh は sig0001.naregi.org で実行する設定にしていますその際の通信バッファは /home/user1/work/pmtest_sbc/wk2 としています 3 行目において particle は pbg2010.naregi.org で実行する設定にしていますその際の通信バッファは /home/user1/work/pmtest_sbc/wk1 としています 4 行目において Mediator は png1030.naregi.org で実行する設定にしていますその 10

16 際の通信バッファは /home/user1/work/pmtest_sbc/wk0 としています (5) テストプログラムの実行注意 (5-1) (5-2) (5-3) のプログラムは独立に実行されるのでは無く互いにデータをやりとりしながら実行されます以下の作業は時間をおかず連続して行ってください (5-1) メッシュプログラムの実行 1 mesh を実行する計算ノードにログインします例 : $ rlogin sig0001.naregi.org 2 grid-proxy-init コマンドにより Globus の証明書を作成します 3 テストプログラムをコピーしたディレクトリに移動します例 : $ cd ~/work/pmtest_sbc 4 以下のコマンドを実行します $./run.mesh >log.mesh & (5-2) 粒子プログラムの実行 1 particle を実行する計算ノードにログインします例 : $ rlogin pbg2010.naregi.org 2 grid-proxy-init コマンドにより Globus の証明書を作成します 3 テストプログラムをコピーしたディレクトリに移動します例 : $ cd ~/work/pmtest_sbc 4 以下のコマンドを実行します $./run.particle >log.particle & (5-3)Mediator の実行 1 Mediator を実行する計算ノードにログインします例 : $ rlogin png1009.naregi.org 2 grid-proxy-init コマンドにより Globus の証明書を作成します 3 テストプログラムをコピーしたディレクトリに移動します例 : $ cd ~/work/pmtest_sbc 4 以下のコマンドを実行します 11

17 $./run.mediator (6) 実行結果の確認 (6-1) 出力結果の確認以下の出力結果を確認します 1 mout 2 pout $DEX_ROOT/test/pmtest_sbc 以下の同名のファイルと結果が一致するか比較します (6-2)SBC の通信ログの確認 wk?/_sbclog* の各ファイルの末尾行が "SBC finish" という文字列を含むか確認します例 : $ tail -1 wk?/_sbclog* ==> wk0/_sbclog_2_0 <== MEDIATOR(0) SBC finish time= ==> wk0/_sbclog_2_1 <== MEDIATOR(1) SBC finish time= ==> wk1/_sbclog_0_0 <== PARTICLE(0) SBC finish time= ==> wk2/_sbclog_1_0 <== MESH(0) SBC finish time= $ (7) クリーンアップ設定ミス等で正常終了しなかった場合は再実行する前に必ず以下の手順でクリーンアップ作業を行ってください (7-1) 残存プロセスの確認 mediator_s および particle および mesh が実行された可能性のある計算ノードにログインし ( どの計算ノードで実行されたか分かっている場合はそのノードにログインし ) mediator_s, particle または mesh のプロセスが残っていないか ps コマンド等で確認します 12

18 例 : $ rlogin png1038.naregi.org $ ps x (7-2) 残存プロセスの消去 particle または mesh プロセスが残っている場合は kill します例 : $ kill (7-3) 通信バッファの消去通信バッファディレクトリ下にファイルまたはディレクトリが残っている場合はそれらを消去します例 : $ rm wk?/* $ rm -r wk?/_sbc* (_sbc* というディレクトリが残っている場合 ) 2.8 補注部分インストール方法 SBC がインストールされていない環境の場合 SBCがインストールされていない環境で使用する場合には以下の項目に従って本章 2.2 節以降の作業を行うことで部分インストールすることが可能です項の作業において (1),(2),(6) の設定のみ行ってください (6) の設定は $MPIR_HOME/binの追加だけを行ってください 22.3 節の作業の前に $DEX_ROOT/config.sbcおよび $DEX_ROOT/config.isを削除するかリネームして下さい 2.3 節の作業後には bin,lib,include に以下のファイルのみが作成されます bin: mediator include: dexlibrary.h dex_msgtag.h dpp_define.h 13

19 dpp_extern.h dpr_bucket.h dpr_define.h dpr_extern.h dpr_finddest.h dpr_shlibmng.h version.h lib: libdex.a NAREGI ミドルウェアがインストールされていない環境の場合 NAREGIミドルウェアがインストールされていない環境で使用する場合もしくはNAREGI Workflow Tool 上で連成アプリケーションを構築実行しない場合は以下の項目に従って本章 2.2 節以降の作業を行うことで部分インストールすることが可能です項の作業において (1),(2),(3),(4),(6) の設定のみ行ってください (6) の設定は $MPIR_HOME/binの追加だけを行ってください 22.3 節の作業の前に $DEX_ROOT/config.isを削除するかリネームして下さい 2.3 節の作業後には bin,lib,include に以下のファイルのみが作成されます bin: mediator mediator_s include: SBC.h SBC_proto.h dexlibrary.h dex_msgtag.h dpp_define.h dpp_extern.h dpr_bucket.h dpr_define.h dpr_extern.h 14

20 dpr_finddest.h dpr_shlibmng.h version.h lib: libdex.a libdex_s.a 15

21 第 3 章 Mediator の実行時環境の提供 Mediator および Mediator API をリンクしたユーザーアプリケーションの起動は利用者が行うため実行環境の設定は利用者レベルで行いますただし以下の環境変数は管理者からユーザに情報の提供が必要です (1) DEX_ROOT Mediatorをインストールしたディレクトリです (2) SBC_ROOT SBCをインストールしたディレクトリです (3) MPIR_HOME,MPIROOT MPIがインストールされているディレクトリです (4) GLOBUS_LOCATION Globusがインストールされているディレクトリです (5) JAVA_HOME JAVAがインストールされているディレクトリです AIXの場合は32ビットモード用 JAVAがインストールされているディレクトリです (6) PATH $JAVA_HOME/bin, $MPIR_HOME/binを先頭に追加します 16

22 第 4 章 Mediator の起動 / 停止と保守について Mediator および Mediator のライブラリをリンクしたユーザーアプリケーションの起動終了は利用者が利用者権限で行うため管理者レベルでの起動終了作業はありません 4.1 前提ソフトのアップグレードに伴う再ビルドについて GridMPI または SBC がアップグレードされた場合に Mediator 本体およびユーザーアプリケーションの再ビルド ( コンパイルリンク ) が必要になる場合があります再ビルドが必要かどうかは GridMPI または SBC のアップグレードが一般のアプリに与える影響に依存します (1) ソース再コンパイルと再リンクが必要な場合 GridMPI または SBC を利用する一般アプリの再コンパイルリンクが必要な場合には Mediator 本体の再ビルドが必要ですまた Mediator と SBC を利用するユーザーアプリケーションについては再コンパイルリンクが必要です (2) 再リンクのみが必要な場合 GridMPI または SBC を利用する一般アプリの再リンクのみが必要な場合にも Mediator 本体の再ビルドが必要ですまた Mediator と SBC を利用するユーザーアプリケーションについては再リンクが必要です再ビルドは以下の手順で行ってください # cd $DEX_ROOT # make clean # make 第 5 章 Mediator のアンインストール方法 5.1 アンインストール前の作業 Mediator のインストールディレクトリをNFSで共有している計算ノード上に Mediator プロセスが残っている場合アンインストールに失敗する場合がありますすべての Mediator プロセスを kill してからアンインストールしてください 5.2 アンインストールの作業 Mediator をアンインストールするには $DEX_ROOT 以下と $DEX_ROOT ディレクトリを削除してください 17

23 5.3 アンインストール結果の確認 $DEX_ROOT ディレクトリが存在しないことを確認してください第 6 章 Mediator のアップグレードインストール方法 Mediator をアップグレードインストールするには第 5 章の方法に従い旧バージョンの Mediator を一旦アンインストールし同じディレクトリに本マニュアルの手順に従い最新版の Mediator をインストールしてください旧バージョンを残しておきたい場合は旧バージョンのインストールディレクトリとは別のディレクトリに新規にインストールして下さい 18

appli_HPhi_install

appli_HPhi_install 2018/3/7 HΦ version 3.0.0 インストール手順書 (Linux 64 ビット版 ) 目次 1. アプリケーション概要...- 1-2. システム環境...- 1-3. 必要なツールライブラリのインストール...- 1-1 cmake...- 2-2 numpy...- 3-4. アプリケーションのインストール...- 4-5. 動作確認の実施...- 5 - 本手順書は HΦ