講習会 :MPI 基礎 2 講習会概略 開催日 : 2017 年 3 月 6 日 ( 月 ) 10:30-17: 年 3 月 7 日 ( 火 ) 10:00-17:00 場所 : 東京大学情報基盤センター 4 階 413 遠隔会義室 講習会プログラム : 3 月 6 日 ( 月 ) 1

Transcription

1 講習会 :MPI 基礎 1 第 72 回お試しアカウント付き並列プログラミング講習会 MPI 基礎 : 並列プログラミング入門 東京大学情報基盤センター 内容に関するご質問は cc.u-tokyo.ac.jp まで お願いします

2 講習会 :MPI 基礎 2 講習会概略 開催日 : 2017 年 3 月 6 日 ( 月 ) 10:30-17: 年 3 月 7 日 ( 火 ) 10:00-17:00 場所 : 東京大学情報基盤センター 4 階 413 遠隔会義室 講習会プログラム : 3 月 6 日 ( 月 ) 10:00-10:30 受付 10:30-12:30 ノートパソコンの設定 テストプログラムの実行など ( 演習 ) ( 講師 : 塙 ) 14:00-15:45 並列プログラミングの基本 ( 座学 )( 講師 : 塙 ) 16:00-17:00 MPI プログラム実習 Ⅰ( 演習 )( 講師 : 塙 ) 3 月 7 日 ( 火 ) 10:00-12:30 プログラミングの基礎 ( 分割コンパイル )( 演習 )( 講師 : 大島 ) 14:00-15:30 MPI プログラミング実習 Ⅱ( 演習 )( 講師 : 塙 ) 15:45-17:00 MPI プログラミング実習 Ⅲ( 演習 )( 講師 : 塙 )

3 講習会 :MPI 基礎 東大センターのスパコン 2 基の大型システム,6 年サイクル FY Hitachi SR11K/J2 IBM Power TFLOPS, 16.4TB Hitachi HA8000 (T2K) AMD Opteron 140TFLOPS, 31.3TB Yayoi: Hitachi SR16000/M1 IBM Power TFLOPS, 11.2 TB Oakleaf-FX: Fujitsu PRIMEHPC FX10, SPARC64 IXfx 1.13 PFLOPS, 150 TB Oakbridge-FX TFLOPS, 18.4 TB データ解析 シミュレーション融合スーパーコンピュータ 長時間ジョブ実行用演算加速装置付き並列スーパーコンピュータ メニーコア型大規模スーパーコンピュータ Oakforest-PACS Fujitsu, Intel KNL 25PFLOPS, 919.3TB Reedbush, SGI Broadwell + Pascal 1.93 PFLOPS Reedbush-L Pascal 1.4+PF BDEC system 50+ PFLOPS (?) Big Data & Extreme Computing 3 JCAHPC: 筑波大 東大 Peta K K computer Post-K?

4 講習会 :MPI 基礎 5 システム運用中 Yayoi ( 日立 SR16000, IBM Power7) 54.9 TF, 2011 年 11 月 2017 年 10 月 Oakleaf-FX ( 富士通 PRIMEHPC FX10) PF, 京コンピュータ商用版, 2012 年 4 月 2018 年 3 月 Oakbridge-FX ( 富士通 PRIMEHPC FX10) TF, 長時間実行用 (168 時間 ), 2014 年 4 月 2018 年 3 月 Reedbush (SGI, Intel BDW + NVIDIA P100 (Pascal)) データ解析 シミュレーション融合スーパーコンピュータ 1.93 PF, 2016 年 7 月 2020 年 6 月 東大 ITC 初の GPU システム (2017 年 3 月より ), DDN IME (Burst Buffer) Oakforest-PACS (OFP) ( 富士通 Intel Xeon Phi (KNL)) JCAHPC ( 筑波大 CCS& 東大 ITC) 25 PF, TOP 500 で 6 位 (2016 年 11 月 ) ( 日本で 1 位 ) Omni-Path アーキテクチャ, DDN IME (Burst Buffer) 4

5 講習会 :MPI 基礎 5 トライアルユース制度について 安価に当センターの Oakleaf/Oakbridge-FX, Reedbush-U/H, Oakforest- PACS システムが使える 無償トライアルユース および 有償トライアルユース 制度があります アカデミック利用 パーソナルコース グループコースの双方 (1 ヶ月 ~3 ヶ月 ) 企業利用 パーソナルコース (1 ヶ月 ~3 ヶ月 )(FX10: 最大 24 ノード 最大 96 ノード, RB-U: 最大 16 ノード, RB-H: 最大 2 ノード OFP: 最大 16 ノード, 最大 64 ノード ) 本講習会の受講が必須 審査無 グループコース 無償トライアルユース :(1 ヶ月 ~3 ヶ月 ): 無料 (FX10: 最大 1,440 ノード RB- U: 最大 128 ノード RB-H: 最大 32 ノード OFP: 最大 2048 ノード ) 有償トライアルユース :(1 ヶ月 ~ 最大通算 9 ヶ月 ) 有償 ( 計算資源は無償と同等 ) スーパーコンピュータ利用資格者審査委員会の審査が必要 ( 年 2 回実施 ) 双方のコースともに 簡易な利用報告書の提出が必要 料金体系や利用条件の詳細は 以下の HP をご覧ください

6 講習会 :MPI 基礎 20 スパコンへのログイン テストプログラム起動

7 講習会 :MPI 基礎 21 講義の流れ 1. スパコン利用の仕方 単純な並列プログラムの実行 2. 総和演算

8 講習会 :MPI 基礎 22 Reedbush-U へログイン Ø ターミナルから 以下を入力する $ ssh reedbush-u.cc.u-tokyo.ac.jp -l tyyxxx -l はハイフンと小文字の L tyyxxx は利用者番号 ( 数字 ) tyyxxx は 利用者番号を入れる Ø Ø Ø 接続するかと聞かれるので yes を入れる鍵の設定時に入れた自分が決めたパスワード ( パスフレーズ ) を入れる成功すると ログインができる

9 講習会 :MPI 基礎 23 Reedbush-U のデータを PC に取り込む Ø ターミナルから 以下を入力する $ scp tyyxxx@reedbush-u.cc.u-tokyo.ac.jp:~/a.f90./ tyyxxx は利用者番号 ( 数字 ) tyyxxx は 利用者番号を入れる Ø Reedbush 上のホームディレクトリにある a.f90 を PC のカレントディレクトリに取ってくる Ø ディレクトリごと取ってくるには -r を指定 $ scp -r tyyxxx@reedbush-u.cc.utokyo.ac.jp:~/samp./ Ø Reedbush 上のホームディレクトリにあるSAMPフォルダを その中身ごと PCのカレントディレクトリに取ってくる

10 講習会 :MPI 基礎 24 PC のファイルを Reedbush-U に置く Ø ターミナルから 以下を入力する $ scp./a.f90 tyyxxx@reedbush-u.cc.u-tokyo.ac.jp: tyyxxx は利用者番号 ( 数字 ) tyyxxx は 利用者番号を入れる Ø PCのカレントディレクトリにある a.f90 を Reedbush 上のホームディレクトリに置く Ø ディレクトリごと置くには -r を指定 $ scp -r./samp tyyxxx@reedbush-u.cc.u-tokyo.ac.jp: Ø PCのカレントディレクトリにあるSAMPフォルダを その中身ごと Reedbush 上のホームディレクトリに置く

11 講習会 :MPI 基礎 25 Emacs の Tramp 機能 ( 必要な人のみ ) emacs が自分のパソコンに入っている人は Tramp 機能により 遠隔のファイルが操作できます Reedbush の秘密鍵を SSH に登録します emacs を立ち上げます ファイル検索モードにします ^x ^f (^ は control) Find file: の現在のパス名部分を消し 以下を入れます ( ただし t~ は自分のログイン ID にする ) Find file:/ssh:tyyxxx@reedbush-u.cc.u-tokyo.ac.jp: パスフレーズを入れると ローカルファイルのように Reedbush 上のファイルが編集できます

12 講習会 :MPI 基礎 26 Reedbush における注意 /home ファイルシステムは容量が小さく ログインに必要なファイルだけを置くための場所です /home に置いたファイルは計算ノードから参照できません ジョブの実行もできません 転送が終わったら /lustre ファイルシステムに移動 (mv) してください または 直接 /lustre ファイルシステムを指定して転送してください ホームディレクトリ : /home/gt00/t002xx cd コマンドで移動できます Lustre ディレクトリ : /lustre/gt00/t002xx cdw コマンドで移動できます

13 講習会 :MPI 基礎 27 UNIX 備忘録 (1/3) emacs の起動 : emacs 編集ファイル名 ^x ^s (^ は control) : テキストの保存 ^x ^c : 終了 ( ^z で終了すると スパコンの負荷が上がる 絶対にしないこと ) ^g : 訳がわからなくなったとき ^k : カーソルより行末まで消す 消した行は 一時的に記憶される ^y : ^k で消した行を 現在のカーソルの場所にコピーする ^s 文字列 : 文字列の箇所まで移動する ^M x goto-line : 指定した行まで移動する

14 講習会 :MPI 基礎 28 UNIX 備忘録 (2/3) rm ファイル名 : ファイル名のファイルを消す rm *~ : test.c~ などの ~ がついたバックアップファイルを消す 使う時は慎重に *~ の間に空白が入ってしまうと 全てが消えます ls : 現在いるフォルダの中身を見る cd フォルダ名 : フォルダに移動する cd.. : 一つ上のフォルダに移動 cd ~ : ホームディレクトリに行く 訳がわからなくなったとき cat ファイル名 : ファイル名の中身を見る make : 実行ファイルを作る (Makefile があるところでしか実行できない ) make clean : 実行ファイルを消す (clean が Makefile で定義されていないと実行できない )

15 講習会 :MPI 基礎 29 UNIX 備忘録 (3/3) less ファイル名 : ファイル名の中身を見る (cat では画面がいっぱいになってしまうとき ) スペースキー : 1 画面スクロール / : 文字列の箇所まで移動する q : 終了 ( 訳がわからなくなったとき )

16 講習会 :MPI 基礎 30 サンプルプログラムの実行 初めての並列プログラムの実行

17 講習会 :MPI 基礎 31 サンプルプログラム名 C 言語版 Fortran90 版共通ファイル : Samples-rb.tar tar で展開後 C 言語と Fortran90 言語のディレクトリが作られる C/ : C 言語用 F/ : Fortran90 言語用 上記のファイルが置いてある場所 /lustre/gt00/z30105 (/home でないので注意 )

18 講習会 :MPI 基礎 32 並列版 Hello プログラムをコンパイルしよう (1/2) 1. cdw コマンドを実行して Lustreファイルシステムに移動する 2. /lustre/gt00/z30105 にある Samples-rb.tar を自分のディレクトリにコピーする $ cp /lustre/gt00/z30105/samples-rb.tar./ 3. Samples-rb.tar を展開する $ tar xvf Samples-rb.tar 4. Samples フォルダに入る $ cd Samples 5. C 言語 : $ cd C Fortran90 言語 : $ cd F 6. Hello フォルダに入る $ cd Hello

19 講習会 :MPI 基礎 33 並列版 Hello プログラムをコンパイルしよう (2/2) 6. ピュア MPI 用の Makefile をコピーする $ cp Makefile_pure Makefile 7. make する $ make 8. 実行ファイル (hello) ができていることを確認する $ ls

20 講習会 :MPI 基礎 34 Reedbush-U スーパーコンピュータシステム でのジョブ実行形態 以下の 2 通りがあります インタラクティブジョブ実行 PC での実行のように コマンドを入力して実行する方法 スパコン環境では あまり一般的でない デバック用 大規模実行はできない Reedbush-U では 以下に限定 1 ノード (36 コア )(30 分まで ) 4 ノード (144 コア )(10 分まで ) バッチジョブ実行 バッチジョブシステムに処理を依頼して実行する方法 スパコン環境で一般的 大規模実行用 Reedbush-U では 最大 128 ノード (4,608 コア )(24 時間 ) 講習会アカウントではバッチジョブ実行のみ 最大 8 ノードまで

21 講習会 :MPI 基礎 35 インタラクティブ実行のやり方 コマンドラインで以下を入力 1 ノード実行用 $ qsub -I -q u-interactive -l select=1 -l walltime=01:00 -W group_list=gt00 4 ノード実行用 $ qsub -I -q u-interactive -l select=4 -l walltime=01:00 -W group_list=gt00 インタラクティブ用のノードがすべて使われている場合 資源が空くまで ログインできません 講習会アカウントでは使えません

22 講習会 :MPI 基礎 36 コンパイラの種類とインタラクティブ実行お よびバッチ実行 Reedbush-U では コンパイラはバッチ実行 インタラクティブ実行で共通に使えます 例 ) Intel コンパイラ C コンパイラ : icc, mpiicc (Intel MPI を使う場合 ) Fortran90 コンパイラ : ifort, mpiifort (Intel MPI を使う場合 )

23 講習会 :MPI 基礎 37 バッチ処理とは スパコン環境では 通常は インタラクティブ実行 ( コマンドラインで実行すること ) はできません ジョブはバッチ処理で実行します バッチキュー ジョブの依頼 バッチ処理システムがジョブを取り出す 実行 ユーザ スパコン

24 講習会 :MPI 基礎 38 バッチキューの設定のしかた バッチ処理は Altair 社のバッチシステム PBS Professional で管理されています 以下 主要コマンドを説明します ジョブの投入 : qsub < ジョブスクリプトファイル名 > 自分が投入したジョブの状況確認 : rbstat 投入ジョブの削除 : qdel < ジョブ ID> バッチキューの状態を見る : rbstat --rsc バッチキューの詳細構成を見る : rbstat --rsc -x 投げられているジョブ数を見る : rbstat -b 過去の投入履歴を見る : rbstat -H 同時に投入できる数 / 実行できる数を見る : rbstat --limit

25 講習会 :MPI 基礎 39 本お試し講習会でのキュー名 本演習中のキュー名 : u-tutorial 最大 10 分まで 最大ノード数は8ノード (288コア) まで 本演習時間以外 (24 時間 ) のキュー名 : u-lecture 利用条件は演習中のキュー名と同様

26 講習会 :MPI 基礎 40 rbstat --rsc の実行画面例 $ rbstat --rsc QUEUE STATUS NODE u-debug [ENABLE,START] 54 u-short [ENABLE,START] 16 u-regular [ENABLE,START] ---- u-small [ENABLE,START] u-medium [ENABLE,START] u-large [ENABLE,START] u-x-large [ENABLE,START] 288 u-interactive [ENABLE,START] ---- u-interactive_1 [ENABLE,START] u-interactive_4 [ENABLE,START] 54 u-lecture [ENABLE,START] 54 u-lecture8 [DISABLE,START] 54 u-tutorial [ENABLE,START] 54 使える キュー名 ( リソースグループ ) 現在使えるか ノードの利用可能数

27 講習会 :MPI 基礎 41 rbstat --rsc -x の実行画面例 $ rbstat --rsc -x QUEUE STATUS MIN_NODE MAX_NODE MAX_ELAPSE REMAIN_ELAPSE MEM(GB)/NODE PROJECT u-debug [ENABLE,START] :30:00 00:30:00 244GB pz0105,gcxx u-short [ENABLE,START] :00:00 02:00:00 244GB pz0105,gcxx u-regular [ENABLE,START] ---- u-small [ENABLE,START] :00:00 12:00:00 244GB gcxx,pz u-medium [ENABLE,START] :00:00 12:00:00 244GB gcxx ---- u-large [ENABLE,START] :00:00 12:00:00 244GB gcxx ---- u-x-large [ENABLE,START] :00:00 06:00:00 244GB gcxx u-interactive [ENABLE,START] ---- u-interactive_1 [ENABLE,START] :15:00 00:15:00 244GB pz0105,gcxx ---- u-interactive_4 [ENABLE,START] :05:00 00:05:00 244GB pz0105,gcxx u-lecture [ENABLE,START] :10:00 00:10:00 244GB gt00,gtyy u-lecture8 [DISABLE,START] :10:00 00:10:00 244GB gtyy u-tutorial [ENABLE,START] :10:00 00:10:00 244GB gt00 使えるキュー名 ( リソースグループ ) 現在使えるか ノードの実行情報 課金情報 ( 財布 ) 実習では 1 つのみ

28 講習会 :MPI 基礎 42 rbstat --rsc -b の実行画面例 $ rbstat --rsc b QUEUE STATUS TOTAL RUNNING QUEUED HOLD BEGUN WAIT EXIT TRANSIT NODE u-debug [ENABLE,START] u-short [ENABLE,START] u-regular [ENABLE,START] ---- u-small [ENABLE,START] u-medium [ENABLE,START] u-large [ENABLE,START] u-x-large [ENABLE,START] u-interactive [ENABLE,START] ---- u-interactive_1 [ENABLE,START] u-interactive_4 [ENABLE,START] u-lecture [ENABLE,START] u-lecture8 [DISABLE,START] u-tutorial [ENABLE,START] 使えるキュー名 ( リソースグループ ) 現在使えるか ジョブの総数 実行しているジョブの数 待たされているジョブの数 ノードの利用可能数

29 講習会 :MPI 基礎 43 JOB スクリプトサンプルの説明 ( ピュア MPI) (hello-pure.bash, C 言語 Fortran 言語共通 ) #!/bin/bash #PBS -q u-lecture #PBS -Wgroup_list=gt00 #PBS -l select=8:mpiprocs=36 #PBS -l walltime=00:01:00 cd $PBS_O_WORKDIR. /etc/profile.d/modules.sh mpirun./hello リソースグループ名 :u-lecture 利用グループ名 :gt00 利用ノード数 ノード内利用コア数 (MPI プロセス数 ) 実行時間制限 :1 分 MPI ジョブを 8*36 = 288 プロセスで実行する カレントディレクトリ設定 環境変数設定 ( 必ず入れておく )

30 ピュア MPI の実行状況 ( ノード内 ) 2017/3/6,7 講習会 :MPI 基礎 44 MPI プロセス 1 ソケットのみを図示 ( もう 1 ソケットある ) QPI x2 PCIe コア当たり L1 データ : 2KB, L2: 256KB, L3: 2.5MB( 共有 ) => L3 は全体で 45MB Core #0 L 1 L 2 L3 Core #5 L 1 L 2 L3 Core #9 L 1 L 2 L3 Core #14 L 1 L 2 L3 Core #1 Core #2 Core #3 L 1 L 1 L 1 L 2 L 2 L 2 L3 L3 L3 Core #6 Core #7 Core #8 L 1 L 1 L 1 L 2 L 2 L 2 L3 L3 L3 Core #10 Core #11 Core #12 L 1 L 1 L 1 L 2 L 2 L 2 L3 L3 L3 Core #15 Core #16 Core #17 L 1 L 1 L 1 L 2 L 2 L 2 L3 L3 L3 Core #4 L 1 L 2 L3 Core #13 L 1 L 2 L3 DDR4 DIMM Memory Memory Memory Memory 16GB 2 枚 16GB 2 枚 16GB 2 枚 16GB 2 枚ソケット当たりメモリ量 :16GB 8=128GB 76.8 GB/ 秒 =(8Byte 2400MHz 4 channel)

31 講習会 :MPI 基礎 45 並列版 Hello プログラムを実行しよう ( ピュア MPI) このサンプルの JOB スクリプトは hello-pure.bash です 配布のサンプルでは キュー名が ulecture になっています $ emacs hello-pure.bash で u-lecture u-tutorial に変更してください

32 講習会 :MPI 基礎 46 並列版 Hello プログラムを実行しよう ( ピュア MPI) 1. Hello フォルダ中で以下を実行する $ qsub hello-pure.bash 2. 自分の導入されたジョブを確認する $ rbstat 3. 実行が終了すると 以下のファイルが生成される hello-pure.bash.exxxxxx hello-pure.bash.oxxxxxx (XXXXXX は数字 ) 4. 上記の標準出力ファイルの中身を見てみる $ cat hello-pure.bash.oxxxxxx 5. Hello parallel world! が 36 プロセス *8 ノード =288 表示されていたら成功

33 講習会 :MPI 基礎 47 バッチジョブ実行による標準出力 標準エラー出力 バッチジョブの実行が終了すると 標準出力ファイルと標準エラー出力ファイルが ジョブ投入時のディレクトリに作成されます 標準出力ファイルにはジョブ実行中の標準出力 標準エラー出力ファイルにはジョブ実行中のエラーメッセージが出力されます ジョブ名.oXXXXX --- 標準出力ファイルジョブ名.eXXXXX --- 標準エラー出力ファイル (XXXXX はジョブ投入時に表示されるジョブのジョブ ID)

34 講習会 :MPI 基礎 48 並列版 Hello プログラムの説明 (C 言語 ) #include <stdio.h> #include <mpi.h> int main(int argc, char* argv[]) { int int myid, numprocs; ierr, rc; このプログラムは 全 PE で起動される MPI の初期化 ierr = MPI_Init(&argc, &argv); ierr = MPI_Comm_rank(MPI_COMM_WORLD, &myid); ierr = MPI_Comm_size(MPI_COMM_WORLD, &numprocs); 自分の ID 番号を取得 : 各 PE で値は異なる } printf("hello parallel world! Myid:%d n", myid); rc = MPI_Finalize(); exit(0); MPI の終了 全体のプロセッサ台数を取得 : 各 PE で値は同じ ( 演習環境では 288 もしくは 8)

35 講習会 :MPI 基礎 49 並列版 Hello プログラムの説明 (Fortran 言語 ) program main common /mpienv/myid,numprocs integer myid, numprocs integer ierr このプログラムは 全 PE で起動される MPI の初期化 call MPI_INIT(ierr) call MPI_COMM_RANK(MPI_COMM_WORLD, myid, ierr) call MPI_COMM_SIZE(MPI_COMM_WORLD, numprocs, ierr) 自分の ID 番号を取得 : 各 PE で値は異なる print *, "Hello parallel world! Myid:", myid call MPI_FINALIZE(ierr) stop end MPI の終了 全体のプロセッサ台数を取得 : 各 PE で値は同じ ( 演習環境では 288 もしくは 8)

36 講習会 :MPI 基礎 50 時間計測方法 (C 言語 ) double t0, t1, t2, t_w;.. ierr = MPI_Barrier(MPI_COMM_WORLD); t1 = MPI_Wtime(); バリア同期後時間を習得し保存 < ここに測定したいプログラムを書く > ierr = MPI_Barrier(MPI_COMM_WORLD); t2 = MPI_Wtime(); t0 = t2 - t1; ierr = MPI_Reduce(&t0, &t_w, 1, MPI_DOUBLE,MPI_MAX, 0, MPI_COMM_WORLD); 各プロセッサーで t0 の値は異なる この場合は 最も遅いものの値をプロセッサ 0 番が受け取る

37 講習会 :MPI 基礎 51 時間計測方法 (Fortran 言語 ) double precision t0, t1, t2, t_w double precision MPI_WTIME.. call MPI_BARRIER(MPI_COMM_WORLD, ierr) t1 = MPI_WTIME(ierr) バリア同期後時間を習得し保存 < ここに測定したいプログラムを書く > call MPI_BARRIER(MPI_COMM_WORLD, ierr) t2 = MPI_WTIME(ierr) t0 = t2 - t1 call MPI_REDUCE(t0, t_w, 1, & MPI_DOUBLE_PRECISION, & MPI_MAX, 0, MPI_COMM_WORLD, ierr) 各プロセッサーで t0 の値は異なる この場合は 最も遅いものの値をプロセッサ 0 番が受け取る

38 講習会 :MPI 基礎 52 MPI 実行時のリダイレクトについて Reedbush スーパーコンピュータシステムでは MPI 実行時の入出力のリダイレクトができます 例 )mpirun./a.out < in.txt > out.txt

39 講習会 :MPI 基礎 53 依存関係のあるジョブの投げ方 ( ステップジョブ チェーンジョブ ) あるジョブスクリプト go1.sh の後に go2.sh を投げたい さらに go2.sh の後に go3.sh を投げたい ということがある 以上を ステップジョブまたはチェーンジョブという Reedbush におけるステップジョブの投げ方 1. $qsub go1.sh reedbush-pbsadmin0 2. 上記のジョブ番号 を覚えておき 以下の入力をする $qsub -W depend=afterok:12345 go2.sh reedbush-pbsadmin0 3. 以下同様 $qsub -W depend=afterok:12346 go3.sh reedbush-pbsadmin0 afterok: 前のジョブが正常に終了したら実行する afternotok: 前のジョブが正常終了しなかった場合に実行する afterany: どのような状態でも実行する

40 講習会 :MPI 基礎 54 並列プログラミングの基礎 ( 座学 ) 東京大学情報基盤センター准教授塙敏博

41 講習会 :MPI 基礎 55 教科書 ( 演習書 ) スパコンプログラミング入門 - 並列処理と MPI の学習 - 片桐孝洋著 東大出版会 ISBN 発売日 :2013 年 3 月 12 日 判型 :A5, 200 頁 本書の特徴 C 言語で解説 C 言語 Fortran90 言語のサンプルプログラムが付属 数値アルゴリズムは 図でわかりやすく説明 本講義の内容を全てカバー 内容は初級 初めて並列数値計算を学ぶ人向けの入門書

42 講習会 :MPI 基礎 56 教科書 ( 演習書 ) 並列プログラミング入門 : サンプルプログラムで学ぶ OpenMP と OpenACC ( 仮題 ) 片桐孝洋著 東大出版会 ISBN-10: ISBN-13: 発売日 : 2015 年 5 月 25 日 本書の特徴 C 言語 Fortran90 言語で解説 C 言語 Fortran90 言語の複数のサンプルプログラムが入手可能 ( ダウンロード形式 ) 本講義の内容を全てカバー Windows PC 演習可能 (Cygwin 利用 ) スパコンでも演習可能 内容は初級 初めて並列プログラミングを学ぶ人向けの入門書

43 講習会 :MPI 基礎 57 参考書 スパコンを知る : その基礎から最新の動向まで 岩下武史 片桐孝洋 高橋大介著 東大出版会 ISBN-10: ISBN-13: 発売日 :2015 年 2 月 20 日 176 頁 本書の特徴 スパコンの解説書です 以下を分かりやすく解説します スパコンは何に使えるか スパコンはどんな仕組みで なぜ速く計算できるのか 最新技術 今後の課題と将来展望 など

44 講習会 :MPI 基礎 58 参考書 並列数値処理 - 高速化と性能向上のために - 金田康正東大教授理博編著 片桐孝洋東大特任准教授博士 ( 理学 ) 著 黒田久泰愛媛大准教授博士 ( 理学 ) 著 山本有作神戸大教授博士 ( 工学 ) 著 五百木伸洋 日立製作所著 コロナ社 発行年月日 :2010/04/30, 判型 : A5, ページ数 :272 頁 ISBN: , 定価 :3,990 円 ( 本体 3,800 円 + 税 5%) 本書の特徴 Fortran 言語で解説 数値アルゴリズムは 数式などで厳密に説明 本講義の内容に加えて 固有値問題の解法 疎行列反復解法 FFT ソート など 主要な数値計算アルゴリズムをカバー 内容は中級 ~ 上級 専門として並列数値計算を学びたい人向き

45 講習会 :MPI 基礎 59 本講義の流れ 1. 東大スーパーコンピュータの概略 2. 並列プログラミングの基礎 3. 性能評価指標 4. 基礎的なMPI 関数 5. データ分散方式 6. ベクトルどうしの演算 7. ベクトル- 行列積 8. リダクション演算

46 講習会 :MPI 基礎 60 東大スーパーコンピュータ の概略

47 講習会 :MPI 基礎 61 東京大学情報基盤センター スパコン (1/3) Fujitsu PRIMEHPC FX10 (FX10 スーパーコンピュータシステム ) Total Peak performance : 1.13 PFLOPS Total number of nodes : 4,800 Total memory : 150TB Peak performance per node : GFLOPS Main memory per node : 32 GB Disk capacity : 2.1 PB SPARC64 IXfx 1.848GHz 2012 年 7 月 ~2018 年 3 月 ( 予定 ) Oakbridge-FX : 長時間ジョブ用の FX10 ノード数 :24~576 制限時間 : 最大 168 時間 (1 週間 ) 61

48 講習会 :MPI 基礎 62 東京大学情報基盤センター スパコン (2/3-1) Reedbush-U (SGI Rackable クラスタシステム ) Total Peak performance : 508 TFLOPS Total number of nodes : 420 Total memory : 105 TB Peak performance per node : GFLOPS Main memory per node : 256 GB Disk capacity : 5.04 PB File Cache system (SSD) : 230 TB Intel Xeon E5-2695v4 2.1GHz 18 core x2 socket 2016 年 7 月 1 日試験運転開始 2016 年 9 月 1 日正式運用開始 62

49 講習会 :MPI 基礎 63 東京大学情報基盤センター スパコン (2/3-2) Reedbush-H (SGI Rackable クラスタシステム ) Total Peak performance : 145 TFLOPS TFLOPS Total number of nodes : 120 Total memory : 30 TB + 8 TB Peak performance per node : GFLOPS Main memory per node TFLOPS : 256 GB + 32 GB Disk capacity (shared w/ U) : 5.04 PB File Cache system (SSD, (shared w/ U) : 230 TB Intel Xeon E5-2695v4 2.1GHz 18 core x2 socket + NVIDIA Tesla P100 with NVLink x 年 3 月 1 日試験運転開始 2017 年 4 月 1 日正式運用開始 ( 予定 ) 63

50 講習会 :MPI 基礎 東京大学情報基盤センター スパコン (3/3) Oakforest-PACS (Fujitsu PRIMERGY CX600) 筑波大学計算科学研究センターと共同運用 Total Peak performance : 25 PFLOPS Total number of nodes : 8,208 Total memory : TB Peak performance per node : TFLOPS Main memory per node : 96 GB (DDR4) + 16 GB(MCDRAM) Disk capacity : 26.2 PB File Cache system (SSD) : 960 TB Intel Xeon Phi GHz 68 core x1 socket 2016 年 12 月 1 日試験運転開始 2017 年 4 月 3 日正式運用開始 ( 予定 )

51 講習会 :MPI 基礎 65 Core #0 Core #1 FX10 計算ノードの構成 Core #2 Core #3 各 CPU の内部構成 Core #12 1 ソケットのみ Core #13 Core #14 L1 L1 L1 L1 : L1データキャッシュ32KB L1 L1 L1 L1 20GB/ 秒 Core #15 TOFU Network ICC L2 (16 コアで共有 12MB) 85GB/ 秒 =(8Byte 1333MHz 8 channel) Memory Memory Memory Memory DDR3 DIMM 4GB 2 枚 4GB 2 枚 4GB 2 枚 4GB 2 枚 ノード内合計メモリ量 :8GB 4=32GB

52 講習会 :MPI 基礎 FX10 の通信網 (1TOFU 単位 ) 1TOFU 単位計算ノード内 ノード ノード ノード ノード ノード ノード ノード ノード ノード 1TOFU 単位間の結合用 6 本それぞれ 5GB/ 秒 ( 双方向 ) ノード ノード ノード ノード 66

53 講習会 :MPI 基礎 67 FX10 の通信網 (1TOFU 単位間の結合 ) 3 次元接続 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 1 TOFU 単位単位 1 1 TOFU 単位単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 1 TOFU 単位単位 1 1 TOFU 単位単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 1 TOFU 単位 l ユーザから見ると X 軸 Y 軸 Z 軸について 奥の1TOFUと 手前の 1TOFUは 繋がってみえます (3 次元トーラス接続 ) l ただし物理結線では l X 軸はトーラス l l Y 軸はメッシュ Z 軸はメッシュまたは トーラス になっています

54 講習会 :MPI 基礎 68 Reedbush-U ノードのブロック図 メモリのうち 近い メモリと 遠い メモリがある => NUMA (Non-Uniform Memory Access) (FX10 はフラット ) メモリ 128GB DDR4 DDR4 DDR4 DDR4 76.8GB/s Intel Xeon E v4 (Broadwell- EP) G3 x GB/s 76.8GB/s QPI QPI 76.8GB/s Intel Xeon E v4 (Broadwell- EP) DDR4 DDR4 DDR4 DDR4 76.8GB/s メモリ 128GB IB EDR HCA

55 講習会 :MPI 基礎 69 Broadwell-EP の構成 1 ソケットのみを図示 QPI x2 PCIe コア当たり L1 データ : 2KB, L2: 256KB, L3: 2.5MB( 共有 ) => L3 は全体で 45MB Core #0 L 1 L 2 L3 Core #5 L 1 L 2 L3 Core #9 L 1 L 2 L3 Core #14 L 1 L 2 L3 Core #1 L 1 L 2 L3 Core #6 L 1 L 2 L3 Core #10 L 1 L 2 L3 Core #15 L 1 L 2 L3 Core #2 L 1 L 2 L3 Core #7 L 1 L 2 L3 Core #11 L 1 L 2 L3 Core #16 L 1 L 2 L3 Core #3 L 1 L 2 L3 Core #8 L 1 L 2 L3 Core #12 L 1 L 2 L3 Core #17 L 1 L 2 L3 Core #4 L 1 L 2 L3 Core #13 L 1 L 2 L3 DDR4 DIMM Memory Memory Memory Memory 16GB 2 枚 16GB 2 枚 16GB 2 枚 16GB 2 枚 ソケット当たりメモリ量 :16GB 8=128GB 76.8 GB/ 秒 =(8Byte 2400MHz 4 channel)

56 講習会 :MPI 基礎 70 Reedbush-U の通信網 フルバイセクションバンド幅を持つ Fat Tree 網 どのように計算ノードを選んでも互いに無衝突で通信が可能 Mellanox InfiniBand EDR 4x CS7500: 648 ポート 内部は 36 ポートスイッチ (SB7800) を (36+18) 台組み合わせたものと等価 Uplink: 18 Downlink: ポート Director スイッチ 1 台の中身 ポート Spine スイッチ 18 台 36 ポート Leaf スイッチ 36 台

57 講習会 :MPI 基礎 71 メモリ 128G B DDR4 DDR4 DDR4 DDR4 76.8GB/s Reedbush-H ノードのブロック図 Intel Xeon E v4 (Broadwell- EP) G3 x GB/s QPI QPI 76.8GB/s 15.7 GB/s 15.7 GB/s Intel Xeon E v4 (Broadwell- EP) G3 x16 DDR4 DDR4 DDR4 DDR4 76.8GB/s メモリ 128G B PCIe sw PCIe sw IB FDR HCA G3 x16 NVIDIA Pascal 20 GB/s NVLinK NVLinK 20 GB/s G3 x16 NVIDIA Pascal IB FDR HCA EDR switch EDR

58 講習会 :MPI 基礎 72 Oakforest-PACS 計算ノード Intel Xeon Phi (Knights Landing) 1 ノード 1 ソケット MCDRAM: オンパッケージの高バンド幅メモリ 16GB + DDR4 メモリ ソケット当たりメモリ量 :16GB 6=96GB MCDRAM: 490GB/ 秒以上 ( 実測 ) DDR4: GB/ 秒 =(8Byte 2400MHz 6 channel) 2 VPU 2 VPU Core 1MB L2 Core HotChips27 Knights Landing Overview 3 D D R 4 C H A N N E L S MCDRAM MCDRAM MCDRAM MCDRAM EDC DDR MC EDC Tile 2 x16 1 x4 PCIe Gen 3 36 Tiles connected by 2D Mesh Interconnect Package X4 DMI KNL スライドより D M I EDC EDC DDR MC EDC EDC misc EDC EDC MCDRAM MCDRAM MCDRAM MCDRAM 3 D D R 4 C H A N N E L S

59 講習会 :MPI 基礎 73 Oakforest-PACS: Intel Omni-Path Architecture によるフルバイセクションバンド幅 Fat-tree 網 768 port Director Switch 12 台 (Source by Intel) Uplink: 24 2 Downlink: port Edge Switch 362 台 計算ノードラックに分散 2 コストはかかるがフルバイセクションバンド幅を維持 システム全系使用時にも高い並列性能を実現 柔軟な運用 : ジョブに対する計算ノード割り当ての自由度が高い

60 講習会 :MPI 基礎 74 東大情報基盤センター Oakforest-PACS スーパーコンピュータシステムの料金表 (2017 年 4 月 1 日 ) パーソナルコース ( 年間 ) コース 1: 100,000 円 : 8 ノード ( 基準 ) 最大 16 ノードまで コース 2: 200,000 円 : 16 ノード ( 基準 ) 最大 64 ノードまで グループコース 400,000 円 ( 企業 480,000 円 ) : 1 口 8 ノード ( 基準 ) 最大 128 ノードまで 以上は トークン制 で運営 申し込みノード数 360 日 24 時間の トークン が与えられる 基準ノードまでは トークン消費係数が 1.0 基準ノードを超えると 超えた分は 消費係数が 2.0 になる 大学等のユーザは FX10 Reedbush との相互トークン移行も可能

61 講習会 :MPI 基礎 75 東大情報基盤センター Reedbush スーパーコン ピュータシステムの料金表 (2017 年 4 月 1 日 ) パーソナルコース ( 年間 ) 150,000 円 : RB-U: 4 ノード ( 基準 ) 最大 16 ノードまで RB-H: 1 ノード ( 基準 ) 最大 2 ノードまで グループコース 300,000 円 : 1 口 4 ノード ( 基準 ) 最大 128 ノードまで RB-H: 1 ノード ( 基準 ) 最大 32 ノードまで ( トークン係数は U の 2.5 倍 ) RB-U のみ企業 360,000 円 : 1 口 4 ノード ( 基準 ) 最大 128 ノードまで RB-H のみ企業 216,000 円 : 1 口 1 ノード ( 基準 ) 最大 32 ノードまで 以上は トークン制 で運営 申し込みノード数 360 日 24 時間の トークン が与えられる 基準ノードまでは トークン消費係数が 1.0 基準ノードを超えると 超えた分は 消費係数が 2.0 になる 大学等のユーザは FX10, Oakforest-PACS との相互トークン移行も可能 ノード固定もあり

62 講習会 :MPI 基礎 76 東大情報基盤センター FX10 スーパーコン ピュータシステムの料金表 (2017 年 4 月 1 日 ) パーソナルコース ( 年間 ) コース 1: 90,000 円 : 12 ノード ( 基準 ) 最大 24 ノードまで コース 2: 180,000 円 : 24 ノード ( 基準 ) 最大 96 ノードまで グループコース 360,000 円 ( 企業 432,000 円 ) :1 口 12 ノード 最大 1440 ノードまで 以上は トークン制 で運営 申し込みノード数 360 日 24 時間の トークン が与えられる 基準ノードまでは トークン消費係数が 1.0 基準ノードを超えると 超えた分は 消費係数が 2.0 になる 大学等のユーザは Reedbush, Oakforest-PACS との相互トークン移行も可能

63 講習会 :MPI 基礎 77 スーパーコンピュータシステムの詳細 以下のページをご参照ください 利用申請方法 運営体系 料金体系 利用の手引などがご覧になれます

64 講習会 :MPI 基礎 78 並列プログラミングの基礎

65 講習会 :MPI 基礎 79 並列プログラミングとは何か? 逐次実行のプログラム ( 実行時間 T ) を p 台の計算機を使って T / p にすること T T / p 素人考えでは自明 実際は できるかどうかは 対象処理の内容 ( アルゴリズム ) で大きく難しさが違う アルゴリズム上 絶対に並列化できない部分の存在 通信のためのオーバヘッドの存在 通信立ち上がり時間 データ転送時間

66 講習会 :MPI 基礎 80 並列と並行 並列 (Parallel) 物理的に並列 ( 時間的に独立 ) ある時間に実行されるものは多数 T 並行 (Concurrent) 論理的に並列 ( 時間的に依存 ) ある時間に実行されるものは1つ (=1プロセッサで実行) T 時分割多重 疑似並列 OS によるプロセス実行スケジューリング ( ラウンドロビン方式 )

67 講習会 :MPI 基礎 81 並列計算機の分類 Michael J. Flynn 教授 ( スタンフォード大 ) の分類 (196 6) 単一命令 単一データ流 (SISD, Single Instruction Single Data Stream) 単一命令 複数データ流 (SIMD, Single Instruction Multiple Data Stream) 複数命令 単一データ流 (MISD, Multiple Instruction Single Data Stream) 複数命令 複数データ流 (MIMD, Multiple Instruction Multiple Data Stream)

68 並列計算機のメモリ型による分類 A) メモリアドレスを共有している : 互いのメモリがアクセス可能 1. 共有メモリ型 (SMP: Symmetric Multiprocessor, UMA: Uniform Memory Access) 講習会 :MPI 基礎 分散共有メモリ型 (DSM: Distributed Shared Memory) 共有 非対称メモリ型 (ccnuma Cache Coherent Non-Uniform Memory Access)

69 講習会 :MPI 基礎 83 並列計算機のメモリ型による分類 B) メモリアドレスは独立 : 互いのメモリはアクセス不可 3. 分散メモリ型 ( メッセージパッシング )

70 講習会 :MPI 基礎 84 並列プログラミングのモデル 実際の並列プログラムの挙動はMIMD アルゴリズムを考えるときは<SIMDが基本 > 複雑な挙動は人間には想定し難い

71 講習会 :MPI 基礎 85 並列プログラミングのモデル 多くの MIMD 上での並列プログラミングのモデル 1. SPMD(Single Program Multiple Data) 1 つの共通のプログラムが 並列処理開始時に 全プロセッサ上で起動する MPI( バージョン 1) のモデル 2. Master / Worker(Master / Slave) 1 つのプロセス (Master) が 複数のプロセス (Worker) を管理 ( 生成 消去 ) する

72 講習会 :MPI 基礎 86 並列プログラムの種類 マルチプロセス MPI (Message Passing Interface) HPF (High Performance Fortran) 自動並列化 Fortran コンパイラ ユーザがデータ分割方法を明示的に記述 マルチスレッド Pthread (POSIX スレッド ) Solaris Thread (Sun Solaris OS 用 ) NT thread (Windows NT 系 Windows95 以降 ) スレッドの Fork( 分離 ) と Join( 融合 ) を明示的に記述 Java 言語仕様としてスレッドを規定 OpenMP ユーザが並列化指示行を記述 プロセスとスレッドの違い メモリを意識するかどうかの違い 別メモリは プロセス 同一メモリは スレッド マルチプロセスとマルチスレッドは共存可能 ハイブリッド MPI/OpenMP 実行

73 講習会 :MPI 基礎 87 並列処理の実行形態 (1) データ並列 データを分割することで並列化する データの操作 (= 演算 ) は同一となる データ並列の例 : 行列 - 行列積 SIMD の考え方と同じ æ1 ç ç4 ç è7 並列化 CPU0 CPU1 CPU2 æ1 ç ç4 ç è ö 6 9 ø 3ö 6 9 ø æ9 ç ç6 ç è3 æ9 ç ç6 ç è ö 4 1 ø 8 7ö ø = 全 CPU で共有 æ1*9 + 2*6 + 3*3 1*8+ 2*5 + 3*2 1*7 + 2*4 + 3*1ö ç ç4*9 + 5*6 + 6*3 4*8 + 5*5 + 6*2 4*7 + 5*4 + 6*1 ç è7*9 + 8*6 + 9*3 7*8 + 8*5 + 9*2 7*7 + 8*4 + 9*1ø æ1*9 + 2*6 + 3*3 1*8+ 2*5 + 3*2 1*7 + 2*4 + 3*1ö ç = ç4*9 + 5*6 + 6*3 4*8 + 5*5 + 6*2 4*7 + 5*4 + 6*1 ç è7*9 + 8*6 + 9*3 7*8 + 8*5 + 9*2 7*7 + 8*4 + 9*1ø 並列に計算 : 初期データは異なるが演算は同一

74 講習会 :MPI 基礎 88 並列処理の実行形態 (2) タスク並列 タスク ( ジョブ ) を分割することで並列化する データの操作 (= 演算 ) は異なるかもしれない タスク並列の例 : カレーを作る 仕事 1: 野菜を切る 仕事 2: 肉を切る 仕事 3: 水を沸騰させる 仕事 4: 野菜 肉を入れて煮込む 仕事 5: カレールゥを入れる 並列化 仕事 1 仕事 2 仕事 4 仕事 5 仕事 3 時間

75 講習会 :MPI 基礎 89 MPI の特徴 メッセージパッシング用のライブラリ規格の 1 つ メッセージパッシングのモデルである コンパイラの規格 特定のソフトウエアやライブラリを指すものではない! 分散メモリ型並列計算機で並列実行に向く 大規模計算が可能 1 プロセッサにおけるメモリサイズやファイルサイズの制約を打破可能 プロセッサ台数の多い並列システム (Massively Parallel Processing (MPP) システム ) を用いる実行に向く 1 プロセッサ換算で膨大な実行時間の計算を 短時間で処理可能 移植が容易 API(Application Programming Interface) の標準化 スケーラビリティ 性能が高い 通信処理をユーザが記述することによるアルゴリズムの最適化が可能 プログラミングが難しい ( 敷居が高い )

76 講習会 :MPI 基礎 90 MPI の経緯 ( これまで ) MPI フォーラム ( が仕様策定 1994 年 5 月 1.0 版 (MPI-1) 1995 年 6 月 1.1 版 1997 年 7 月 1.2 版 および 2.0 版 (MPI-2) 2008 年 5 月 1.3 版 2008 年 6 月 2.1 版 2009 年 9 月 2.2 版 日本語版 MPI-2 では 以下を強化 : 並列 I/O C++ Fortran 90 用インターフェース 動的プロセス生成 / 消滅 主に 並列探索処理などの用途

77 講習会 :MPI 基礎 91 MPI の経緯 MPI-3.1 MPI 年 9 月 MPI 年 6 月 以下のページで現状 ドキュメントを公開中 注目すべき機能 ノン ブロッキング集団通信機能 (MPI_IALLREDUCE など ) 高性能な片方向通信 (RMA Remote Memory Access) Fortran2008 対応 など

78 講習会 :MPI 基礎 92 MPI の経緯 MPI-4.0 策定中 以下のページで経緯 ドキュメントを公開 検討されている機能 ハイブリッドプログラミングへの対応 MPI アプリケーションの耐故障性 (Fault Tolerance, FT) いくつかのアイデアを検討中 Active Messages ( メッセージ通信のプロトコル ) 計算と通信のオーバラップ 最低限の同期を用いた非同期通信 低いオーバーヘッド パイプライン転送 バッファリングなしで インタラプトハンドラで動く Stream Messaging 新プロファイル インターフェース

79 講習会 :MPI 基礎 93 MPI の実装 MPICH( エム ピッチ ) 米国アルゴンヌ国立研究所が開発 MVAPICH ( エムヴァピッチ ) 米国オハイオ州立大学で開発 MPICH をベース InfiniBand 向けの優れた実装 OpenMPI オープンソース ベンダ MPI 大抵 上のどれかがベースになっている例 : 富士通 京 FX10 用の MPI: Open-MPI ベース Intel MPI: MPICH MVAPICH ベース 注意点 : メーカ独自機能拡張がなされていることがある

80 講習会 :MPI 基礎 94 MPI による通信 郵便物の郵送に同じ 郵送に必要な情報 : 1. 自分の住所 送り先の住所 2. 中に入っているものはどこにあるか 3. 中に入っているものの分類 4. 中に入っているものの量 5. ( 荷物を複数同時に送る場合の ) 認識方法 ( タグ ) MPIでは : 1. 自分の認識 ID および 送り先の認識 ID 2. データ格納先のアドレス 3. データ型 4. データ量 5. タグ番号

81 講習会 :MPI 基礎 95 MPI 関数 システム関数 MPI_Init; MPI_Comm_rank; MPI_Comm_size; MPI_Finalize; 1 対 1 通信関数 ブロッキング型 MPI_Send; MPI_Recv; ノンブロッキング型 MPI_Isend; MPI_Irecv; 1 対全通信関数 MPI_Bcast 集団通信関数 MPI_Reduce; MPI_Allreduce; MPI_Barrier; 時間計測関数 MPI_Wtime

82 講習会 :MPI 基礎 96 コミュニケータ MPI_COMM_WORLD は コミュニケータとよばれる概念を保存する変数 コミュニケータは 操作を行う対象のプロセッサ群を定める 初期状態では 0 番 ~numprocs 1 番までのプロセッサが 1 つのコミュニケータに割り当てられる この名前が MPI_COMM_WORLD プロセッサ群を分割したい場合 MPI_Comm_split 関数を利用 メッセージを 一部のプロセッサ群に放送するときに利用 マルチキャスト で利用

83 講習会 :MPI 基礎 97 性能評価指標 並列化の尺度

84 講習会 :MPI 基礎 98 性能評価指標 - 台数効果 台数効果 式 : T S : 逐次の実行時間 :P 台での実行時間 P 台用いて P 台用いて のとき 理想的な (ideal) 速度向上 のとき スーパリニア スピードアップ 主な原因は 並列化により データアクセスが局所化されて キャッシュヒット率が向上することによる高速化 並列化効率 式 : 飽和性能 速度向上の限界 Saturation さちる S P = TS / TP (0 S p) S P = P S P > P T P E P = SP / P 100 (0 E p) [%] P

85 講習会 :MPI 基礎 99 アムダールの法則 逐次実行時間を K とする そのうち 並列化ができる割合を α とする このとき 台数効果は以下のようになる S P = K /( Ka / P + K(1 -a)) = 1/( a / P + (1 -a)) = 1/( a(1/ P -1) + 1) 上記の式から たとえ無限大の数のプロセッサを使っても (P ) 台数効果は 高々 1/(1-α) である ( アムダールの法則 ) 全体の 90% が並列化できたとしても 無限大の数のプロセッサをつかっても 1/(1-0.9) = 10 倍にしかならない! 高性能を達成するためには 少しでも並列化効率を上げる実装をすることがとても重要である

86 講習会 :MPI 基礎 100 アムダールの法則の直観例 逐次実行 並列化できない部分 (1 ブロック ) 並列化できる部分 (8 ブロック ) =88.8% が並列化可能 並列実行 (4 並列 ) 9/3=3 倍 並列実行 (8 並列 ) 9/2=4.5 倍 6 倍

87 講習会 :MPI 基礎 101 略語と MPI 用語 MPI は プロセス 間の通信を行います プロセスは ( 普通は ) プロセッサ ( もしくは コア ) に一対一で割り当てられます 今後 MPI プロセス と書くのは長いので ここでは PE (Processer Elements の略 ) と書きます ただし用語として PE は現在はあまり使われていません ランク (Rank) 各 MPI プロセス の 識別番号 のこと 通常 MPI では MPI_Comm_rank 関数で設定される変数 ( サンプルプログラムでは myid) に 0~ 全 PE 数 -1 の数値が入る 世の中の全 MPI プロセス数を知るには MPI_Comm_size 関数を使う ( サンプルプログラムでは numprocs に この数値が入る )

88 講習会 :MPI 基礎 102 基本的な MPI 関数 送信 受信のためのインタフェース

89 講習会 :MPI 基礎 103 C 言語インターフェースと Fortran インターフェースの違い C 版は 整数変数 ierr が戻り値 ierr = MPI_Xxxx(.); Fortran 版は 最後に整数変数 ierr が引数 call MPI_XXXX(., ierr) システム用配列の確保の仕方 C 言語 MPI_Status istatus; Fortran 言語 integer istatus(mpi_status_size)

90 講習会 :MPI 基礎 104 C 言語インターフェースと Fortran インターフェースの違い MPI における データ型の指定 C 言語 MPI_CHAR ( 文字型 ) MPI_INT ( 整数型 ) MPI_FLOAT ( 実数型 ) MPI_DOUBLE( 倍精度実数型 ) Fortran 言語 MPI_CHARACTER ( 文字型 ) MPI_INTEGER ( 整数型 ) MPI_REAL ( 実数型 ) MPI_DOUBLE_PRECISION( 倍精度実数型 ) MPI_COMPLEX( 複素数型 ) 以降は C 言語インタフェースで説明する

91 講習会 :MPI 基礎 105 基礎的な MPI 関数 MPI_Recv (1/2) ierr = MPI_Recv(recvbuf, icount, idatatype, isource, itag, icomm, istatus); recvbuf : 受信領域の先頭番地を指定する icount : 整数型 受信領域のデータ要素数を指定する idatatype : 整数型 受信領域のデータの型を指定する MPI_CHAR ( 文字型 ) MPI_INT ( 整数型 ) MPI_FLOAT ( 実数型 ) MPI_DOUBLE( 倍精度実数型 ) isource : 整数型 受信したいメッセージを送信する PE のランクを指定する 任意の PE から受信したいときは MPI_ANY_SOURCE を指定する

92 講習会 :MPI 基礎 106 基礎的な MPI 関数 MPI_Recv (2/2) itag : 整数型 受信したいメッセージに付いているタグの値を指定 任意のタグ値のメッセージを受信したいときは MPI_ANY_TAG を指定 icomm : 整数型 PE 集団を認識する番号であるコミュニケータを指定 通常では MPI_COMM_WORLD を指定すればよい istatus : MPI_Status 型 ( 整数型の配列 ) 受信状況に関する情報が入る かならず専用の型宣言をした配列を確保すること 要素数が MPI_STATUS_SIZE の整数配列が宣言される 受信したメッセージの送信元のランクが istatus[mpi_source] タグが istatus[mpi_tag] に代入される C 言語 : MPI_Status istatus; Fortran 言語 : integer istatus(mpi_status_size) ierr( 戻り値 ) : 整数型 エラーコードが入る

93 講習会 :MPI 基礎 107 基礎的な MPI 関数 MPI_Send ierr = MPI_Send(sendbuf, icount, idatatype, idest, itag, icomm); sendbuf : 送信領域の先頭番地を指定 icount : 整数型 送信領域のデータ要素数を指定 idatatype : 整数型 送信領域のデータの型を指定 idest : 整数型 送信したいPEのicomm 内でのランクを指定 itag : 整数型 受信したいメッセージに付けられたタグの値を指定 icomm : 整数型 プロセッサー集団を認識する番号であるコミュニケータを指定 ierr ( 戻り値 ) : 整数型 エラーコードが入る

94 講習会 :MPI 基礎 108 Send-Recv の概念 (1 対 1 通信 ) PE0 PE1 PE2 PE3 MPI_Send 完了までプログラム実行中断! MPI_Recv 再開

95 講習会 :MPI 基礎 109 基礎的な MPI 関数 MPI_Bcast ierr = MPI_Bcast(sendbuf, icount, idatatype, iroot, icomm); sendbuf : 送信および受信領域の先頭番地を指定する icount : 整数型 送信領域のデータ要素数を指定する idatatype : 整数型 送信領域のデータの型を指定する iroot : 整数型 送信したいメッセージがある PE の番号を指定する 全 PE で同じ値を指定する必要がある icomm : 整数型 PE 集団を認識する番号であるコミュニケータを指定する ierr ( 戻り値 ) : 整数型 エラーコードが入る

96 講習会 :MPI 基礎 110 MPI_Bcast の概念 ( 集団通信 ) PE0 PE1 PE2 PE3 MPI_Bcast() MPI_Bcast() MPI_Bcast() MPI_Bcast() iroot 全 PE が同じように関数を呼ぶこと!!

97 講習会 :MPI 基礎 111 基本演算 逐次処理では データ構造 が重要 並列処理においては データ分散方法 が重要になる! 1. 各 PE の 演算負荷 を均等にする ロード バランシング : 並列処理の基本操作の一つ 粒度調整 2. 各 PE の 利用メモリ量 を均等にする 3. 演算に伴う通信時間を短縮する 4. 各 PE の データ アクセスパターン を高速な方式にする (= 逐次処理におけるデータ構造と同じ ) 行列データの分散方法 < 次元レベル >: 1 次元分散方式 2 次元分散方式 < 分割レベル >: ブロック分割方式 サイクリック ( 循環 ) 分割方式

98 講習会 :MPI 基礎 次元分散 N/4 行 N/4 行 N/4 行 N/4 行 1 行 PE=0 PE=1 PE=2 PE=3 N 列 ( 行方向 ) ブロック分割方式 (Block, *) 分散方式 ( 行方向 ) サイクリック分割方式 (Cyclic, *) 分散方式 2 行 ( 行方向 ) ブロック サイクリック分割方式 (Cyclic(2), *) 分散方式 この例の 2 : < ブロック幅 > とよぶ

99 講習会 :MPI 基礎 113 N/2 N/2 2 次元分散 N/2 N/2 PE=0 PE=2 PE=1 PE= ブロック ブロック分割方式 (Block, Block) 分散方式 二次元ブロック サイクリック分割方式 (Cyclic(2), Cyclic(2)) 分散方式 サイクリック サイクリック分割方式 (Cyclic, Cyclic) 分散方式

100 講習会 :MPI 基礎 114 ベクトルどうしの演算 以下の演算 z = a x + y ここで α はスカラ z x y はベクトル どのようなデータ分散方式でも並列処理が可能 ただし スカラ α は全 PE で所有する ベクトルは O(n) のメモリ領域が必要なのに対し スカラは O(1) のメモリ領域で大丈夫 スカラメモリ領域は無視可能 計算量 :O(N/P) あまり面白くない = + z α x y

101 講習会 :MPI 基礎 115 行列とベクトルの積 < 行方式 > と < 列方式 > がある <データ分散方式 >と< 方式 > 組のみ合わせがあり 少し面白い = = 1 2 for(i=0;i<n;i++){ y[i]=0.0; for(j=0;j<n;j++){ y[i] += a[i][j]*x[j]; } } < 行方式 >: 自然な実装 C 言語向き for(j=0; j<n; j++) y[j]=0.0; for(j=0; j<n; j++) { for (i=0; i<n; i++) { y[i] += a[i][j]*x[j]; } } < 列方式 >: Fortran 言語向き

102 行列とベクトルの積 < 行方式の場合 > < 行方向分散方式 > : 行方式に向く分散方式 PE=0 PE=1 PE=2 PE=3 講習会 :MPI 基礎 116 = PE=0 PE=1 PE=2 PE=3 右辺ベクトルを MPI_Allgather 関数を利用し 全 PE で所有する < 列方向分散方式 > : ベクトルの要素すべてがほしいときに向く 各 PE 内で行列ベクトル積を行う = 各 PE 内で行列 - ベクトル積を行う MPI_Reduce 関数で総和を求める ( ある 1PE にベクトルすべてが集まる )

103 行列とベクトルの積 < 列方式の場合 > < 行方向分散方式 > : 無駄が多く使われない PE=0 PE=1 PE=2 PE=3 右辺ベクトルを MPI_Allgather 関数を利用して 全 PE で所有する < 列方向分散方式 > : 列方式に向く分散方式 講習会 :MPI 基礎 117 = = PE=0 PE=1 PE=2 PE=3 結果を MPI_Reduce 関数により総和を求める = 各 PE 内で行列 - ベクトル積を行う MPI_Reduce 関数で総和を求める ( ある 1PE にベクトルすべてが集まる )

104 講習会 :MPI 基礎 118 リダクション演算 < 操作 > によって < 次元 > を減少 ( リダクション ) させる処理 例 : 内積演算ベクトル (n 次元空間 ) スカラ (1 次元空間 ) リダクション演算は 通信と計算を必要とする 集団通信演算 (collective communication operation) と呼ばれる 演算結果の持ち方の違いで 2 種のインタフェースが存在する

105 講習会 :MPI 基礎 119 リダクション演算 演算結果に対する所有 PE の違い MPI_Reduce 関数 リダクション演算の結果を ある一つの PE に所有させる PE0 PE1 PE2 操作 PE0 MPI_Allreduce 関数 リダクション演算の結果を 全ての PE に所有させる PE0 操作 PE0 PE1 PE2 PE1 PE2

106 講習会 :MPI 基礎 120 基礎的な MPI 関数 MPI_Reduce ierr = MPI_Reduce(sendbuf, recvbuf, icount, idatatype, iop, iroot, icomm); sendbuf : 送信領域の先頭番地を指定する recvbuf : 受信領域の先頭番地を指定する iroot で指定した PE のみで書き込みがなされる 送信領域と受信領域は 同一であってはならない すなわち 異なる配列を確保しなくてはならない icount : 整数型 送信領域のデータ要素数を指定する idatatype : 整数型 送信領域のデータの型を指定する (Fortran)< 最小 / 最大値と位置 > を返す演算を指定する場合は MPI_2INTEGER( 整数型 ) MPI_2REAL ( 単精度型 ) MPI_2DOUBLE_PRECISION( 倍精度型 ) を指定する

107 講習会 :MPI 基礎 121 基礎的な MPI 関数 MPI_Reduce iop : 整数型 演算の種類を指定する MPI_SUM ( 総和 ) MPI_PROD ( 積 ) MPI_MAX ( 最大 ) MPI_MIN ( 最小 ) MPI_MAXLOC ( 最大とその位置 ) MPI_MINLOC ( 最小とその位置 ) など iroot : 整数型 結果を受け取る PE の icomm 内でのランクを指定する 全ての icomm 内の PE で同じ値を指定する必要がある icomm : 整数型 PE 集団を認識する番号であるコミュニケータを指定する ierr : 整数型 エラーコードが入る

108 講習会 :MPI 基礎 122 MPI_Reduce の概念 ( 集団通信 ) PE0 PE1 PE2 PE3 MPI_Reduce() MPI_Reduce() MPI_Reduce() MPI_Reduce() iroot データ1 データ2 データ3 データ4 iop( 指定された演算 )

109 講習会 :MPI 基礎 123 MPI_Reduce による 2 リスト処理例 (MPI_2DOUBLE_PRECISION と MPI_MAXLOC) PE0 PE1 PE2 PE3 MPI_Reduce() MPI_Reduce() MPI_Reduce() MPI_Reduce() iroot MPI_MAXLOC LU 分解の枢軸選択処理

110 講習会 :MPI 基礎 124 基礎的な MPI 関数 MPI_Allreduce ierr = MPI_Allreduce(sendbuf, recvbuf, icount, idatatype, iop, icomm); sendbuf : 送信領域の先頭番地を指定する recvbuf : 受信領域の先頭番地を指定する iroot で指定した PE のみで書き込みがなされる 送信領域と受信領域は 同一であってはならない すなわち 異なる配列を確保しなくてはならない icount : 整数型 送信領域のデータ要素数を指定する idatatype : 整数型 送信領域のデータの型を指定する 最小値や最大値と位置を返す演算を指定する場合は MPI_2INT( 整数型 ) MPI_2FLOAT ( 単精度型 ) MPI_2DOUBLE( 倍精度型 ) を指定する

111 講習会 :MPI 基礎 125 基礎的な MPI 関数 MPI_Allreduce iop : 整数型 演算の種類を指定する MPI_SUM ( 総和 ) MPI_PROD ( 積 ) MPI_MAX ( 最大 ) MPI_MIN ( 最小 ) MPI_MAXLOC ( 最大と位置 ) MPI_MINLOC ( 最小と位置 ) など icomm : 整数型 PE 集団を認識する番号であるコミュニケータを指定する ierr : 整数型 エラーコードが入る

112 講習会 :MPI 基礎 126 MPI_Allreduce の概念 ( 集団通信 ) PE0 PE1 PE2 PE3 MPI_Allreduce() MPI_Allreduce() MPI_Allreduce() MPI_Allreduce() データ0 データ1 データ2 データ3 iop( 指定された演算 ) 演算済みデータの放送

113 講習会 :MPI 基礎 127 リダクション演算 性能について リダクション演算は 1 対 1 通信に比べ遅い プログラム中で多用すべきでない! MPI_Allreduce は MPI_Reduce に比べ遅い MPI_Allreduce は 放送処理が入る なるべく MPI_Reduce を使う

114 講習会 :MPI 基礎 128 行列の転置 行列 A A が (Block,*) 分散されているとする 行列の転置行列を作るには MPIでは次の2 通りの関数を用いる MPI_Gather 関数 T A a bc a b c 集めるメッセージサイズが各 PE で均一のとき使う MPI_Scatter 関数 集めるサイズが各 PE で均一でないときは : MPI_GatherV 関数 MPI_ScatterV 関数 a b c a bc

115 講習会 :MPI 基礎 129 基礎的な MPI 関数 MPI_Gather ierr = MPI_Gather (sendbuf, isendcount, isendtype, recvbuf, irecvcount, irecvtype, iroot, icomm); sendbuf : isendcount: isendtype : 送信領域の先頭番地を指定する 整数型 送信領域のデータ要素数を指定する 整数型 送信領域のデータの型を指定する recvbuf : 受信領域の先頭番地を指定する iroot で指定したPEのみで書き込みがなされる なお原則として 送信領域と受信領域は 同一であってはならない すなわち 異なる配列を確保しなくてはならない irecvcount: 整数型 受信領域のデータ要素数を指定する この要素数は 1PE 当たりの送信データ数を指定すること MPI_Gather 関数では各 PE で異なる数のデータを収集することはできないので 同じ値を指定すること

116 講習会 :MPI 基礎 130 基礎的な MPI 関数 MPI_Gather irecvtype : 整数型 受信領域のデータ型を指定する iroot : 整数型 収集データを受け取る PE の icomm 内でのランクを指定する 全ての icomm 内の PE で同じ値を指定する必要がある icomm : 整数型 PE 集団を認識する番号であるコミュニケータを指定する ierr : 整数型 エラーコードが入る

117 講習会 :MPI 基礎 131 MPI_Gather の概念 ( 集団通信 ) PE0 PE1 PE2 PE3 MPI_Gather() MPI_Gather() MPI_Gather() MPI_Gather() iroot データA データB データC データD 収集処理 データA データB データC データD

118 講習会 :MPI 基礎 132 基礎的な MPI 関数 MPI_Scatter ierr = MPI_Scatter ( sendbuf, isendcount, isendtype, recvbuf, irecvcount, irecvtype, iroot, icomm); sendbuf : isendcount: 送信領域の先頭番地を指定する 整数型 送信領域のデータ要素数を指定する この要素数は 1PE 当たりに送られる送信データ数を指定すること MPI_Scatter 関数では各 PE で異なる数のデータを分散することはできないので 同じ値を指定すること isendtype : 整数型 送信領域のデータの型を指定する iroot で指定したPEのみ有効となる recvbuf : 受信領域の先頭番地を指定する なお原則として 送信領域と受信領域は 同一であってはならない すなわち 異なる配列を確保しなくてはならない irecvcount: 整数型 受信領域のデータ要素数を指定する

119 講習会 :MPI 基礎 133 基礎的な MPI 関数 MPI_Scatter irecvtype : 整数型 受信領域のデータ型を指定する iroot : 整数型 収集データを受け取る PE の icomm 内でのランクを指定する 全ての icomm 内の PE で同じ値を指定する必要がある icomm : 整数型 PE 集団を認識する番号であるコミュニケータを指定する ierr : 整数型 エラーコードが入る

120 講習会 :MPI 基礎 134 MPI_Scatter の概念 ( 集団通信 ) PE0 PE1 PE2 PE3 MPI_Scatter() MPI_Scatter() MPI_Scatter() MPI_Scatter() iroot データA データB データC データD 分配処理 データ A データ B データ C データ D

121 講習会 :MPI 基礎 135 MPI_Scatter の概念 ( 集団通信 ) PE0 PE1 PE2 PE3 MPI_Scatter() MPI_Scatter() MPI_Scatter() MPI_Scatter() iroot データA データB データC データD 分配処理 データ A データ B データ C データ D

122 講習会 :MPI 基礎 136 ブロッキング ノンブロッキング 1. ブロッキング 送信 / 受信側のバッファ領域にメッセージが格納され 受信 / 送信側のバッファ領域が自由にアクセス 上書きできるまで 呼び出しが戻らない バッファ領域上のデータの一貫性を保障 MPI_Send, MPI_Bcast など 2. ノンブロッキング 送信 / 受信側のバッファ領域のデータを保障せずすぐに呼び出しが戻る バッファ領域上のデータの一貫性を保障せず 一貫性の保証はユーザの責任

123 講習会 :MPI 基礎 137 ブロッキング通信で効率の悪い例 プロセス0が必要なデータを持っている場合連続するsendで 効率の悪い受信待ち時間が多発 プロセス 0 計算 send 受信待 send 受信待 send 受信待 計算 プロセス 1 計算 recv 計算 次の反復での同期待ち プロセス 2 計算 recv 計算 次の反復での同期待ち プロセス 3 計算 recv 計算 次の反復での同期待ち 次の反復での同期点

124 講習会 :MPI 基礎 138 ノンブロッキング通信関数 ierr = MPI_Isend(sendbuf, icount, datatype, idest, itag, icomm, irequest); sendbuf : 送信領域の先頭番地を指定する icount : 整数型 送信領域のデータ要素数を指定する datatype : 整数型 送信領域のデータの型を指定する idest : 整数型 送信したい PE の icomm 内でのランクを指定する itag : 整数型 受信したいメッセージに付けられたタグの値を指定する

125 講習会 :MPI 基礎 139 ノンブロッキング通信関数 icomm : 整数型 PE 集団を認識する番号であるコミュニケータを指定する 通常では MPI_COMM_WORLD を指定すればよい irequest : MPI_Request 型 ( 整数型の配列 ) 送信を要求したメッセージにつけられた識別子が戻る ierr : 整数型 エラーコードが入る

126 講習会 :MPI 基礎 140 同期待ち関数 ierr = MPI_Wait(irequest, istatus); irequest : MPI_Request 型 ( 整数型配列 ) 送信を要求したメッセージにつけられた識別子 istatus : MPI_Status 型 ( 整数型配列 ) 受信状況に関する情報が入る 要素数が MPI_STATUS_SIZE の整数配列を宣言して指定する 受信したメッセージの送信元のランクが istatus[mpi_source] タグが istatus[mpi_tag] に代入される 送信データを変更する前 受信データを読み出す前には必ず呼ぶこと

127 講習会 :MPI 基礎 141 ノン ブロッキング通信による改善 プロセス 0 が必要なデータを持っている場合 連続する send における受信待ち時間をノン ブロッキング通信で削減 受信待ちを MPI_Wait で計算の後に行うように変更 プロセス 0 計算 send send send 計算 受信待 次の反復での同期待ち プロセス 1 計算 recv 計算 次の反復での同期待ち プロセス 2 計算 recv プロセス 3 計算 recv 計算 次の反復での同期待ち 計算 次の反復での同期点

128 講習会 :MPI 基礎 142 注意点 以下のように解釈してください : MPI_Send 関数 関数中に MPI_Wait 関数が入っている ; MPI_Isend 関数 関数中に MPI_Wait 関数が入っていない ; かつ すぐにユーザプログラム戻る ;

129 講習会 :MPI 基礎 143 参考文献 1. MPI 並列プログラミング P. パチェコ著 / 秋葉博訳 2. 並列プログラミング虎の巻 MPI 版 青山幸也著 理化学研究所情報基盤センタ ( ) 3. Message Passing Interface Forum ( ) 4. MPI-Jメーリングリスト ( ) 5. 並列コンピュータ工学 富田眞治著 昭晃堂 (1996)

130 講習会 :MPI 基礎 144 MPI プログラム実習 Ⅰ( 演習 ) 東京大学情報基盤センター准教授塙敏博

131 講習会 :MPI 基礎 145 実習課題

132 講習会 :MPI 基礎 146 サンプルプログラムの説明 Hello/ 並列版 Helloプログラム hello-pure.bash, hello-hy??.bash : ジョブスクリプトファイル Cpi/ 円周率計算プログラム cpi-pure.bash ジョブスクリプトファイル Wa1/ 逐次転送方式による総和演算 wa1-pure.bash ジョブスクリプトファイル Wa2/ 二分木通信方式による総和演算 wa2-pure.bash ジョブスクリプトファイル Cpi_m/ 円周率計算プログラムに時間計測ルーチンを追加したもの cpi_m-pure.bash ジョブスクリプトファイル

133 講習会 :MPI 基礎 147 ハイブリッド版 Hello プログラム 1. ハイブリッド MPI 用の Makefile をコピーする $ cp Makefile_hy36 Makefile 2. make する $ make clean $ make 3. 実行ファイル (hello) ができていることを確認する $ ls 4. JOB スクリプト中 (hello-hy36.bash) のキュー名を変更する u-lecture u-tutorial に変更する $ emacs hello-hy36.bash

134 講習会 :MPI 基礎 148 並列版 Hello プログラムを実行しよう ( ハイブリッド MPI) 1. Hello フォルダ中で以下を実行する $ qsub hello-hy36.bash 2. 自分の導入されたジョブを確認する $ rbstat 3. 実行が終了すると 以下のファイルが生成される hello-hy36.bash.exxxxxx hello-hy36.bash.oxxxxxx (XXXXXX は数字 ) 4. 上記標準出力ファイルの中身を見てみる $ cat hello-hy36.bash.oxxxxxx 5. Hello parallel world! が 1 プロセス *8 ノード *36 スレッド =288 個表示されていたら成功

135 講習会 :MPI 基礎 149 JOB スクリプトサンプルの説明 (OpenMP+MPI ハイブリッド ) (hello-hy36.bash, C 言語 Fortran 言語共通 ) #!/bin/bash #PBS -q u-lecture #PBS -Wgroup_list=gt00 #PBS l select=8:mpiprocs=1: ompthreads=36 #PBS -l walltime=00:01:00 cd $PBS_O_WORKDIR. /etc/profile.d/modules.sh mpirun./hello リソースグループ名 :u-lecture 利用グループ名 :gt00 利用ノード数 MPI プロセス数 ノード内利用スレッド数 実行時間制限 :1 分 MPI ジョブを 1*8 = 8 プロセスで実行する カレントディレクトリ設定 環境変数設定 ( 必ず入れておく )

136 ハイブリッド MPI の実行状況 ( ノード内 ) 2017/3/6,7 講習会 :MPI 基礎 150 あと 18 スレッド分 1 ソケットのみを図示 ( もう 1 ソケットある ) QPI x2 PCIe コア当たり L1 データ : 2KB, L2: 256KB, L3: 2.5MB( 共有 ) => L3 は全体で 45MB Core #0 L 1 L 2 L3 Core #5 L 1 L 2 L3 Core #9 L 1 L 2 L3 Core #14 L 1 L 2 L3 Core #1 Core #2 Core #3 L 1 L 1 L 1 L 2 L 2 L 2 L3 L3 L3 Core #6 Core #7 Core #8 L 1 L 1 L 1 L 2 L 2 L 2 L3 L3 L3 Core #10 Core #11 Core #12 L 1 L 1 L 1 L 2 L 2 L 2 L3 L3 L3 Core #15 Core #16 Core #17 L 1 L 1 L 1 L 2 L 2 L 2 L3 L3 L3 Core #4 L 1 L 2 L3 Core #13 L 1 L 2 L3 DDR4 DIMM Memory Memory Memory Memory MPIプロセス 16GB 2 枚 16GB 2 枚スレッド 16GB 2 枚 16GB 2 枚ソケット当たりメモリ量 :16GB 8=128GB 76.8 GB/ 秒 =(8Byte 2400MHz 4 channel)

137 講習会 :MPI 基礎 151 総和演算プログラム ( 逐次転送方式 ) 各プロセスが所有するデータを 全プロセスで加算し あるプロセス 1 つが結果を所有する演算を考える 素朴な方法 ( 逐次転送方式 ) 1. (0 番でなければ ) 左隣のプロセスからデータを受信する ; 2. 左隣のプロセスからデータが来ていたら ; 1. 受信する ; 2. < 自分のデータ > と < 受信データ > を加算する ; 3. (255 番でなければ ) 右隣のプロセスに <2 の加算した結果を > 送信する ; 4. 処理を終了する ; 実装上の注意 左隣りとは (myid-1) の ID をもつプロセス 右隣りとは (myid+1) の ID をもつプロセス myid=0 のプロセスは 左隣りはないので 受信しない myid=p-1 のプロセスは 右隣りはないので 送信しない

138 講習会 :MPI 基礎 152 逐次転送方式 ( バケツリレー方式 ) による加算 所有データ 所有データ所有データ所有データ CPU0 CPU1 CPU2 CPU3 送信送信送信 = = = 6 最終結果

139 講習会 :MPI 基礎 対 1 通信利用例 ( 逐次転送方式 C 言語 ) void main(int argc, char* argv[]) { MPI_Status istatus;. dsendbuf = myid; drecvbuf = 0.0; if (myid!= 0) { ierr = MPI_Recv(&drecvbuf, 1, MPI_DOUBLE, myid-1, 0, MPI_COMM_WORLD, &istatus); } dsendbuf = dsendbuf + drecvbuf; if (myid!= nprocs-1) { ierr = MPI_Send(&dsendbuf, 1, MPI_DOUBLE, myid+1, 0, MPI_COMM_WORLD); } if (myid == nprocs-1) printf ("Total = %4.2lf n", dsendbuf);. } 受信用システム配列の確保 自分より一つ少ない ID 番号 (myid-1) から double 型データ 1 つを受信し drecvbuf 変数に代入 自分より一つ多い ID 番号 (myid+1) に dsendbuf 変数に入っている double 型データ 1 つを送信

140 講習会 :MPI 基礎 154 & & 1 対 1 通信利用例 ( 逐次転送方式 Fortran 言語 ) program main integer istatus(mpi_status_size). dsendbuf = myid drecvbuf = 0.0 if (myid.ne. 0) then call MPI_RECV(drecvbuf, 1, MPI_DOUBLE_PRECISION, myid-1, 0, MPI_COMM_WORLD, istatus, ierr) endif dsendbuf = dsendbuf + drecvbuf if (myid.ne. numprocs-1) then call MPI_SEND(dsendbuf, 1, MPI_DOUBLE_PRECISION, myid+1, 0, MPI_COMM_WORLD, ierr) endif if (myid.eq. numprocs-1) then print *, "Total = ", dsendbuf endif. stop end 受信用システム配列の確保 自分より一つ少ない ID 番号 (myid-1) から double 型データ 1 つを受信し drecvbuf 変数に代入 自分より一つ多い ID 番号 (myid+1) に dsendbuf 変数に入っている double 型データ 1 つを送信

141 講習会 :MPI 基礎 155 総和演算プログラム ( 二分木通信方式 ) 二分木通信方式 1. k = 1; 2. for (i=0; i < log2(nprocs); i++) 3. if ( (myid & k) == k) (myid k) 番プロセスからデータを受信 ; 自分のデータと 受信データを加算する ; k = k * 2; 4. else (myid + k) 番プロセスに データを転送する ; 処理を終了する ;

142 講習会 :MPI 基礎 156 総和演算プログラム ( 二分木通信方式 ) 3 段目 =log2(8) 段目 段目 段目

143 講習会 :MPI 基礎 157 総和演算プログラム ( 二分木通信方式 ) 実装上の工夫 要点 : プロセス番号の 2 進数表記の情報を利用する 第 i 段において 受信するプロセスの条件は 以下で書ける : myid & k が k と一致 ここで k = 2^(i-1) つまり プロセス番号の 2 進数表記で右から i 番目のビットが立っているプロセスが 送信することにする また 送信元のプロセス番号は 以下で書ける : myid + k つまり 通信が成立するプロセス番号の間隔は 2^(i-1) 二分木なので 送信プロセスについては 上記の逆が成り立つ

144 講習会 :MPI 基礎 158 総和演算プログラム ( 二分木通信方式 ) 逐次転送方式の通信回数 明らかに nprocs-1 回 二分木通信方式の通信回数 見積もりの前提 各段で行われる通信は 完全に並列で行われる ( 通信の衝突は発生しない ) 段数の分の通信回数となる つまり log2(nprocs) 回 両者の通信回数の比較 プロセッサ台数が増すと 通信回数の差 (= 実行時間 ) がとても大きくなる 1024 プロセス構成では 1023 回対 10 回! でも 必ずしも二分木通信方式がよいとは限らない ( 通信衝突が多発する可能性 )

145 講習会 :MPI 基礎 159 性能プロファイラ

146 講習会 :MPI 基礎 160 性能プロファイラ Reedbush-U Intel VTune Amplifier PAPI (Performance API) Web ポータルから 利用の手引き チューニングガイド性能評価ツール編 を参照してください

147 講習会 :MPI 基礎 161 演習課題 1. 逐次転送方式のプログラムを実行 Wa1 のプログラム 2. 二分木通信方式のプログラムを実行 Wa2 のプログラム 3. 時間計測プログラムを実行 Cpi_m のプログラム 4. プロセス数を変化させて サンプルプログラムを実行 5. Hello プログラムを 以下のように改良 MPI_Send を用いて プロセス 0 から Char 型のデータ Hello World!! を その他のプロセスに送信する その他のプロセスでは MPI_Recv で受信して表示する

148 講習会 :MPI 基礎 162 MPI プログラミング実習 Ⅱ ( 演習 ) 東京大学情報基盤センター准教授塙敏博

149 講習会 :MPI 基礎 163 講義の流れ 1. 行列 - 行列とは (30 分 ) 2. 行列 - 行列積のサンプルプログラムの実行 3. サンプルプログラムの説明 4. 演習課題 (1): 簡単なもの

150 講習会 :MPI 基礎 164 行列 - 行列積の演習の流れ 演習課題 (Ⅱ) 簡単なもの (30 分程度で並列化 ) 通信関数が一切不要 演習課題 (Ⅲ) ちょっと難しい (1 時間以上で並列化 ) 1 対 1 通信関数が必要 演習課題 (Ⅱ) が早く終わってしまった方は やってみてください

151 講習会 :MPI 基礎 165 行列 - 行列積とは 実装により性能向上が見込める基本演算

152 講習会 :MPI 基礎 166 行列の積 行列積 C = A B は コンパイラや計算機のベンチマークに使われることが多い 理由 1: 実装方式の違いで性能に大きな差がでる 理由 2: 手ごろな問題である ( プログラムし易い ) 理由 3: 科学技術計算の特徴がよく出ている 1. 非常に長い < 連続アクセス > がある 2. キャッシュに乗り切らない < 大規模なデータ > に対する演算である 3. メモリバンド幅を食う演算 ( メモリ インテンシブ ) な処理である

153 講習会 :MPI 基礎 167 行列積コード例 (C 言語 ) l コード例 for (i=0; i<n; i++) for (j=0; j<n; j++) for (k=0; k<n; k++) C[i][j] += A[i][k] *B[k][j]; j k j C A B i i k

154 講習会 :MPI 基礎 168 行列の積 n c = å a b ( i, j = 行列積 ij ik kj k = 1 の実装法は 次の二通りが知られている : 1,2,..., n) 1. ループ交換法 連続アクセスの方向を変える目的で 行列 - 行列積を実現する 3 重ループの順番を交換する 2. ブロック化 ( タイリング ) 法 キャッシュにあるデータを再利用する目的で あるまとまった行列の部分データを 何度もアクセスするように実装する

155 講習会 :MPI 基礎 169 行列の積 (C 言語 ) ループ交換法 行列積のコードは 以下のような 3 重ループになる for(i=0; i<n; i++) { for(j=0; j<n; j++) { for(k=0; k<n; k++) { c[ i ][ j ] = c[ i ][ j ] + a[ i ][ k ] * b[ k][ j ]; } } } 最内部の演算は 外側の 3 ループを交換しても 計算結果が変わらない 6 通りの実現の方法がある

156 講習会 :MPI 基礎 170 行列の積 (Fortran 言語 ) ループ交換法 行列積のコードは 以下のような 3 重ループになる do i=1, n do j=1, n do k=1, n c( i, j ) = c( i, j) + a( i, k ) * b( k, j ) enddo enddo enddo 最内部の演算は 外側の 3 ループを交換しても 計算結果が変わらない 6 通りの実現の方法がある

157 講習会 :MPI 基礎 171 行列の積 行列データへのアクセスパターンから 以下の 3 種類に分類できる 1. 内積形式 (inner-product form) 最内ループのアクセスパターンが < ベクトルの内積 > と同等 2. 外積形式 (outer-product form) 最内ループのアクセスパターンが < ベクトルの外積 > と同等 3. 中間積形式 (middle-product form) 内積と外積の中間

158 講習会 :MPI 基礎 172 行列の積 (C 言語 ) 内積形式 (inner-product form) ijk, jik ループによる実現 for (i=0; i<n; i++) { for (j=0; j<n; j++) { dc = 0.0; for (k=0; k<n; k++){ dc = dc + A[ i ][ k ] * B[ k ][ j ]; } C[ i ][ j ]= dc; } } 以降 最外のループからの変数の順番で実装法を呼ぶ たとえば上記のコードは <ijk ループ > A B. 行方向と列方向のアクセスあり 行方向 列方向格納言語の両方で性能低下要因解決法 : A, B どちらか一方を転置しておく

159 講習会 :MPI 基礎 173 行列の積 (Fortran 言語 ) 内積形式 (inner-product form) ijk, jik ループによる実現 do i=1, n do j=1, n dc = 0.0d0 do k=1, n dc = dc + A( i, k ) * B( k, j ) enddo C( i, j ) = dc enddo enddo 以降 最外のループからの変数の順番で実装法を呼ぶ たとえば上記のコードは <ijk ループ > A B. 行方向と列方向のアクセスあり 行方向 列方向格納言語の両方で性能低下要因解決法 : A, B どちらか一方を転置しておく

160 講習会 :MPI 基礎 174 行列の積 (C 言語 ) 外積形式 (outer-product form) kij, kji ループによる実現 for (i=0; i<n; i++) { for (j=0; j<n; j++) { C[ i ][ j ] = 0.0; } } for (k=0; k<n; k++) { for (j=0; j<n; j++) { db = B[ k ][ j ]; for (i=0; i<n; i++) { C[ i ][ j ]= C[ i ][ j ]+ A[ i ][ k ]* db; } } } A B. kji ループでは列方向アクセスがメイン 列方向格納言語向き (Fortran 言語 )

161 講習会 :MPI 基礎 175 行列の積 (Fortran 言語 ) 外積形式 (outer-product form) kij, kji ループによる実現 do i=1, n do j=1, n C( i, j ) = 0.0d0 enddo enddo do k=1, n do j=1, n db = B( k, j ) do i=1, n C( i, j ) = C( i, j )+ A( i, k ) * db enddo enddo enddo A B. kji ループでは列方向アクセスがメイン 列方向格納言語向き (Fortran 言語 )

162 講習会 :MPI 基礎 176 行列の積 (C 言語 ) 中間積形式 (middle-product form) ikj, jki ループによる実現 for (j=0; j<n; j++) { for (i=0; i<n; i++) { C[ i ][ j ] = 0.0; } for (k=0; k<n; k++) { db = B[ k ][ j ]; for (i=0; i<n; i++) { C[ i ][ j ] = C[ i ][ j ] + A[ i ][ k ] * db; } } } A B jki ループでは全て列方向アクセス 列方向格納言語に最も向いている (Fortran 言語 )..

163 講習会 :MPI 基礎 177 行列の積 (Fortran 言語 ) 中間積形式 (middle-product form) ikj, jki ループによる実現 do j=1, n do i=1, n C( i, j ) = 0.0d0 enddo do k=1, n db = B( k, j ) do i=1, n C( i, j ) = C( i, j ) + A( i, k ) * db enddo enddo enddo A B jki ループでは全て列方向アクセス 列方向格納言語に最も向いている (Fortran 言語 )..

164 講習会 :MPI 基礎 178 行列の積 小行列ごとの計算に分けて ( 配列を用意し ) 計算 ( ブロック化 タイリング : コンパイラ用語 ) 以下の計算 C ij = n ~ n å k= 1 ~ A ik ~ B ~ C ~ = ij i 1 kj A A ~ i p ~ B 1 B ~ n / j p j p n / p

165 講習会 :MPI 基礎 179 行列の積 各小行列をキャッシュに収まるサイズにする 1. ブロック単位で高速な演算が行える 2. 並列アルゴリズムの変種が構築できる 並列行列積アルゴリズムは データ通信の形態から 以下の 2 種に分類可能 : 1. セミ シストリック方式 行列 A B の小行列の一部をデータ移動 (Cannon のアルゴリズム ) 2. フル シストリック方式 行列 A B の小行列のすべてをデータ移動 (Fox のアルゴリズム )

166 講習会 :MPI 基礎 180 サンプルプログラムの実行 ( 行列 - 行列積 )

167 講習会 :MPI 基礎 181 行列 - 行列積のサンプルプログラムの注意点 C 言語版 /Fortran 言語版の共通ファイル名 Mat-Mat-rb.tar ジョブスクリプトファイル mat-mat.bash 中のキュー名を u-lecture から u-tutorial に変更してから qsub してください u-lecture : 実習時間外のキュー u-tutorial : 実習時間内のキュー

168 講習会 :MPI 基礎 182 行列 - 行列積のサンプルプログラムの実行 以下のコマンドを実行する $ cp /lustre/gt00/z30105/mat-mat-rb.tar./ $ tar xvf Mat-Mat-rb.tar $ cd Mat-Mat 以下のどちらかを実行 $ cd C : C 言語を使う人 $ cd F : Fortran 言語を使う人 以下共通 $ make $ qsub mat-mat.bash 実行が終了したら 以下を実行する $ cat mat-mat.bash.oxxxxxx

169 講習会 :MPI 基礎 183 行列 - 行列積のサンプルプログラムの実行 (C 言語 ) 以下のような結果が見えれば成功 N = 1000 Mat-Mat time = [sec.] [MFLOPS] OK! 1 コアのみで 20GFLOPS の性能

170 講習会 :MPI 基礎 184 行列 - 行列積のサンプルプログラムの実行 (Fortran 言語 ) 以下のような結果が見えれば成功 NN = 1000 Mat-Mat time[sec.] = MFLOPS = OK! 1 コアのみで 20GFLOPS の性能

171 講習会 :MPI 基礎 185 サンプルプログラムの説明 #define N 1000 の 数字を変更すると 行列サイズが変更できます #define DEBUG 0 の 0 を 1 にすると 行列- 行列積の演算結果が検証できます MyMatMat 関数の仕様 Double 型 N N 行列 A と B の行列積をおこない D ouble 型 N N 行列 C にその結果が入ります

172 講習会 :MPI 基礎 186 Fortran 言語のサンプルプログラムの注意 行列サイズNの宣言は 以下のファイルにあります mat-mat.inc 行列サイズ変数が NNとなっています integer NN parameter (NN=1000)

173 講習会 :MPI 基礎 187 演習課題 (1) MyMatMat 関数を並列化してください #define N 288 #define DEBUG 1 として デバッグをしてください 行列 A B C は 各 PE で重複して かつ全部 (N N) 所有してよいです

174 講習会 :MPI 基礎 188 演習課題 (1) サンプルプログラムでは 行列 A B の要素を全部 1 として 行列 - 行列積の結果をもつ行列 C の全要素が N であるか調べ 結果検証しています デバックに活用してください 行列 C の分散方式により 演算結果チェックルーチンの並列化が必要 になります 注意してください

175 講習会 :MPI 基礎 189 並列化のヒント 以下のようなデータ分割にすると とても簡単です C A B N/4 PE0 N/4 PE0 PE1 PE2 PE3 = PE1 PE2 PE3 * PE0 PE1 PE2 PE3 N 通信関数は一切不要です 行列 - ベクトル積の演習と同じ方法で並列化できます N 演習環境は異なります 全 PE で重複して全要素を所有

176 講習会 :MPI 基礎 190 MPI 並列化の大前提 ( 再確認 ) SPMD 対象のメインプログラム (mat-mat) は すべての PE で かつ 同時に起動された状態 から処理が始まる 分散メモリ型並列計算機 各 PE は 完全に独立したメモリを持っている ( 共有メモリではない )

177 講習会 :MPI 基礎 191 MPI 並列化の大前提 ( 再確認 ) 各 PE では < 同じプログラムが同時に起動 > されて開始されます mpirun mat-mat PE0 PE1 PE2 PE3 mat-mat mat-mat mat-mat mat-mat

178 講習会 :MPI 基礎 192 MPI 並列化の大前提 ( 再確認 ) 各 PE では < 別配列が個別に確保 > されます PE0 PE1 PE2 PE3 A[N][N] A[N][N] A[N][N] A[N][N] myid 変数は MPI_Init() 関数 ( もしくは サブルーチン ) が呼ばれた段階で < 各 PE 固有の値 > になっています PE0 PE1 PE2 PE3 myid = 0 myid = 1 myid = 2 myid = 3

179 講習会 :MPI 基礎 193 各 PE での配列の確保状況 実際は 以下のように配列が確保されていて 部分的に使うだけになります N/4 PE0 PE1 PE2 PE3 A A A A PE0 PE1 PE2 PE3 N N N N

180 講習会 :MPI 基礎 194 本実習プログラムの TIPS myid, numprocs は大域変数です myid (= 自分の ID) および numprocs(= 世の中の PE 台数 ) の変数は大域変数です MyMatVec 関数内で 引数設定や宣言なしに 参照できます myid, numprocs の変数を使う必要があります MyMatMat 関数を並列化するには myid および numprocs 変数を利用しないと 並列化ができません

181 講習会 :MPI 基礎 195 並列化の考え方 ( 行列 - ベクトル積の場合 C 言語 ) SIMD アルゴリズムの考え方 (4PE の場合 ) n 行列 A for ( j=0; j<n/4; j++) { 内積 ( j, i ) } PE0 各 PE で重複して所有する for ( j=0; j<n; j++) { 内積 ( j, i ) } n for ( j=n/4; j<(n/4)*2; j++) { 内積 ( j, i ) } PE1 for ( j=(n/4)*2; j<(n/4)*3; j++) { 内積 ( j, i ) } PE2 for ( j=(n/4)*3; j<n; j++) { 内積 ( j, i ) } ベクトル x PE3

182 講習会 :MPI 基礎 196 並列化の考え方 ( 行列 - ベクトル積の場合 Fortran 言語 ) SIMD アルゴリズムの考え方 (4PE の場合 ) n 行列 A PE0 do j=1, n/4 内積 ( j, i ) enddo 各 PE で重複して所有する do j=1, n 内積 ( j, i ) enddo n PE1 PE2 PE3 do j=n/4+1, (n/4)*2 内積 ( j, i ) enddo do j=(n/4)*2+1, (n/4)*3 内積 ( j, i ) enddo do j=(n/4)*3+1, n 内積 ( j, i ) enddo ベクトル x

183 講習会 :MPI 基礎 197 並列化の方針 (C 言語 ) 1. 全 PE で行列 A を N N の大きさ ベクトル x y を N の大きさ 確保してよいとする 2. 各 PE は 担当の範囲のみ計算するように ループの開始値と終了値を変更する ブロック分散方式では 以下になる (n が numprocs で割り切れる場合 ) ib = n / numprocs; for ( j=myid*ib; j<(myid+1)*ib; j++) { } 3. (2 の並列化が完全に終了したら ) 各 PE で担当のデータ部分しか行列を確保しないように変更する 上記のループは 以下のようになる for ( j=0; j<ib; j++) { }