PowerPoint プレゼンテーション
|
|
|
- いちえい あいきょう
- 4 years ago
- Views:
Transcription
1 並列プログラミング言語 XcalableMP と大規模シミュレーション向け並列プログラミングモデルの動向 理研 AICS プログラミング環境研究チーム 村井均 2014/3/11 地球流体データ解析 数値計算ワークショップ 1
2 はじめに 大規模シミュレーションなどの計算を行うためには クラスタのような分散メモリシステムの利用が一般的 分散メモリ向け並列プログラミングの現状 大半は MPI (Message Passing Interface) を利用 MPI はプログラミングコストが大きい 高性能と高生産性を兼ね備えた新しいプログラミングが必要 2014/3/11 地球流体データ解析 数値計算ワークショップ 2
3 HPF (High Performance Fortran) Fortran90 + 指示文 データ分散 プログラマ 通信と並列化 処理系 MPI 代替として期待されたが 2000 年ごろまでに失速 敗因 : 初期の処理系の品質が悪く 早々に見切りをつけられた 処理系の解析 最適化に強く依存する仕様 チューニング困難 低い性能移植性 2014/3/11 地球流体データ解析 数値計算ワークショップ 3
4 Partitioned Global Address Space (PGAS) Global 全てのプロセスはアドレス空間を共有する ( リモートデータを参照できる ) Partitioned リモートデータとローカルデータは区別され 参照の方法やコストは異なる データの局所性 PGAS に基づく新しい並列プログラミングモデルが多く提案 開発されている 2014/3/11 地球流体データ解析 数値計算ワークショップ 4
5 Partitioned Global Address Space (PGAS) 続き 個々の言語やプログラミングモデルにおける PGAS の 実装方法 は様々 OS やハードウェアのサポートの有無 片側通信ライブラリの利用 明示的 ( 特別な記法による ) または暗黙的なリモートアクセス etc. PGAS 通常の ( プライベートな ) メモリ空間 p0 p1 p2 p3 2014/3/11 地球流体データ解析 数値計算ワークショップ 5
6 PGAS の長所と短所 長所 よりシンプルな表現で 通信 を記述できる OS やハードウェアのサポート次第では 性能はメッセージパッシングを上回る コンパイラによる最適化やエラーチェックを期待できる? 短所 メモリコンシステンシを意識する必要あり ポータビリティ 2014/3/11 地球流体データ解析 数値計算ワークショップ 6
7 PGAS 言語 / プログラミングモデル coarray (in Fortran 2008) Unified Parallel C (UPC) OpenSHMEM X10 Chapel XcalableMP 2014/3/11 地球流体データ解析 数値計算ワークショップ 7
8 用語 : グローバルビューとローカルビュー グローバルビュー 解くべき問題全体を記述し それを N 個のノードが分担する方法を示す 問題 1~100 を 4 人で分担して解け グローバルなインデックス空間 分かりやすい ローカルビュー 各ノードが解くべき問題を示す ノード n は問題 ((n-1)*25+1)~(n*25) を解け ローカルなインデックス空間 自由度が高いが やや難しい 2014/3/11 地球流体データ解析 数値計算ワークショップ 8
9 coarray (in Fortran 2008) Fortran 2008 標準に含まれる PGAS 機能 coarray として宣言されたデータは PGAS 上に配置され 他イメージ ( プロセスに相当 ) から参照可能 SPMD + ローカルビュー MPI プログラムの通信関数を coarray 代入に置き換えたものに相当 Intel, Cray, IBM 2014/3/11 地球流体データ解析 数値計算ワークショップ 9
10 サンプルコード real, save :: a(0:101)[*]! a を coarray として宣言 me = this_image()! イメージ番号を取得 a(0) = a(100)[me - 1]! 隣接イメージ上のaを参照 a(101) = a(1)[me + 1]! sync all! 同期 do i = 1, 100 b(i) = (a(i-1) + a(i) + a(i+1)) / 3 end do [ ] がない場合 通常のデータとしてアクセスされる 2014/3/11 地球流体データ解析 数値計算ワークショップ 10
11 OpenSHMEM 各社 (SGI, Quadrics, HP,...) が提供してきた片側通信ライブラリ SHMEM のオープンソース実装 SPMD + ローカルビュー MPI プログラムの通信関数を shmem_put 等に置き換えたものに相当 2014/3/11 地球流体データ解析 数値計算ワークショップ 11
12 サンプルコード real, save :: a(0:101) me = my_pe()! 対象データ! pe 番号を取得 call shmem_get(a, a(100), 4, me-1)! 隣接 pe 上のaを参照 call shmem_get(a(101), a(1), 4, me+1)! call shmem_barrier! 同期 do i = 1, 100 b(i) = (a(i-1) + a(i) + a(i+1)) / 3 end do 2014/3/11 地球流体データ解析 数値計算ワークショップ 12
13 Unified Parallel C (UPC) C99 の拡張 GWU, UC Berkley/LBNL が主導 共有データ 全スレッドからシームレスにアクセス可能 一次元ブロックサイクリック分散 グローバルビュー Berkley UPC, GNU UPC, IBM, HP, Cray 2014/3/11 地球流体データ解析 数値計算ワークショップ 13
14 サンプルコード ( 通常版 ) shared [*] float a[400];! a を共有データとして宣言 upc_forall (i = 1; i < 399; i++; &a[i]){ b[i] = (a[i-1] + a[i] + a[i+1]) / 3 } a の分散に合わせて並列化 ブロック幅 ( * は均等ブロックを意味する ) 共有データである a の全ての参照は 高コストなランタイム呼び出しに変換される 2014/3/11 地球流体データ解析 数値計算ワークショップ 14
15 サンプルコード ( 高速版 ) shared [*] float a[400];! aを共有データとして宣言 float *pa = (float *)a;! aに対するローカルなエイリアス b[0] = (a[me * 100-1] + pa[0] + pa[1]) / 3; for (i = 1; i < 99; i++){ b[i] = (pa[i-1] + pa[i] + pa[i+1]) / 3 } b[99] = (pa[98] + pa[99] + a[(me + 1) * 100]) / 3; リモートアクセス グローバルビューの利点はなくなっている? 2014/3/11 地球流体データ解析 数値計算ワークショップ 15
16 X10 IBM が提案 開発中の新言語 DARPA の HPCS プログラム (2002~2010) Java ベース (OO) 階層的並列処理 ( スレッド +Place) グローバルビューに基づく分散配列 明示的な通信 ( リモートオブジェクトへのポインタによる参照 ) 2014/3/11 地球流体データ解析 数値計算ワークショップ 16
17 サンプルコード val R = Region.make( ); val D = Dist.makeBlock(R); val a = DistArray.make[Float](D); for (p in D) a(p) =...; データ並列処理の例 PGAS Local Heap Global Reference def fib(n:int):int { if (n < 2) return 1; var f1:int; var f2:int; finish { async f1 = fib(n-1); f2 = fib(n-2); } return f1+f2; } マルチスレッド処理の例 ( フィボナッチ ) Activity Place 0 Place N /3/11 地球流体データ解析 数値計算ワークショップ 17
18 Chapel Cray が提案 開発している新言語 DARPA の HPCS プログラム (2002~2010) Pascal っぽい文法 (OO) 階層的並列性 ( スレッド +Locale) グローバルビューに基づく分散配列 (HPF/ZPL 由来のデータ並列処理 ) 暗黙的な通信 2014/3/11 地球流体データ解析 数値計算ワークショップ 18
19 サンプルコード const Space = {1..8, 1..8}; const D: domain(2) dmapped Block(boundingBox=Space) = Space; var A: [D] int; forall a in A do a =...; データ並列処理の例 マルチスレッドの例 ( フィボナッチ ) proc fib(n:int):int { if (n < 2) return 1; var f1:int; var f2:int; sync { begin f1 = fib(n-1); f2 = fib(n-2); } return f1+f2; } 2014/3/11 地球流体データ解析 数値計算ワークショップ 19
20 XcalableMP 次世代並列プログラミング言語検討委員会 / PC クラスタコンソーシアム XcalableMP 規格部会で検討中 MPI に代わる並列プログラミングモデル 目標 : Performance Expressiveness Optimizability Education cost /3/11 地球流体データ解析 数値計算ワークショップ 20
21 XcalableMP の特徴 (1) Fortran/C の拡張 ( 指示文ベース ) 逐次プログラムからの移行が容易 SPMD モデル 各ノード ( 並列実行の主体 ) が独立に ( 重複して ) 実行を開始する 2014/3/11 地球流体データ解析 数値計算ワークショップ 21
22 XcalableMP の特徴 (2) 明示的な並列化と通信 ワークマッピング ( 並列処理 ) 通信 および同期は 集団的 な指示文によって明示される チューニングが容易 2 つのプログラミングモデル グローバルビュー ローカルビュー 2014/3/11 地球流体データ解析 数値計算ワークショップ 22
23 XMP の実行モデル (SPMD) 各ノードは 同一のコードを独立に ( 重複して ) 実行する 指示文の箇所では 全ノードが協調して動作する ( 集団実行 ) 通信 同期 ワークマッピング ( 並列処理 ) ノード 1 ノード 4 重複実行 指示文通信, 同期, ワークマッピング 2014/3/11 地球流体データ解析 数値計算ワークショップ 23
24 メモリモデル 各ノードは 自身のローカルメモリ上のデータ ( ローカルデータ ) のみをアクセスできる 他のノード上のデータ ( リモートデータ ) にアクセスする場合は 特殊な記法による明示的な指定が必要 通信指示文 coarray 分散 されないデータは 全ノードに重複して配置される 2014/3/11 地球流体データ解析 数値計算ワークショップ 24
25 プログラム例 (MPI との比較 ) XMP/C プログラム int array[max]; #pragma xmp nodes p(*) #pragma xmp template t(0:max-1) #pragma xmp distribute t(block) onto p #pragma xmp align array[i] with t(i) main(){ #pragma xmp loop on t(i) reduction(+:res) for (i = 0; i < MAX; i++){ array[i] = func(i); res += array[i]; } } シンプル int array[max]; MPI プログラム main(int argc, char **argv){ MPI_Init(&argc, &argv); MPI_Comm_rank(MPI_COMM_WORLD, &rank); MPI_Comm_size(MPI_COMM_WORLD, &size); dx = MAX/size; llimit = rank * dx; if (rank!= (size -1)) ulimit = llimit + dx; else ulimit = MAX; temp_res = 0; for (i = llimit; i < ulimit; i++){ array[i] = func(i); temp_res += array[i]; } MPI_Allreduce(&temp_res, &res, 1, MPI_INT, MPI_SUM, MPI_COMM_WORLD); } MPI_Finalize( ); 2014/3/11 地球流体データ解析 数値計算ワークショップ 25
26 グローバルビュー プログラミング 基本的に指示文を挿入するだけ 分担 を指定する方法 データマッピング ワークマッピング 通信 同期 2014/3/11 地球流体データ解析 数値計算ワークショップ 26
27 データマッピング 整列 + 分散による 2 段階の処理 整列 分散 配列はテンプレートに整列され テンプレートはノードに分散される 配列 / ループ テンプレート ( 仮想的な配列 ) ノード 2014/3/11 地球流体データ解析 数値計算ワークショップ 27
28 データマッピング指示文 align 指示文の例配列 a の要素 i を テンプレート t の要素 i-1 に整列させる #pragma xmp align a[i] with t(i-1) distribute 指示文の例 ノード集合 p に テンプレート t をブロック形式で分散する #pragma xmp distribute t(block) onto p 他に サイクリック ブロックサイクリック 不均等ブロックを指定できる 2014/3/11 地球流体データ解析 数値計算ワークショップ 28
29 ワークマッピング指示文 task 指示文 #pragma xmp task on t(k-1) { a[k] =...; } t(k) のオーナが a(k) への代入を実行する loop 指示文 ( 並列ループ ) #pragma xmp loop on t(i) for (i = 0; i < n; i++) { a[i] =...; } t(i) のオーナが 繰り返し i において a[i] への代入を実行する 2014/3/11 地球流体データ解析 数値計算ワークショップ 29
30 通信指示文 (1) shadow 指示文 & reflect 指示文 a の上下端に幅 1 のシャドウを付加する #pragma xmp distribute t(block) onto p #pragma xmp align a[i] with t(i-1) #pragma xmp shadow a[1:1]... #pragma xmp reflect (a) a に対する隣接通信を実行する reflect p(1) p(2) p(3) p(4) 2014/3/11 地球流体データ解析 数値計算ワークショップ 30
31 通信指示文 (3) gmove 指示文 通信を伴う任意の代入文を実行する #pragma xmp gmove a[:][:] = b[:][:]; C で 部分配列 も記述できる n1 n2 n3 n4 a[block][block] n1 n2 n3 n4 b[block][*] その他に ブロードキャスト (bcast) や集計演算 (reduction) を指定できる 2014/3/11 地球流体データ解析 数値計算ワークショップ 31
32 XcalableMP プログラムの例!$xmp nodes p(npx,npy,npz)!$xmp template (lx,ly,lz) :: t!$xmp distribute (*,*,block) onto p :: t!$xmp align (ix,iy,iz) with t(ix,iy,iz) ::!$xmp& sr, se, sm, sp, sn, sl,...!$xmp shadow (0,0,0:1) ::!$xmp& sr, se, sm, sp, sn, sl,... lx = 1024!$xmp reflect (sr, sm, sp, se, sn, sl)!$xmp loop on t(ix,iy,iz) do iz = 1, lz-1 do iy = 1, ly do ix = 1, lx wu0 = sm(ix,iy,iz ) / sr(ix,iy,iz ) wu1 = sm(ix,iy,iz+1) / sr(ix,iy,iz+1) wv0 = sn(ix,iy,iz ) / sr(ix,iy,iz )... ノード集合の宣言 テンプレートの宣言と分散の指定 整列の指定 シャドウの指定 重複実行される 隣接通信の指定 ループの並列化の指定 2014/3/11 地球流体データ解析 数値計算ワークショップ 32
33 ローカルビュー プログラミング 自由度が高いが やや難しい ローカルビューのための機能として Fortran 2008 から導入した coarray をサポート XMP/C でもサポート グローバルビューとローカルビューを併用可能 全体をグローバルビューで ホットスポットのみローカルビューで 場をグローバルビューで 粒子をローカルビューで 2014/3/11 地球流体データ解析 数値計算ワークショップ 33
34 Omni XcalableMP 理研 AICS と筑波大で開発中の XMP 処理系 XMP/C XMP/Fortran オープンソース トランスレータ + ランタイム (MPI ベース ) 対応プラットフォーム Linux クラスタ Cray マシン 京コンピュータ NEC SX 地球シミュレータ その他 MPI が動作している任意のシステム 2014/3/11 地球流体データ解析 数値計算ワークショップ 34
35 現況 プロトタイプ (ver ) を公開中 XMP の主要な機能を実装済み 一部制限事項あり 拡張機能 アクセラレータ向け拡張 (XMP-dev) プロファイラ インタフェース 今後の予定 ver (4 月 ), ver.1.0 (11 月 ) 2014/3/11 地球流体データ解析 数値計算ワークショップ 35
36 ver の機能 ( 予定 ) XMP/C XMP/F nodes distribute align shadow loop task reflect gmove coarray 組込み手続き 実装済み 制限あり 未実装 赤字 : 新規 2014/3/11 地球流体データ解析 数値計算ワークショップ 36
37 Omni XMP の利用 ウェブページ ソース tarball Debian/Ubuntu/CentOS 向けパッケージ チュートリアル サンプルコード サポート ML 京コンピュータで利用可能 /opt/aics/omni にインストール済 2014/3/11 地球流体データ解析 数値計算ワークショップ 37
38 性能 (1): 気象コード Speedup (single=1) MPI XMP-dt XMP-pack Number of Compute Nodes reflect ( ステンシル通信 ) の実装方法 XMP-pack は 並列パック / アンパックを利用 XMP-dt は MPI の派生データ型を利用 SCALE-LES の力学コアプロトタイプ 512x512x128 水平方向 2D をブロック分散 500 タイムステップ 京コンピュータ 言語環境 K Omni XMP /3/11 地球流体データ解析 数値計算ワークショップ 38
39 性能 (2): HPCC ベンチマーク 4~5 個のベンチマークにより プログラミング言語の高性能と高生産性を評価する Global HPL Global RandomAccess EP STREAM (Triad) per system Global FFT 2013 年 HPCC Award (class 2) は XcalableMP が受賞 2014/3/11 地球流体データ解析 数値計算ワークショップ 39
40 Results of RandomAccess RandomAccess(8 processes/node) GUPs, 16,384 nodes Performance (GUPs) Number of Nodes 2014/3/11 地球流体データ解析 数値計算ワークショップ 40
41 Result of HIMENO Benchmark HIMENO Benchmark (1 process/node with 8 threads) Performance (TFlops) 1.3 PFlops, 12.7% of peak 82,944 nodes The performance of the XMP HIMENO is 20% better than that of the original one. - Threaded pack/unpack operations - Persistent communication Number of Nodes 2014/3/11 地球流体データ解析 数値計算ワークショップ 41
42 Result of FFT FFT (1 process/node with 8 threads) Performance (TFlops) 50.1 TFlops, 1.1% of peak, 36,864 nodes Number of Nodes 2014/3/11 地球流体データ解析 数値計算ワークショップ 42
43 Results of STREAM STREAM (1 process/node with 8 threads) TB/s, 32,768 nodes Performance (TB/s) Number of Nodes 2014/3/11 地球流体データ解析 数値計算ワークショップ 43
44 Results of HPL HPL (1 process/node + Threaded BLAS) Performance (TFlops) TFlops, 44.5% of peak 16,384 nodes Number of Nodes 2014/3/11 地球流体データ解析 数値計算ワークショップ 44
45 まとめ MPI に代わるプログラミングモデルとして 多くの PGAS 言語が提案 開発されている 並列プログラミング言語 XcalableMP Fortran および C に対する拡張 ( 指示文ベース ) グローバルビュー & ローカルビュー Omni XcalableMP 理研と筑波大が開発中の XMP 処理系 無償でダウンロード 利用可能 2014/3/11 地球流体データ解析 数値計算ワークショップ 45
46 個人的な予測 地球流体の分野では coarray が本命? Fortran 標準 に採用されたので サポートするサイトが増えることが見込まれる XcalableMP/Fortran も有望 グローバルビューとローカルビュー (coarray) の両方を利用可能 2014/3/11 地球流体データ解析 数値計算ワークショップ 46
47 XMP 講習会 2014 年度に講習会を予定 7/16( 水 ), 9/18( 木 ), 12/18( 木 ) 座学 ( 本発表と同内容 ) および実習 計算科学振興財団 (FOCUS) のウェブページ ( より申込み 現時点では まだ募集は始まっていない模様 2014/3/11 地球流体データ解析 数値計算ワークショップ 47
1.overview
村井均 ( 理研 ) 2 はじめに 規模シミュレーションなどの計算を うためには クラスタのような分散メモリシステムの利 が 般的 並列プログラミングの現状 半は MPI (Message Passing Interface) を利 MPI はプログラミングコストが きい 標 性能と 産性を兼ね備えた並列プログラミング 語の開発 3 並列プログラミング 語 XcalableMP 次世代並列プログラミング
Microsoft PowerPoint - sps14_kogi6.pptx
Xcalable MP 並列プログラミング言語入門 1 村井均 (AICS) 2 はじめに 大規模シミュレーションなどの計算を うためには クラスタのような分散メモリシステムの利 が 般的 並列プログラミングの現状 大半は MPI (Message Passing Interface) を利 MPI はプログラミングコストが大きい 目標 高性能と高 産性を兼ね備えた並列プログラミング言語の開発 3
XACC講習会
www.xcalablemp.org 1 4, int array[max]; #pragma xmp nodes p(*) #pragma xmp template t(0:max-1) #pragma xmp distribute t(block) onto p #pragma xmp align array[i] with t(i) int array[max]; main(int argc,
XcalableMP入門
XcalableMP 1 HPC-Phys@, 2018 8 22 XcalableMP XMP XMP Lattice QCD!2 XMP MPI MPI!3 XMP 1/2 PCXMP MPI Fortran CCoarray C++ MPIMPI XMP OpenMP http://xcalablemp.org!4 XMP 2/2 SPMD (Single Program Multiple Data)
研究背景 大規模な演算を行うためには 分散メモリ型システムの利用が必須 Message Passing Interface MPI 並列プログラムの大半はMPIを利用 様々な実装 OpenMPI, MPICH, MVAPICH, MPI.NET プログラミングコストが高いため 生産性が悪い 新しい並
XcalableMPによる NAS Parallel Benchmarksの実装と評価 中尾 昌広 李 珍泌 朴 泰祐 佐藤 三久 筑波大学 計算科学研究センター 筑波大学大学院 システム情報工学研究科 研究背景 大規模な演算を行うためには 分散メモリ型システムの利用が必須 Message Passing Interface MPI 並列プログラムの大半はMPIを利用 様々な実装 OpenMPI,
HPC143
研究背景 GPUクラスタ 高性能 高いエネルギー効率 低価格 様々なHPCアプリケーションで用いられている TCA (Tightly Coupled Accelerators) 密結合並列演算加速機構 筑波大学HA-PACSクラスタ アクセラレータ GPU 間の直接通信 低レイテンシ 今後のHPCアプリは強スケーリングも重要 TCAとアクセラレータを搭載したシステムに おけるプログラミングモデル 例
XACCの概要
2 global void kernel(int a[max], int llimit, int ulimit) {... } : int main(int argc, char *argv[]){ MPI_Int(&argc, &argc); MPI_Comm_rank(MPI_COMM_WORLD, &rank); MPI_Comm_size(MPI_COMM_WORLD, &size); dx
PowerPoint プレゼンテーション
1 Omni XcalableMP Compiler の概要 下坂健則理化学研究所計算科学研究機構 2011/11/01 2 目次 開発概要 Omni XcalableMP Compilerの構造 Omni XcalableMP Compilerの特徴 インストール方法 講習会活動 課題 まとめ 3 開発概要 筑波大 CCS と理研 AICS で開発中 オープンソースプロジェクト XMP/C, XMP/Fortran
XMPによる並列化実装2
2 3 C Fortran Exercise 1 Exercise 2 Serial init.c init.f90 XMP xmp_init.c xmp_init.f90 Serial laplace.c laplace.f90 XMP xmp_laplace.c xmp_laplace.f90 #include int a[10]; program init integer
高生産 高性能プログラミング のための並列言語 XcalableMP 佐藤三久 筑波大学計算科学研究センター
高生産 高性能プログラミング のための並列言語 XcalableMP 佐藤三久 筑波大学計算科学研究センター もくじ なぜ 並列化は必要なのか XcalableMPプロジェクトについて XcalableMPの仕様 グローバルビューとローカルビュー directives プログラミング例 HPCC ベンチマークの性能 まとめ 並列処理の問題点 : 並列化はなぜ大変か ベクトルプロセッサ あるループを依存関係がなくなるように記述
NUMAの構成
メッセージパッシング プログラミング 天野 共有メモリ対メッセージパッシング 共有メモリモデル 共有変数を用いた単純な記述自動並列化コンパイラ簡単なディレクティブによる並列化 :OpenMP メッセージパッシング 形式検証が可能 ( ブロッキング ) 副作用がない ( 共有変数は副作用そのもの ) コストが小さい メッセージパッシングモデル 共有変数は使わない 共有メモリがないマシンでも実装可能 クラスタ
PowerPoint Presentation
並列プログラミング言語 XcalableMP プロジェクトの概要 佐藤三久 XcalableMP WG, 筑波大学計算科学研究センター もくじ XcalableMPプロジェクトについて XcalableMPの仕様 グローバルビューとローカルビュー directives プログラミング例 HPCC ベンチマークの性能 まとめ Petascale 並列プログラミング WG 目的 標準的な 並列プログラミングのためのペタスケールを目指した並列プログラミング言語の仕様を策定する
新しい並列プログラミング言語である 分散メモリ環境において OpenMPのようにMPI とは異なるシンプルな言語構文と指示文による並列化を目指している ベース言語は Fortran 言語とC 言語となっており 2011 年 6 月に発足したPC クラスタコンソーシアム XcalableMP 規格部会
高性能並列プログラミング言語 XcalableMP の紹介 IntroductionofaPGASparalelprogramminglanguage XcalableMP 一般財団法人高度情報科学技術研究機構原山卓也 井上孝洋 手島正吾国立研究開発法人理化学研究所計算科学研究機構村井均 現在の京を中核とするHPCI におけるスーパーコンピュータやPC クラスタでは CPU に多くの計算コアを搭載している
nakao
Fortran+Python 4 Fortran, 2018 12 12 !2 Python!3 Python 2018 IEEE spectrum https://spectrum.ieee.org/static/interactive-the-top-programming-languages-2018!4 Python print("hello World!") if x == 10: print
HPC146
2 3 4 5 6 int array[16]; #pragma xmp nodes p(4) #pragma xmp template t(0:15) #pragma xmp distribute t(block) on p #pragma xmp align array[i] with t(i) array[16] 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 Node
WinHPC ppt
MPI.NET C# 2 2009 1 20 MPI.NET MPI.NET C# MPI.NET C# MPI MPI.NET 1 1 MPI.NET C# Hello World MPI.NET.NET Framework.NET C# API C# Microsoft.NET java.net (Visual Basic.NET Visual C++) C# class Helloworld
スライド 1
目次 2.MPI プログラミング入門 この資料は, スーパーコン 10 で使用したものである. ごく基本的な内容なので, 現在でも十分利用できると思われるものなので, ここに紹介させて頂く. ただし, 古い情報も含まれているので注意が必要である. 今年度版の解説は, 本選の初日に配布する予定である. 1/20 2.MPI プログラミング入門 (1) 基本 説明 MPI (message passing
4th XcalableMP workshop 目的 n XcalableMPのローカルビューモデルであるXMPのCoarray機能を用 いて Fiberミニアプリ集への実装と評価を行う PGAS(Pertitioned Global Address Space)言語であるCoarrayのベ ンチマ
4th XcalableMP workshop 目的 n XcalableMPのローカルビューモデルであるXMPのCoarray機能を用 いて Fiberミニアプリ集への実装と評価を行う PGAS(Pertitioned Global Address Space)言語であるCoarrayのベ ンチマークとして整備することも考慮している n Coarrayによる並列化に関する知見を得る 1 n n l
Microsoft PowerPoint - compsys2-06.ppt
情報基盤センター天野浩文 前回のおさらい (1) 並列処理のやり方 何と何を並列に行うのか コントロール並列プログラミング 同時に実行できる多数の処理を, 多数のノードに分配して同時に処理させる しかし, 同時に実行できる多数の処理 を見つけるのは難しい データ並列プログラミング 大量のデータを多数の演算ノードに分配して, それらに同じ演算を同時に適用する コントロール並列よりも, 多数の演算ノードを利用しやすい
(Microsoft PowerPoint \215u\213`4\201i\221\272\210\344\201j.pptx)
AICS 村井均 RIKEN AICS HPC Summer School 2012 8/7/2012 1 背景 OpenMP とは OpenMP の基本 OpenMP プログラミングにおける注意点 やや高度な話題 2 共有メモリマルチプロセッサシステムの普及 共有メモリマルチプロセッサシステムのための並列化指示文を共通化する必要性 各社で仕様が異なり 移植性がない そして いまやマルチコア プロセッサが主流となり
Microsoft PowerPoint - XMP-AICS-Cafe ppt [互換モード]
![Microsoft PowerPoint - XMP-AICS-Cafe ppt [互換モード]](/thumbs/70/62991689.jpg "Microsoft PowerPoint - XMP-AICS-Cafe ppt [互換モード]")
XcalableMP: a directive-based language extension for scalable and performance-aware parallel programming Mitsuhisa Sato Programming Environment Research Team RIKEN AICS Research Topics in AICS Programming
¥Ñ¥Ã¥±¡¼¥¸ Rhpc ¤Î¾õ¶·
Rhpc COM-ONE 2015 R 27 12 5 1 / 29 1 2 Rhpc 3 forign MPI 4 Windows 5 2 / 29 1 2 Rhpc 3 forign MPI 4 Windows 5 3 / 29 Rhpc, R HPC Rhpc, ( ), snow..., Rhpc worker call Rhpc lapply 4 / 29 1 2 Rhpc 3 forign
about MPI
本日 (4/16) の内容 1 並列計算の概要 並列化計算の目的 並列コンピュータ環境 並列プログラミングの方法 MPI を用いた並列プログラミング 並列化効率 2 並列計算の実行方法 Hello world モンテカルロ法による円周率計算 並列計算のはじまり 並列計算の最初の構想を イギリスの科学者リチャードソンが 1922 年に発表 < リチャードソンの夢 > 64000 人を円形の劇場に集めて
スライド 1
本日 (4/25) の内容 1 並列計算の概要 並列化計算の目的 並列コンピュータ環境 並列プログラミングの方法 MPI を用いた並列プログラミング 並列化効率 2 並列計算の実行方法 Hello world モンテカルロ法による円周率計算 並列計算のはじまり 並列計算の最初の構想を イギリスの科学者リチャードソンが 1922 年に発表 < リチャードソンの夢 > 64000 人を円形の劇場に集めて
Microsoft PowerPoint - KHPCSS pptx
KOBE HPC サマースクール 2018( 初級 ) 9. 1 対 1 通信関数, 集団通信関数 2018/8/8 KOBE HPC サマースクール 2018 1 2018/8/8 KOBE HPC サマースクール 2018 2 MPI プログラム (M-2):1 対 1 通信関数 問題 1 から 100 までの整数の和を 2 並列で求めなさい. プログラムの方針 プロセス0: 1から50までの和を求める.
コードのチューニング
ハイブリッド並列 八木学 ( 理化学研究所計算科学研究機構 ) 謝辞 松本洋介氏 ( 千葉大学 ) KOBE HPC Spring School 2017 2017 年 3 月 14 日神戸大学計算科学教育センター MPI とは Message Passing Interface 分散メモリのプロセス間の通信規格(API) SPMD(Single Program Multi Data) が基本 -
Fujitsu Standard Tool
XcalableMP ワークショップ COARRAY の便利な使い方 2017 年 10 月 31 日富士通株式会社 ) 次世代 TC 開発本部原口正寿 COARRAY 仕様 Fortran 2008 に組み込まれた分散並列機能 指示文とサービスサブルーチンではなく 文法として組み込まれた [, ] ( 角括弧 ) によるプロセス間通信と 同期のための文 アトミックサブルーチンなど組込み手続 SPMDモデル(Single
Microsoft PowerPoint - sales2.ppt
最適化とは何? CPU アーキテクチャに沿った形で最適な性能を抽出できるようにする技法 ( 性能向上技法 ) コンパイラによるプログラム最適化 コンパイラメーカの技量 経験量に依存 最適化ツールによるプログラム最適化 KAP (Kuck & Associates, Inc. ) 人によるプログラム最適化 アーキテクチャのボトルネックを知ること 3 使用コンパイラによる性能の違い MFLOPS 90
Microsoft PowerPoint - 演習1：並列化と評価.pptx
講義 2& 演習 1 プログラム並列化と性能評価 神戸大学大学院システム情報学研究科横川三津夫 yokokawa@port.kobe-u.ac.jp 2014/3/5 RIKEN AICS HPC Spring School 2014: プログラム並列化と性能評価 1 2014/3/5 RIKEN AICS HPC Spring School 2014: プログラム並列化と性能評価 2 2 次元温度分布の計算
MPI usage
MPI (Version 0.99 2006 11 8 ) 1 1 MPI ( Message Passing Interface ) 1 1.1 MPI................................. 1 1.2............................... 2 1.2.1 MPI GATHER.......................... 2 1.2.2
並列計算導入.pptx
並列計算の基礎 MPI を用いた並列計算 並列計算の環境 並列計算 複数の計算ユニット(PU, ore, Pなど を使用して 一つの問題 計算 を行わせる 近年 並列計算を手軽に使用できる環境が急速に整いつつある >通常のP PU(entral Processing Unit)上に計算装置であるoreが 複数含まれている Intel ore i7 シリーズ: 4つの計算装置(ore) 通常のプログラム
Microsoft PowerPoint - OpenMP入門.pptx
OpenMP 入門 須田礼仁 2009/10/30 初版 OpenMP 共有メモリ並列処理の標準化 API http://openmp.org/ 最新版は 30 3.0 バージョンによる違いはあまり大きくない サポートしているバージョンはともかく csp で動きます gcc も対応しています やっぱり SPMD Single Program Multiple Data プログラム #pragma omp
<4D F736F F F696E74202D C097F B A E B93C782DD8EE682E890EA97705D>
並列アルゴリズム 2005 年後期火曜 2 限青柳睦 Aoyagi@cc.kyushu-u.ac.jp http//server-500.cc.kyushu-u.ac.jp/ 11 月 29( 火 ) 7. 集団通信 (Collective Communication) 8. 領域分割 (Domain Decomposition) 1 もくじ 1. 序並列計算機の現状 2. 計算方式およびアーキテクチュアの分類
Microsoft PowerPoint - 講義：コミュニケータ.pptx
コミュニケータとデータタイプ (Communicator and Datatype) 2019 年 3 月 15 日 神戸大学大学院システム情報学研究科横川三津夫 2019/3/15 Kobe HPC Spring School 2019 1 講義の内容 コミュニケータ (Communicator) データタイプ (Datatype) 演習問題 2019/3/15 Kobe HPC Spring School
<4D F736F F F696E74202D C097F B A E B93C782DD8EE682E890EA97705D>
並列アルゴリズム 2005 年後期火曜 2 限 青柳睦 Aoyagi@cc.kyushu-u.ac.jp http://server-500.cc.kyushu-u.ac.jp/ 10 月 11 日 ( 火 ) 1. 序並列計算機の現状 2. 計算方式およびアーキテクチュアの分類 ( 途中から ) 3. 並列計算の目的と課題 4. 数値計算における各種の並列化 1 講義の概要 並列計算機や計算機クラスターなどの分散環境における並列処理の概論
スーパーコンピューティングニュース特集号 原稿
T2K オープンスパコン ( 東大 ) チューニング連載講座 ( その 6) UPC のチューニング鴨志田良和 東京大学情報基盤センターはじめに既存の逐次プログラミングを並列化したり 新規に並列プログラムを作成したりするとき 逐次プログラムからの変更をなるべく少なくして記述することができればプログラムの見通しが良くなるし デバッグも容易になると考えられます 今回の記事では このような並列プログラミングを可能にするプログラミング言語のひとつである
VXPRO R1400® ご提案資料
Intel Core i7 プロセッサ 920 Preliminary Performance Report ノード性能評価 ノード性能の評価 NAS Parallel Benchmark Class B OpenMP 版での性能評価 実行スレッド数を 4 で固定 ( デュアルソケットでは各プロセッサに 2 スレッド ) 全て 2.66GHz のコアとなるため コアあたりのピーク性能は同じ 評価システム
PowerPoint プレゼンテーション
コンパイラとプログラミング言語 第 3 4 週 プログラミング言語の形式的な記述 2014 年 4 月 23 日 金岡晃 授業計画 第 1 週 (4/9) コンパイラの概要 第 8 週 (5/28) 下向き構文解析 / 構文解析プログラム 第 2 週 (4/16) コンパイラの構成 第 9 週 (6/4) 中間表現と意味解析 第 3 週 (4/23) プログラミング言語の形式的な記述 第 10 週
MPI コミュニケータ操作
コミュニケータとデータタイプ 辻田祐一 (RIKEN AICS) 講義 演習内容 MPI における重要な概念 コミュニケータ データタイプ MPI-IO 集団型 I/O MPI-IO の演習 2 コミュニケータ MPI におけるプロセスの 集団 集団的な操作などにおける操作対象となる MPI における集団的な操作とは? 集団型通信 (Collective Communication) 集団型 I/O(Collective
Fujitsu Standard Tool
低レベル通信ライブラリ ACP の PGAS ランタイム向け機能 2014 年 10 月 24 日富士通株式会社 JST CREST 安島雄一郎 Copyright 2014 FUJITSU LIMITED 本発表の構成 概要 インタフェース チャネル ベクタ リスト メモリアロケータ アドレス変換 グローバルメモリ参照 モジュール構成 メモリ消費量と性能評価 利用例 今後の課題 まとめ 1 Copyright
Microsoft PowerPoint - 講義：片方向通信.pptx
MPI( 片方向通信 ) 09 年 3 月 5 日 神戸大学大学院システム情報学研究科計算科学専攻横川三津夫 09/3/5 KOBE HPC Spring School 09 分散メモリ型並列計算機 複数のプロセッサがネットワークで接続されており, れぞれのプロセッサ (PE) が, メモリを持っている. 各 PE が自分のメモリ領域のみアクセス可能 特徴数千から数万 PE 規模の並列システムが可能
TopSE並行システム はじめに
はじめに 平成 23 年 9 月 1 日 トップエスイープロジェクト 磯部祥尚 ( 産業技術総合研究所 ) 2 本講座の背景と目標 背景 : マルチコア CPU やクラウドコンピューティング等 並列 / 分散処理環境が身近なものになっている 複数のプロセス ( プログラム ) を同時に実行可能 通信等により複数のプロセスが協調可能 並行システムの構築 並行システム 通信 Proc2 プロセス ( プログラム
スパコンに通じる並列プログラミングの基礎
2018.06.04 2018.06.04 1 / 62 2018.06.04 2 / 62 Windows, Mac Unix 0444-J 2018.06.04 3 / 62 Part I Unix GUI CUI: Unix, Windows, Mac OS Part II 2018.06.04 4 / 62 0444-J ( : ) 6 4 ( ) 6 5 * 6 19 SX-ACE * 6
01_OpenMP_osx.indd
OpenMP* / 1 1... 2 2... 3 3... 5 4... 7 5... 9 5.1... 9 5.2 OpenMP* API... 13 6... 17 7... 19 / 4 1 2 C/C++ OpenMP* 3 Fortran OpenMP* 4 PC 1 1 9.0 Linux* Windows* Xeon Itanium OS 1 2 2 WEB OS OS OS 1 OS
Microsoft Word - openmp-txt.doc
( 付録 A) OpenMP チュートリアル OepnMP は 共有メモリマルチプロセッサ上のマルチスレッドプログラミングのための API です 本稿では OpenMP の簡単な解説とともにプログラム例をつかって説明します 詳しくは OpenMP の規約を決めている OpenMP ARB の http://www.openmp.org/ にある仕様書を参照してください 日本語訳は http://www.hpcc.jp/omni/spec.ja/
Gfarm/MPI-IOの 概要と使い方
MPI-IO/Gfarm のご紹介と現在の開発状況 鷹津冬将 2018/3/2 Gfarm ワークショップ 2018 1 目次 MPI-IO/Gfarm 概要 MPI-IO/Gfarm の開発状況 MVAPICH2 向け MPI-IO/Gfarm MPI-IO/Gfarm の使い方 かんたんなサンプルプログラムと動作確認の方法 既知の不具合 まとめと今後の展望 2018/3/2 Gfarm ワークショップ
2012年度HPCサマーセミナー_多田野.pptx
! CCS HPC! I " tadano@cs.tsukuba.ac.jp" " 1 " " " " " " " 2 3 " " Ax = b" " " 4 Ax = b" A = a 11 a 12... a 1n a 21 a 22... a 2n...... a n1 a n2... a nn, x = x 1 x 2. x n, b = b 1 b 2. b n " " 5 Gauss LU
熊本大学学術リポジトリ Kumamoto University Repositor Title GPGPU による高速演算について Author(s) 榎本, 昌一 Citation Issue date Type URL Presentation
熊本大学学術リポジトリ Kumamoto University Repositor Title GPGPU による高速演算について Author(s) 榎本, 昌一 Citation Issue date 2011-03-17 Type URL Presentation http://hdl.handle.net/2298/23539 Right GPGPU による高速演算について 榎本昌一 東京大学大学院工学系研究科システム創成学専攻
Microsoft PowerPoint - CproNt02.ppt [互換モード]
![Microsoft PowerPoint - CproNt02.ppt [互換モード]](/thumbs/95/124866096.jpg "Microsoft PowerPoint - CproNt02.ppt [互換モード]")
第 2 章 C プログラムの書き方 CPro:02-01 概要 C プログラムの構成要素は関数 ( プログラム = 関数の集まり ) 関数は, ヘッダと本体からなる 使用する関数は, プログラムの先頭 ( 厳密には, 使用場所より前 ) で型宣言 ( プロトタイプ宣言 ) する 関数は仮引数を用いることができる ( なくてもよい ) 関数には戻り値がある ( なくてもよい void 型 ) コメント
Microsoft PowerPoint - 09.pptx
情報処理 Ⅱ 第 9 回 2014 年 12 月 22 日 ( 月 ) 関数とは なぜ関数 関数の分類 自作関数 : 自分で定義する. ユーザ関数 ユーザ定義関数 などともいう. 本日のテーマ ライブラリ関数 : 出来合いのもの.printf など. なぜ関数を定義するのか? 処理を共通化 ( 一般化 ) する プログラムの見通しをよくする 機能分割 ( モジュール化, 再利用 ) 責任 ( あるいは不具合の発生源
Microsoft PowerPoint 並列アルゴリズム04.ppt
並列アルゴリズム 2005 年後期火曜 2 限 青柳睦 Aoyagi@cc.kyushu-u.ac.jp http://server-500.cc.kyushu-u.ac.jp/ 11 月 8 日 ( 火 ) 5. MPI の基礎 6. 並列処理の性能評価 1 もくじ 1. 序並列計算機の現状 2. 計算方式およびアーキテクチュアの分類 3. 並列計算の目的と課題 4. 数値計算における各種の並列化
最新の並列計算事情とCAE
1 大島聡史 ( 東京大学情報基盤センター助教 / 並列計算分科会主査 ) 最新の並列計算事情と CAE アウトライン 最新の並列計算機事情と CAE 世界一の性能を達成した 京 について マルチコア メニーコア GPU クラスタ 最新の並列計算事情と CAE MPI OpenMP CUDA OpenCL etc. 京 については 仕分けやら予算やら計画やらの面で問題視する意見もあるかと思いますが
Microsoft PowerPoint - GPGPU実践基礎工学（web）.pptx
並列計算の概念 ( プロセスとスレッド ) 長岡技術科学大学電気電子情報工学専攻出川智啓 今回の内容 並列計算の分類 並列アーキテクチャ 並列計算機システム 並列処理 プロセスとスレッド スレッド並列化 OpenMP プロセス並列化 MPI 249 CPU の性能の変化 動作クロックを向上させることで性能を向上 http://pc.watch.impress.co.jp/docs/2003/0227/kaigai01.htm
スパコンに通じる並列プログラミングの基礎
2018.09.10 furihata@cmc.osaka-u.ac.jp ( ) 2018.09.10 1 / 59 furihata@cmc.osaka-u.ac.jp ( ) 2018.09.10 2 / 59 Windows, Mac Unix 0444-J furihata@cmc.osaka-u.ac.jp ( ) 2018.09.10 3 / 59 Part I Unix GUI CUI:
Microsoft PowerPoint - ●SWIM_ _INET掲載用.pptx
シーケンスに基づく検索モデルの検索精度について 東京工芸大学工学部コンピュータ応用学科宇田川佳久 (1/3) (2/3) 要員数 情報システム開発のイメージソースコード検索機能 他人が作ったプログラムを保守する必要がある 実務面での応用 1 バグあるいは脆弱なコードを探す ( 品質の高いシステムを開発する ) 2 プログラム理解を支援する ( 第 3 者が書いたコードを保守する ) 要件定義外部設計内部設計
program7app.ppt
プログラム理論と言語第 7 回 ポインタと配列, 高階関数, まとめ 有村博紀 吉岡真治 公開スライド PDF( 情報知識ネットワーク研 HP/ 授業 ) http://www-ikn.ist.hokudai.ac.jp/~arim/pub/proriron/ 本スライドは,2015 北海道大学吉岡真治 プログラム理論と言語, に基づいて, 現著者の承諾のもとに, 改訂者 ( 有村 ) が加筆修正しています.
openmp1_Yaguchi_version_170530
並列計算とは /OpenMP の初歩 (1) 今 の内容 なぜ並列計算が必要か? スーパーコンピュータの性能動向 1ExaFLOPS 次世代スハ コン 京 1PFLOPS 性能 1TFLOPS 1GFLOPS スカラー機ベクトル機ベクトル並列機並列機 X-MP ncube2 CRAY-1 S-810 SR8000 VPP500 CM-5 ASCI-5 ASCI-4 S3800 T3E-900 SR2201
Microsoft PowerPoint - algo ppt [互換モード]
![Microsoft PowerPoint - algo ppt [互換モード]](/thumbs/65/53901879.jpg "Microsoft PowerPoint - algo ppt [互換モード]")
( 復習 ) アルゴリズムとは アルゴリズム概論 - 探索 () - アルゴリズム 問題を解くための曖昧さのない手順 与えられた問題を解くための機械的操作からなる有限の手続き 機械的操作 : 単純な演算, 代入, 比較など 安本慶一 yasumoto[at]is.naist.jp プログラムとの違い プログラムはアルゴリズムをプログラミング言語で表現したもの アルゴリズムは自然言語でも, プログラミング言語でも表現できる
Microsoft PowerPoint - 高速化WS富山.pptx
京 における 高速化ワークショップ 性能分析 チューニングの手順について 登録施設利用促進機関 一般財団法人高度情報科学技術研究機構富山栄治 一般財団法人高度情報科学技術研究機構 2 性能分析 チューニング手順 どの程度の並列数が実現可能か把握する インバランスの懸念があるか把握する タイムステップループ I/O 処理など注目すべき箇所を把握する 並列数 並列化率などの目標を設定し チューニング時の指針とする
Vol.-HPC- No. // 情報処理学会研究報告 integer :: array():[*] integer :: tmp() if (this_image() == ) then array(:)[] = tmp(:) tmp(:) = arrray(:)[] end if! Put co
![Vol.-HPC- No. // 情報処理学会研究報告 integer :: array():[*] integer :: tmp() if (this_image() == ) then array(:)[] = tmp(:) tmp(:) = arrray(:)[] end if! Put co](/thumbs/89/97901763.jpg "Vol.-HPC- No. // 情報処理学会研究報告 integer :: array():[*] integer :: tmp() if (this_image() == ) then array(:)[] = tmp(:) tmp(:) = arrray(:)[] end if! Put co")
Vol.-HPC- No. // PGAS NICAM,,a),, PGAS XcalableMP NICAM MPI NICAM XcalableMP coarray XcalableMP coarray RDMA XcalableMP NICAM %. [] Message Passing Interface MPI [] MPI Partitioned Global Address Space
PowerPoint プレゼンテーション
Foundation アプライアンス スケーラブルシステムズ株式会社 サーバ クラスタの課題 複数のシステムを一つの だけで容易に管理することは出来ないだろうか? アプリケーションがより多くのメモリを必要とするのだけど ハードウエアの増設なしで対応出来ないだろうか? 現在の利用環境のまま 利用できるコア数やメモリサイズの増強を図ることは出来ないだろうか? 短時間で導入可能で また 必要に応じて 柔軟にシステム構成の変更が可能なソリューションは無いだろうか?...
Microsoft PowerPoint ppt
仮想マシン () 仮想マシン 復習 仮想マシンの概要 hsm 仮想マシン プログラム言語の処理系 ( コンパイラ ) 原始プログラム (Source program) コンパイラ (Compiler) 目的プログラム (Object code) 原始言語 (Source language) 解析 合成 目的言語 (Object Language) コンパイルする / 翻訳する (to compile
2 T 1 N n T n α = T 1 nt n (1) α = 1 100% OpenMP MPI OpenMP OpenMP MPI (Message Passing Interface) MPI MPICH OpenMPI 1 OpenMP MPI MPI (trivial p
22 6 22 MPI MPI 1 1 2 2 3 MPI 3 4 7 4.1.................................. 7 4.2 ( )................................ 10 4.3 (Allreduce )................................. 12 5 14 5.1........................................
PowerPoint プレゼンテーション
vsmp Foundation スケーラブル SMP システム スケーラブル SMP システム 製品コンセプト 2U サイズの 8 ソケット SMP サーバ コンパクトな筐体に多くのコアとメモリを実装し SMP システムとして利用可能 スイッチなし構成でのシステム構築によりラックスペースを無駄にしない構成 将来的な拡張性を保証 8 ソケット以上への拡張も可能 2 システム構成例 ベースシステム 2U
chap2.ppt
2. メッセージ通信計算 2.1 メッセージ通信プログラミングの基本 プログラミングの選択肢 特別な並列プログラミング言語を設計する occam (Inmos, 1984, 1986) 既存の逐次言語の文法 / 予約語をメッセージ通信を処理できるように拡張する 既存の逐次言語を用い メッセージ通信のための拡張手続のライブラリを用意する どのプロセスを実行するのか メッセージ通信のタイミング 中身を明示的に指定する必要がある
第1回 プログラミング演習3 センサーアプリケーション
C プログラミング - ポインタなんて恐くない! - 藤田悟 fujita_s@hosei.ac.jp 目標 C 言語プログラムとメモリ ポインタの関係を深く理解する C 言語プログラムは メモリを素のまま利用できます これが原因のエラーが多く発生します メモリマップをよく頭にいれて ポインタの動きを理解できれば C 言語もこわくありません 1. ポインタ入門編 ディレクトリの作成と移動 mkdir
Microsoft PowerPoint ppt
仮想マシン (2), コード生成 http://cis.k.hosei.ac.jp/~asasaki /lect/compiler/2007-1204.pdf ( 訂正版 ) 1 概要 仮想マシン 概要 ( 復習 ) 制御命令 出力命令 コード生成 式のコード生成 文 文の列のコード生成 記号表 2 演習で作るコンパイラの例 test.hcc Int main() { int i j; i = 3;
Slides: TimeGraph: GPU Scheduling for Real-Time Multi-Tasking Environments
計算機アーキテクチャ第 11 回 マルチプロセッサ 本資料は授業用です 無断で転載することを禁じます 名古屋大学 大学院情報科学研究科 准教授加藤真平 デスクトップ ジョブレベル並列性 スーパーコンピュータ 並列処理プログラム プログラムの並列化 for (i = 0; i < N; i++) { x[i] = a[i] + b[i]; } プログラムの並列化 x[0] = a[0] + b[0];
GPU チュートリアル :OpenACC 篇 Himeno benchmark を例題として 高エネルギー加速器研究機構 (KEK) 松古栄夫 (Hideo Matsufuru) 1 December 2018 HPC-Phys 理化学研究所 共通コードプロジェクト
GPU チュートリアル :OpenACC 篇 Himeno benchmark を例題として 高エネルギー加速器研究機構 (KEK) 松古栄夫 (Hideo Matsufuru) 1 December 2018 HPC-Phys 勉強会 @ 理化学研究所 共通コードプロジェクト Contents Hands On 環境について Introduction to GPU computing Introduction
MATLAB® における並列・分散コンピューティング ~ Parallel Computing Toolbox™ & MATLAB Distributed Computing Server™ ~
MATLAB における並列 分散コンピューティング ~ Parallel Computing Toolbox & MATLAB Distributed Computing Server ~ MathWorks Japan Application Engineering Group Takashi Yoshida 2016 The MathWorks, Inc. 1 System Configuration
OpenFOAM 勉強会 C++ プログラム相談 のご案内 オープン CAE シンポジウム 2012 金田誠 (OpenFOAM 勉強会 for 関東 ) 1
OpenFOAM 勉強会 C++ プログラム相談 のご案内 2012.12.15 オープン CAE シンポジウム 2012 金田誠 (OpenFOAM 勉強会 for beginner@ 関東 ) 1 C++ 学習法 C++ プログラマを目指す人 OpenFOAMの解析者 学習法が同じであって良いはずがない 解析者は C++ ばかりに時間を割いていられない 2 本を紹介して と言われると悩む Effective
: (1), ( ) 1 1.1,, 1 OpenMP [3, 5, 21, 22], MPI [13, 18, 23].., (C Fortran)., OS,. C Fortran,,,,. ( ),,.,,.,,,.,,,.,.,. 1
![: (1), ( ) 1 1.1,, 1 OpenMP [3, 5, 21, 22], MPI [13, 18, 23].., (C Fortran)., OS,. C Fortran,,,,. ( ),,.,,.,,,.,,,.,.,. 1](/thumbs/101/152156338.jpg ": (1), ( ) 1 1.1,, 1 OpenMP [3, 5, 21, 22], MPI [13, 18, 23].., (C Fortran)., OS,. C Fortran,,,,. ( ),,.,,.,,,.,,,.,.,. 1")
: (1), ( ) 1 1.1,, 1 OpenMP [3, 5, 21, 22], MPI [13, 18, 23].., (C Fortran)., OS,. C Fortran,,,,. ( ),,.,,.,,,.,,,.,.,. 1 1.2,.,,,,.. CPU,,., (, ). (NUMA ).,.,. Flat MPI,,.,,. GPU, SIMD, [11]. C Fortran,.,
ex01.dvi
,. 0. 0.0. C () /******************************* * $Id: ex_0_0.c,v.2 2006-04-0 3:37:00+09 naito Exp $ * * 0. 0.0 *******************************/ #include int main(int argc, char **argv) { double
AICS 村井均 RIKEN AICS HPC Summer School /6/2013 1
AICS 村井均 RIKEN AICS HPC Summer School 2013 8/6/2013 1 背景 OpenMP とは OpenMP の基本 OpenMP プログラミングにおける注意点 やや高度な話題 2 共有メモリマルチプロセッサシステムの普及 共有メモリマルチプロセッサシステムのための並列化指示文を共通化する必要性 各社で仕様が異なり 移植性がない そして いまやマルチコア プロセッサが主流となり
スパコンに通じる並列プログラミングの基礎
2016.06.06 2016.06.06 1 / 60 2016.06.06 2 / 60 Windows, Mac Unix 0444-J 2016.06.06 3 / 60 Part I Unix GUI CUI: Unix, Windows, Mac OS Part II 0444-J 2016.06.06 4 / 60 ( : ) 6 6 ( ) 6 10 6 16 SX-ACE 6 17
演習準備 2014 年 3 月 5 日神戸大学大学院システム情報学研究科森下浩二 1 RIKEN AICS HPC Spring School /3/5
演習準備 2014 年 3 月 5 日神戸大学大学院システム情報学研究科森下浩二 1 演習準備の内容 神戸大 FX10(π-Computer) 利用準備 システム概要 ログイン方法 コンパイルとジョブ実行方法 MPI 復習 1. MPIプログラムの基本構成 2. 並列実行 3. 1 対 1 通信 集団通信 4. データ 処理分割 5. 計算時間計測 2 神戸大 FX10(π-Computer) 利用準備
Total View Debugger 利用の手引 東京工業大学学術国際情報センター version 1.0
Total View Debugger 利用の手引 東京工業大学学術国際情報センター 2015.04 version 1.0 目次 Total View Debugger 利用の手引き 1 1. はじめに 1 1.1 利用できるバージョン 1 1.2 概要 1 1.3 マニュアル 1 2. TSUBAME での利用方法 2 2.1 Total View Debugger の起動 2 (1) TSUBAMEにログイン
コードのチューニング
OpenMP による並列化実装 八木学 ( 理化学研究所計算科学研究センター ) KOBE HPC Spring School 2019 2019 年 3 月 14 日 スレッド並列とプロセス並列 スレッド並列 OpenMP 自動並列化 プロセス並列 MPI プロセス プロセス プロセス スレッドスレッドスレッドスレッド メモリ メモリ プロセス間通信 Private Private Private
演習１： 演習準備
演習 1: 演習準備 2013 年 8 月 6 日神戸大学大学院システム情報学研究科森下浩二 1 演習 1 の内容 神戸大 X10(π-omputer) について システム概要 ログイン方法 コンパイルとジョブ実行方法 OpenMP の演習 ( 入門編 ) 1. parallel 構文 実行時ライブラリ関数 2. ループ構文 3. shared 節 private 節 4. reduction 節
TSUBAME2.0 における GPU の 活用方法 東京工業大学学術国際情報センター丸山直也第 10 回 GPU コンピューティング講習会 2011 年 9 月 28 日
TSUBAME2.0 における GPU の 活用方法 東京工業大学学術国際情報センター丸山直也第 10 回 GPU コンピューティング講習会 2011 年 9 月 28 日 目次 1. TSUBAMEのGPU 環境 2. プログラム作成 3. プログラム実行 4. 性能解析 デバッグ サンプルコードは /work0/gsic/seminars/gpu- 2011-09- 28 からコピー可能です 1.
並列・高速化を実現するための 高速化サービスの概要と事例紹介
第 4 回 AVS 可視化フォーラム 2019 並列 高速化を実現するための 高速化サービスの概要と事例紹介 株式会社アーク情報システム営業部仮野亮ソリューション技術部佐々木竜一 2019.08.30 はじめに アーク情報システムの紹介 高速化サービスとは? 事例紹介 コンサルティングサービスについて アーク情報システムの紹介 設立 資本金 :1987 年 10 月 :3 億 600 万円 従業員数
02: 変数と標準入出力
C プログラミング入門 基幹 7 ( 水 5) 12: コマンドライン引数 Linux にログインし 以下の講義ページを開いておくこと http://www-it.sci.waseda.ac.jp/ teachers/w483692/cpr1/ 2016-06-29 1 まとめ : ポインタを使った処理 内容呼び出し元の変数を書き換える文字列を渡す 配列を渡すファイルポインタ複数の値を返す大きな領域を確保する
目 目 用方 用 用 方
大 生 大 工 目 目 用方 用 用 方 用 方 MS-MPI MPI.NET MPICH MPICH2 LAM/MPI Ver. 2 2 1 2 1 C C++ Fortan.NET C# C C++ Fortan 用 行 用 用 用 行 用 言 言 言 行 生 方 方 一 行 高 行 行 文 用 行 If ( rank == 0 ) { // 0 } else if (rank == 1) {
バイオプログラミング第 1 榊原康文 佐藤健吾 慶應義塾大学理工学部生命情報学科
バイオプログラミング第 1 榊原康文 佐藤健吾 慶應義塾大学理工学部生命情報学科 ポインタ変数の扱い方 1 ポインタ変数の宣言 int *p; double *q; 2 ポインタ変数へのアドレスの代入 int *p; と宣言した時,p がポインタ変数 int x; と普通に宣言した変数に対して, p = &x; は x のアドレスのポインタ変数 p への代入 ポインタ変数の扱い方 3 間接参照 (
FORTRAN( と C) によるプログラミング 5 ファイル入出力 ここではファイルからデータを読みこんだり ファイルにデータを書き出したりするプログラムを作成してみます はじめに テキスト形式で書かれたデータファイルに書かれているデータを読みこんで配列に代入し 標準出力に書き出すプログラムを作り
FORTRAN( と C) によるプログラミング 5 ファイル入出力 ここではファイルからデータを読みこんだり ファイルにデータを書き出したりするプログラムを作成してみます はじめに テキスト形式で書かれたデータファイルに書かれているデータを読みこんで配列に代入し 標準出力に書き出すプログラムを作ります FORTRAN の場合 OPEN 文でファイルを開いた後 標準入力の場合と同様に READ 文でデータを読みこみます
RICCについて
RICC 1 RICC 2 RICC 3 RICC GPU 1039Nodes 8312core) 93.0GFLOPS, 12GB(mem), 500GB (hdd) DDR IB!1 PC100Nodes(800core) 9.3 GPGPU 93.3TFLOPS HPSS (4PB) (550TB) 0.24 512GB 1500GB MDGRAPE33TFLOPS MDGRAPE-3 64
Microsoft PowerPoint - kougi7.ppt
C プログラミング演習 第 7 回メモリ内でのデータの配置 例題 1. 棒グラフを描く 整数の配列から, その棒グラフを表示する ループの入れ子で, 棒グラフの表示を行う ( 参考 : 第 6 回授業の例題 3) 棒グラフの1 本の棒を画面に表示する機能を持った関数を補助関数として作る #include "stdafx.h" #include void draw_bar( int
IntelR Compilers Professional Editions
June 2007 インテル コンパイラー プロフェッショナル エディション Phil De La Zerda 公開が禁止された情報が含まれています 本資料に含まれるインテル コンパイラー 10.0 についての情報は 6 月 5 日まで公開が禁止されています グローバル ビジネス デベロップメント ディレクター Intel Corporation マルチコア プロセッサーがもたらす変革 これまでは
memo
数理情報工学演習第一 C プログラミング演習 ( 第 5 回 ) 2015/05/11 DEPARTMENT OF MATHEMATICAL INFORMATICS 1 今日の内容 : プロトタイプ宣言 ヘッダーファイル, プログラムの分割 課題 : 疎行列 2 プロトタイプ宣言 3 C 言語では, 関数や変数は使用する前 ( ソースの上のほう ) に定義されている必要がある. double sub(int
.NETプログラマー早期育成ドリル ～VB編 付録 文法早見表～
.NET プログラマー早期育成ドリル VB 編 付録文法早見表 本資料は UUM01W:.NET プログラマー早期育成ドリル VB 編コードリーディング もしくは UUM02W:.NET プログラマー早期育成ドリル VB 編コードライティング を ご購入頂いた方にのみ提供される資料です 資料内容の転載はご遠慮下さい VB プログラミング文法早見表 < 基本文法 > 名前空間の定義 Namespace
Microsoft PowerPoint - prog03.ppt
プログラミング言語 2 第 03 回 (2007 年 05 月 07 日 ) 今日の配布物 片面の用紙 1 枚 今日の課題が書かれています 本日の出欠を兼ねています 1 今日やること hp://www.nlab.ice.uec.ac.jp/~s-okubo/class/language/ にアクセスすると 教材があります 2007 年 05 月 07 日分と書いてある部分が 本日の教材です 本日の内容
Microsoft PowerPoint - C言語の復習（配布用）.ppt [互換モード]
![Microsoft PowerPoint - C言語の復習（配布用）.ppt [互換モード]](/thumbs/96/127138597.jpg "Microsoft PowerPoint - C言語の復習（配布用）.ppt [互換モード]")
if 文 (a と b の大きい方を表示 ) C 言語 Ⅰ の復習 条件判定 (if, 条件式 ) ループ (for[ 二重まで ], while, do) 配列 ( 次元 次元 ) トレース int a, b; printf( 整数 a: ); scanf( %d, &a); printf( 整数 b: ); scanf( %d, &b); //つのif 文で表現する場合間違えやすい どっちに =
連載講座 : 高生産並列言語を使いこなす (4) ゲーム木探索の並列化 田浦健次朗 東京大学大学院情報理工学系研究科, 情報基盤センター 目次 1 準備 問題の定義 αβ 法 16 2 αβ 法の並列化 概要 Young Brothers Wa
連載講座 : 高生産並列言語を使いこなす (4) ゲーム木探索の並列化 田浦健次朗 東京大学大学院情報理工学系研究科, 情報基盤センター 目次 1 準備 16 1.1 問題の定義 16 1.2 αβ 法 16 2 αβ 法の並列化 17 2.1 概要 17 2.2 Young Brothers Wait Concept 17 2.3 段数による逐次化 18 2.4 適応的な待機 18 2. 強制終了
02: 変数と標準入出力
C プログラミング入門 基幹 7 ( 水 5) 1 12: コマンドライン引数 Linux にログインし 以下の講義ページを開いておくこと http://www-it.sci.waseda.ac.jp/teachers/w48369 2/CPR1/ 2017-07-05 まとめ : ポインタを使った処理 2 内容呼び出し元の変数を書き換える文字列を渡す 配列を渡すファイルポインタ複数の値を返す大きな領域を確保する
プログラミング基礎
C プログラミング Ⅰ 授業ガイダンス C 言語の概要プログラム作成 実行方法 授業内容について 授業目的 C 言語によるプログラミングの基礎を学ぶこと 学習内容 C 言語の基礎的な文法 入出力, 変数, 演算, 条件分岐, 繰り返し, 配列,( 関数 ) C 言語による簡単な計算処理プログラムの開発 到達目標 C 言語の基礎的な文法を理解する 簡単な計算処理プログラムを作成できるようにする 授業ガイダンス
GPGPUクラスタの性能評価
2008 年度理研 HPC シンポジウム第 3 世代 PC クラスタ GPGPU クラスタの性能評価 2009 年 3 月 12 日 富士通研究所成瀬彰 発表の概要 背景 GPGPU による高速化 CUDA の概要 GPU のメモリアクセス特性調査 姫野 BMT の高速化 GPGPU クラスタによる高速化 GPU Host 間のデータ転送 GPU-to-GPU の通信性能 GPGPU クラスタ上での姫野
スライド 1
High Performance and Productivity 並列プログラミング課題と挑戦 HPC システムの利用の拡大の背景 シュミレーションへの要求 より複雑な問題をより精度良くシュミレーションすることが求められている HPC システムでの並列処理の要求の拡大 1. モデル アルゴリズム 解析対象は何れもより複雑で 規模の大きなものになっている 2. マイクロプロセッサのマルチコア化 3.
プログラミング実習I
プログラミング実習 I 05 関数 (1) 人間システム工学科井村誠孝 m.imura@kwansei.ac.jp 関数とは p.162 数学的には入力に対して出力が決まるもの C 言語では入出力が定まったひとまとまりの処理 入力や出力はあるときもないときもある main() も関数の一種 何かの仕事をこなしてくれる魔法のブラックボックス 例 : printf() 関数中で行われている処理の詳細を使う側は知らないが,
Program Design (プログラム設計）
7. モジュール化設計 内容 : モジュールの定義モジュールの強度又は結合力モジュール連結モジュールの間の交信 7.1 モジュールの定義 プログラムモジュールとは 次の特徴を持つプログラムの単位である モジュールは 一定の機能を提供する 例えば 入力によって ある出力を出す モジュールは 同じ機能仕様を実装しているほかのモジュールに置き換えられる この変化によって プログラム全体に影響をあまり与えない
memo
計数工学プログラミング演習 ( 第 3 回 ) 2017/04/25 DEPARTMENT OF MATHEMATICAL INFORMATICS 1 内容 ポインタの続き 引数の値渡しと参照渡し 構造体 2 ポインタで指されるメモリへのアクセス double **R; 型 R[i] と *(R+i) は同じ意味 意味 R double ** ポインタの配列 ( の先頭 ) へのポインタ R[i]