PowerPoint プレゼンテーション

Size: px

Start display at page:

Download "PowerPoint プレゼンテーション"

しじんまるこ
5 years ago
Views:

1 SMYLE OpenCL における組込み関数の開発と評価江谷典子立命館大学総合科学技術研究機構 2012 年 12 月 5 日 2012 Noriko Etani, Ritsumeikan University 1

2 発表の内容背景目的要素技術関連研究 SMYLE OpenCLにおける組込み関数の開発性能評価まとめ 2012 Noriko Etani, Ritsumeikan University 2

3 背景 2012 Noriko Etani, Ritsumeikan University 3

4 背景並列処理を強いられるソフトウェア The Free Lunch is Over by Herb Sutter, 応用指向プロセッサの活用特定の処理を想定しているためコアをシンプルに小さくできる汎用用途に歩み寄る GPU(Graphics Processing Unit) ヘテロジニアスマルチコアの存在 1 チップ内に汎用プロセッサと応用指向プロセッサを搭載 (Cell/B.E., AMD Fusion, Intel Sandy Bridge) 参考文献 : 第 1 回メニーコアシンポジウム, 2012 年 3 月 30 日 2012 Noriko Etani, Ritsumeikan University 4

5 目的 2012 Noriko Etani, Ritsumeikan University 5

大幅な動作時消費電力の削減 (3) ソフトウェアの生産性の向上平成 24 年度研究目標既存技術と比べて電力当たりの処理性能 2 倍

6 NEDO プロジェクト極低電力回路システム技術開発 ( グリーン IT プロジェクト ) 低消費電力メニーコア用アーキテクチャとコンパイラ技術目的組込みシステム向けの高性能かつ低消費電力メニーコアプロセッサ実現課題 (1) 組込みシステムを意識した効率的な超並列処理の実現 (2) 大幅な動作時消費電力の削減 (3) ソフトウェアの生産性の向上平成 24 年度研究目標既存技術と比べて電力当たりの処理性能 2 倍組込み向けアプリケーションプログラム実行時の電力消費量を 1/10 以下にする 2012 Noriko Etani, Ritsumeikan University 6

7 目的高レベルAPIの策定 OpenCLの仕様をベースに高いリアルタイム性を考慮し独自の制約と解釈を与えたSMYLE OpenCLを検討 SMYLErefアーキテクチャの評価環境を用いて OpenCLに準拠した高レベルAPIを実装し評価すること SMYLE OpenCL における組込み関数の開発と評価 2012 Noriko Etani, Ritsumeikan University 7

8 要素技術 2012 Noriko Etani, Ritsumeikan University 8

9 組込みシステム向けメニーコアアーキテクチャモデルホストプロセッサ共有メモリメニーコアプロセッサアレイ : Processing Element 1 つ 1 つのごとに異なるプログラムを動作させることが可能 2012 Noriko Etani, Ritsumeikan University 9

バスで結合 IL1 Scalar Core DL1 IL1 Scalar Core DL1 IL1 Scalar Core DL1 IL1 Scalar Core DL1 Distributed Shared L2 DL1 DL1 DL1 DL1 Scalar Core Scalar Core Scalar Core Scalar

10 バスで結合 IL1 Scalar Core DL1 IL1 Scalar Core DL1 IL1 Scalar Core DL1 IL1 Scalar Core DL1 Distributed Shared L2 DL1 DL1 DL1 DL1 Scalar Core Scalar Core Scalar Core Scalar Core IL1 IL1 IL1 IL1 SMYLEref アーキテクチャ Packet Cont. Router Cluster 2 次元メッシュの NoC で結合 SDRAM Mem. Controler I/O Controler Peripherals 2012 Noriko Etani, Ritsumeikan University 10

11 Open Computing Language(OpenCL) クロノス (Khronos) グループの標準化 C99 に基づく C 言語 ( コンパイラ ) と並列計算をサポートする API 群並列処理プログラムを書くためのフレームワーク CPU GPU DSP などが混在するプラットフォームホストホストプログラム制御側のソフトウェアが動作する計算環境プロセッサ (CPU) メモリ OpenCL デバイスカーネル演算用のソフトウェアが動作する計算環境演算用プロセッサ (GPU DSP Cell/B.E. CPU) メモリ 2012 Noriko Etani, Ritsumeikan University 11

12 関連研究 2012 Noriko Etani, Ritsumeikan University 12

13 関連研究 SnuCL 韓国ソウル大学による開発 Jungwon Kim, Sangmin Seo, Jun Lee, Jeongho Nah, Gangwon Jo, Jaejin Lee, SnuCL: an OpenCL framework for heterogeneous CPU/GPU clusters, ICS '12 再利用性透過性 Portable OpenCL(POCL) スペインレイファンカルロス大学カルロスサンチェスララマらによる開発適合性可搬性 2012 Noriko Etani, Ritsumeikan University 13

14 SMYLE OpenCL における組込み関数の開発 2012 Noriko Etani, Ritsumeikan University 14

15 システム構成開発環境ハードウェア (1)Xilinx 社製 FPGA チップである Virtex-6 を搭載する ML605 評価ボード ML605 ボード FPGAデバイス SDRAM 搭載 I/Oポートクロック入力 Virtex-6 XC6VLX240T-1FFG1156 DDR3 SODIMM(512MB) UART, USB, DVI 出力, CF, SMA 等 200MHz オシレータ, 66MHz ソケットオシレータ Virtex-6チップ CMOS 40nm, 1.0V Logic Cells 241,152 CLB Slices 37,680 Block RAM 14,976Kbit ユーザー I/O 数 720 消費電力 Static Power: 3.6W, Total Power: 6.5W 2012 Noriko Etani, Ritsumeikan University 15

16 システム構成開発環境 (2)PC と評価ボードを USB 接続 Windows 用ターミナルエミュレータ TeraTerm Version4.73 を利用 2012 Noriko Etani, Ritsumeikan University 16

17 システム構成開発環境ソフトウェア (1) ターゲット OS 用クロスコンパイル環境を構築 (2)POCL0.6.0 の動作環境 PC Sony VAIO CPU 名称 :Intel Core i7-2640m プロセッサ動作周波数 :2.80GHz 消費電力 (Max TDP):35W OS Windows 7 Professional Service Pack 1 VM VMware Player HOST 32-bit Fedora Noriko Etani, Ritsumeikan University 17

18 システム構成 SMYLEref アーキテクチャの評価環境 (1) コアの割り当てホストコアデバイスコア Core0 Core Core Core SMYLEref アーキテクチャ FPGA ホストコア : プロセッサと仮定してホストを実行できるコア 2012 Noriko Etani, Ritsumeikan University 18

19 システム構成 SMYLEref アーキテクチャの評価環境 (2) コアへ供給する周波数設定 10MHz (3)SIMD の実装なしベクタ型データや演算は扱わない (4) 浮動小数点演算器の実装なしホストプログラムの倍精度単精度の演算と算術関数の実装 MPFR( 任意精度浮動小数点演算ライブラリ ) や GMP( 高速多倍長演算ライブラリ ) を組み込んだコンパイラのソフトウェアエミュレーション機能を利用カーネルの倍精度単精度の演算カーネルへ浮動小数点ソフトウェアエミュレーションを組み込んで利用 2012 Noriko Etani, Ritsumeikan University 19

20 システム構成ホストプログラムとカーネルの構成ホストプログラムアプリケーションカーネルアプリケーション組込み関数組込み関数 SMYLE OpenCL ランタイムライブラリ mips-geyser-linux SMYLE-Ref 層 pthread 層 IO ライブラリ (ml501io.c) 浮動小数点ソフトウェアエミュレーションホストコア SMYLEref アーキテクチャ FPGA デバイスコア 2012 Noriko Etani, Ritsumeikan University 20

21 システム構成ホストの動作環境ホストプログラムホストコア Core0 デバイスコア Core Core Core アプリケーションプログラム共有メモリ SMYLEref アーキテクチャ FPGA 2012 Noriko Etani, Ritsumeikan University 21

22 システム構成デバイスの動作環境 K0 K1 K2 K3 カーネルアプリケーションプログラム K0 K1 K2 K3 Core0 Core Core Core 共有メモリデバイスコア SMYLEref アーキテクチャ FPGA 2012 Noriko Etani, Ritsumeikan University 22

23 設計と実装実装課題スタティックライブラリの提供浮動小数点ソフトウェアエミュレーションをカーネルへ組み込む四則演算 + - * / 比較 = < > ただし < > は正の値のみ可データ型の変換戻り値データ幅の拡張戻り値データ幅の縮小 int 型への変換符号付ゼロ (-0) の扱いが可 OpenCL1.2 仕様に準拠 SnuCL1.2β 版のプログラムを利用 2012 Noriko Etani, Ritsumeikan University 23

24 設計と実装 SMYLE OpenCL における組込み関数の仕様検討 OpenCLの仕様をベースに独自の制約と解釈を与えた組込み関数の仕様を検討全仕様 200 関数仕様検討 110 関数仕様未対応 90 関数動作確認テストを実施算術関数 60 関数整数関数 17 関数共通関数 9 関数幾何関数 7 関数比較関数 18 関数同期関数 1 関数 2012 Noriko Etani, Ritsumeikan University 24

25 設計と実装実装結果組込み関数 OpneCL1.2 関数 SMYLE OpenCL 関数 uclibc 標準ライブラリを使う関数算術関数 60 Host: 3, Kernel: 3 Host: 26, Kernel: 0 整数関数 17 Host: 14, Kernel: 14 Host: 1, Kernel: 1 共通関数 9 Host: 4, Kernel: 1 - 幾何関数 7 Host: 4, Kernel: 0 - 比較関数 16 Host: 10, Kernel: 10 - 同期関数 1 Host: -, Kernel: Noriko Etani, Ritsumeikan University 25

26 設計と実装浮動小数点エミュレータを利用する関数 ( カーネル ) 組込み関数 SMYLE OpenCL 関数関数名算術関数 3 fdim, mad, nextafter 共通関数 1 step 比較関数 8 iseqaul, isnotequal, isorderd Only the positive value is available by isgreater, isgreaterequal, isless, islessequal, islessgreater Noriko Etani, Ritsumeikan University 26

27 設計と実装実装結果 : 関数が動作しない原因と課題原因ホストカーネル uclibc 標準ライブラリの未サポート多重定義不可演算エラー 6 12 uclibc 標準ライブラリ未サポート glibc の関数群から開発者が必要な関数を選択してスタティックライブラリを生成できるようにすること ( 組込み向け Linux の問題 ) GCC を利用する場合多重定義不可のため OpenCL と uclibc 標準ライブラリと同じ関数名であるので uclibc 標準ライブラリを利用するという運用カーネルはロードアドレスを指定する必要があるので LD を利用してオブジェクトファイルをリンクするよって gcc に組み込まれている MPFR( 任意精度浮動小数点演算ライブラリ ) と GMP ( 高速多倍長演算ライブラリ ) を利用できない ( コンパイラの問題 ) 2012 Noriko Etani, Ritsumeikan University 27

28 設計と実装 SMYLE OpenCL における組込み関数算術関数関数名ホストカーネル関数名ホストカーネル関数名ホストカーネル acos cosh nextafter acospi cospi pow asin expml rsqrt asinpi fabs sin atan fdim sinh atan2 floor sinpi atanpi ldexp sqrt ceil log tan copysign log10 tanh cos mad 整数関数関数名ホストカーネル関数名ホストカーネル関数名ホストカーネル abs rhadd min abs_diff clamp mul24 add_sat mad24 rotate clz mad_sat sub_sat hadd max popcount 2012 Noriko Etani, Ritsumeikan University 28

29 設計と実装 SMYLE OpenCL における組込み関数 (cont d) 共通関数幾何関数関数名ホストカーネル関数名ホストカーネル関数名ホストカーネル dot distance length normalize 比較関数関数名ホストカーネル関数名ホストカーネル関数名ホストカーネル isequal isless isordered isnotequal islessequal bitselect isgreater islessgreater select isgreaterequal 同期関数関数名ホストカーネル barrier Noriko Etani, Ritsumeikan University 29

barrier() barrier() barrier() 処理 C 処理 B 処理 B 処理 B カーネル間で処理 B および C

30 設計と実装同期関数の仕様と制御方法カーネル 1 カーネル 2 カーネル 3 カーネル 0 シーケンス制御処理 A barrier() 処理 A barrier() 処理 A barrier() 処理 A barrier() 同期制御処理 B 処理 B 処理 B 処理 B barrier() barrier() barrier() barrier() 処理 C 処理 B 処理 B 処理 B カーネル間で処理 B および C の開始を揃えることができるバリアカウンタとバリア脱出カウンタによる制御が必要 2012 Noriko Etani, Ritsumeikan University 30

31 設計と実装同期関数のコード int barrier(){ // 前回の同期関数コール終了待ち while(global_escape!= 0){ } // 排他制御ロック sr_mutex_lock( &mutex ); { //!!!CRITICAL SECTION!!! // バリアカウンタの加算 global_barrier +=1; } // 排他制御アンロック sr_mutex_unlock( &mutex ); // 同期制御のため待機 while(global_barrier < SR_NUM_OF_CORES){ } // 排他制御ロック sr_mutex_lock( &mutex ); { //!!!CRITICAL SECTION!!! // バリア脱出カウンタ加算 global_escape +=1; // 今回の同期関数コールが全部終了 // であればカウンタ初期化 if((global_escape == SR_NUM_OF_CORES)&& (global_barrier == SR_NUM_OF_CORES)) { global_escape = 0; global_barrier = 0; } } // 排他制御アンロック sr_mutex_unlock( &mutex ); } 2012 Noriko Etani, Ritsumeikan University 31

32 設計と実装検証 : 並列プログラミングモデルカーネル実行タスク実行指示デバイス演算ユニット演算ユニット演算ユニット演算ユニットデータ並列カーネル実行タスク実行指示デバイス 1 演算ユニット 2 演算ユニット 3 演算ユニット 4 演算ユニットタスク並列 2012 Noriko Etani, Ritsumeikan University 32

33 設計と実装検証 : データ並列テストプログラム int app_barrier() { printf("1 n"); barrier(); printf("2 n"); barrier(); printf("3 n"); barrier(); printf("4 n"); barrier(); printf("5 n"); } 2012 Noriko Etani, Ritsumeikan University 33

34 設計と実装実験検証 : データ並列テスト結果 2012 Noriko Etani, Ritsumeikan University 34

35 設計と実装検証 : タスク並列テストプログラム int app_core_0() { printf("0 n"); barrier(); printf("0 n"); barrier(); printf("0 n"); barrier(); printf("0 n"); barrier(); printf("0 n"); } int app_core_1() { printf("1 n"); barrier(); printf("1 n"); barrier(); printf("1 n"); barrier(); printf("1 n"); barrier(); printf("1 n"); } int app_core_2() { printf("2 n"); barrier(); printf("2 n"); barrier(); printf("2 n"); barrier(); printf("2 n"); barrier(); printf("2 n"); } int app_core_3() { printf("3 n"); barrier(); printf("3 n"); barrier(); printf("3 n"); barrier(); printf("3 n"); barrier(); printf("3 n"); } 2012 Noriko Etani, Ritsumeikan University 35

36 設計と実装検証 : タスク並列テスト結果 2012 Noriko Etani, Ritsumeikan University 36

37 性能評価 2012 Noriko Etani, Ritsumeikan University 37

38 評価並列ベンチマークアプリケーションカーネルでの同期関数を用いた並列アプリケーションプログラムの処理速度を計測ベンチマーク 1( データ並列 ) 組込み関数の 12 整数関数を利用 1 つの関数をコールする度に同期関数をコールベンチマーク 2( タスク並列 ) ベンチマーク 1 での関数コールの順番を変更して 4 種類の異なるプログラムとする 2012 Noriko Etani, Ritsumeikan University 38

39 評価処理速度と消費電力ベンチマーク計測結果コア動作周波数 : 10MHz CPU 動作周波数 : 2.80GHz 単位 msec ベンチマーク 1 ベンチマーク 2 SMYLE OpenCL POCL 消費電力比較 FPGA: 6.5W CPU : 35W 処理速度消費電力約 2 倍 1/10 以下 2012 Noriko Etani, Ritsumeikan University 39

40 評価処理速度 32-bit Fedora 16 との比較 (1)4 つのスレッドが 10 個のデータ (0 から 9) に +1 を行い表示するプログラム (2)12 個のデータ (0 から 11) を 4 つのスレッドで分担し担当したデータに +1 を行い表示するプログラム (3)2 つの生産者スレッドがキューにデータを最大 10 個まで追加し 2 つの消費者スレッドがキューにデータがあれば取り出すプログラム単位 msec (1) (2) (3) SMYLE OpenCL bit Fedora POCL Noriko Etani, Ritsumeikan University 40

41 まとめ 2012 Noriko Etani, Ritsumeikan University 41

42 まとめまとめ独自の制約と解釈を与えた SMYLE OpenCL は必要組込み関数および同期関数を実装して性能評価処理速度は 2 倍消費電力は約 1/10 であることを確認今後の課題プログラム開発環境の公開ソフトウェア開発基盤整備ソフトウェアの開発と評価 2012 Noriko Etani, Ritsumeikan University 42

43 謝辞本研究は, 独立行政法人新エネルギー産業技術総合開発機構 (NEDO) の委託により実施した Noriko Etani, Ritsumeikan University 43

情報処理学会研究報告 IPSJ SIG Technical Report Vol.2012-OS-123 No.7 Vol.2012-EMB-27 No /12/5 SMYLE OpenCL における組込み関数の開発と評価 1 江谷典子 1 稗田拓路 2 冨山宏之組込みシステム向けメニ

情報処理学会研究報告 IPSJ SIG Technical Report Vol.2012-OS-123 No.7 Vol.2012-EMB-27 No /12/5 SMYLE OpenCL における組込み関数の開発と評価 1 江谷典子 1 稗田拓路 2 冨山宏之組込みシステム向けメニ SMYLE OpenCL における組込み関数の開発と評価 1 江谷典子 1 稗田拓路 2 冨山宏之組込みシステム向けメニーコアアーキテクチャにおけるヘテロジニアス並列コンピューティング環境を実現するため, 高レベル API モデルとして OpenCL 環境の構築に取り組んでいる. そこで, 独立行政法人新エネルギー産業技術総合開発機構 (NEDO) のプログラム極低電力回路システム技術開発