Linuxのベンチマーク評価 とボトルネック解析

Transcription

1 LKST による Linux カーネルの評価と ボトルネック解析 ( 株 ) 日立製作所システム開発研究所 平松雅巳, 杉田由美子 Japan OSS Promotion Forum OSC2005 1

2 目次 カーネル性能評価手法 LKST とは LKST Log Tools とは 性能解析ツール 可視化ツール 使い方 IO ボトルネック解析例 Iozone によるボトルネック例 リクエストキュー長解析 スピンロック解析 LKST のオーバヘッド OSC2005 2

3 カーネル性能評価手法 性能評価手法 ベンチマーク アプリケーションレベルの情報のみ サンプリング 実行頻度のみ ( 前後情報なし ) サンプリングに漏れる場合が存在 カーネル内部の詳細な情報が欲しい カーネルトレーサを利用 主な処理を確実に記録可能 OSC2005 3

4 LKST(Linux Kernel State Tracer) とは Linux カーネル向けイベントトレーサ カーネルドライバ ( 本体と組込みイベントハンドラ ) カーネルコードに埋め込まれたフックポイント ユーザコマンド群 拡張イベントハンドラ 特徴 イベントトレース時の柔軟なカスタマイズ設定 記録するイベントの種類 イベント記録時の処理内容 イベントの記録内容 記録領域 OSC2005 4

5 LKST の動作図 Linux カーネルフックポイントタスク切替ロック割り込み システムコール I/O 動的な関数呼び出し イベントとハンドラの組み合わせ マスクセット イベントの記録先 イベントハンドラ イベントハンドラ イベントハンドラ LKST CPU0 用 記録 操作 記録バッファイベントバッファ CPU1 用 ファイル出力 パニックダンプ保存 (LKCD) ディスク ( ファイル ) 障害解析に利用 OSC2005 5

6 LKST Log Tools とは LKST によるカーネル性能評価機能 LKST の機能拡張部分 性能データの解析ツール 解析結果のプロットツール 特徴 性能情報ごとに個別の性能指標値を算出 単一の情報だけではない データの切り出し 表示形式の変更が可能 フィルタ フォーマッタの切り替え 解析結果をプロット可能 PS/PDF 形式でプロットデータを保存 OSC2005 6

7 LKST による性能評価機能 性能評価ポイントで情報を取得する LKST 機能拡張 Linux カーネル フックポイント ロック ページ管理 システムコール ブロック I/O IO 取得した情報を解析する 性能解析ツール 解析した情報を可視化する 可視化ツール 拡張ハンドラ LKST 可視化ツール マスクセット イベントハンドラ 記録 操作 記録バッファイベントバッファ ロック解析 情報データ イベントハンドラ 性能解析ツール IO 解析 OSC2005 7

8 解析結果の統計や分布などを表示する 記録デー 性能解析ツール (lkstla) 3 つの機能を持っている アナライザ LKSTのログファイルを解析して 性能を示す値を抽出する フィルタ いくつかの条件によって 結果を選り分ける フォーマッタ lkstla タアナライザフィルタフォーマッタ 性能データ キー キー名 時間 値 選択されたデータ 統計 分布解析したデータ OSC2005 8

9 可視化ツール lkst_plot_log/lkst_plot_dist/lkst_plot_stat lkstla の解析結果を pdf にしてプロット OSC2005 9

10 使い方 デモ マスクセットによる記録設定 バッファからのデータ保存 lkstlaによるデータの解析 lkst_plot_statを使ったデータの表示 OSC

11 IO ボトルネック解析例 IozoneベンチマークによるMIRACLE LINUX の性能評価 OProfileを使ったボトルネック箇所の特定 LKST Log Toolsを使ったボトルネック解析 ミラクル リナックス社発表の資料に基づく OSC

12 IO ボトルネック測定 目的 システムの限界性能調査 ボトルネックの発見と原因解析 Iozone ファイルIO 性能測定ベンチマーク 並列化処理 ( プロセス / スレッド ) IO 方法 (read/write/random/mmap/etc.) 同期方式 ( 通常 ( 非同期 ) / O_SYNC( 同期 )) 処理ディスク数 処理プロセス数 1~4 1~4 OSC

13 測定対象 PC サーバ Dual Xeon (Hyper-Threading) 論理 CPU 数 :4 個 6GBメモリ SCSIドライブ ディストリビューション MIRACLE LINUX V3.0 カーネル 2.4 ベース ファイルシステム Ext3 ファイルシステム 事実上 Linux の標準ファイルシステム OSC

14 ベンチマーク環境構成 ディスクコントローラ Ultra320 SCSI SCSI HDD 1~4 台使用 システムHDDと別 テストパターンによって増減 テスト対象ディスク OSC

15 ベンチマーク結果 write スループット測定結果 (MB/sec) パターン ID グループ A: CPU 使用率が高い最大スループット グループ B: CPU 利用率が低い低いスループット グループ C: CPU 利用率が高い最低スループット グループ B と C において性能が劣化した原因を探る OSC

16 Iozone パラメータ パターン ID ファイルサイズ 使用ディスク数 スレッド使用 Iozone コマンド数 1 8G G G G G M M M G G G 4 4 グループ B グループ A グループ C OSC

17 解析手順 ボトルネック解析の手順 1. プロファイリングによる大まかな絞り込み OProfile(*) を利用 2. LKSTを用いて詳細なデータを取得 3. LKSTLogToolsを用いてデータを解析 4. 解析結果からの考察 * OProfile: サンプリングベースのプロファイリングツール設定したサンプリング間隔での実行箇所の特定を行う OSC

18 グループ B の解析 (1) OProfile による解析 グループ B における実行箇所の絞り込み 順位 関数 カウント 占有率 累積占有率 1 default_idle 1, try_to_free_buffers launder_page アドレス サンプル数 default_idle 内占有率 命令 0xc je 0x xc movl 0x14(%edx),%eax 0xc hlt 0xc ret hlt 命令が多くサンプリングされている OS の待ち時間が多い OSC

19 グループ B の解析 (2) LKST による IO 処理の解析 (1) 待ち時間処理 IO 処理 IO 処理時間を LKST で解析 グループ B グループ A 割合 (%) E-05 1E X 軸は対数グラフ 所要時間 ( 秒 ) グループ B の IO 処理時間がグループ A より一桁大きいところにピークがある OSC

20 グループ B の解析 (3) LKST による IO 処理の解析 (2) IO リクエストキューの長さを LKST で解析 キューの長さの平均 グループ B グループ A グループ B のキューの長さがほとんど限界値 (=512) OSC

21 グループ B の解析結果 Oprofile による解析 hlt 命令が多い LKST による IO リクエストキューの解析 ディスクが少ない 並列処理が出来ず キューが長くなる IO 処理が遅い CPU 処理に空き時間発生 hlt 命令実行 OSC

22 グループ C の解析 (1) OProfile による解析 グループ C における実行箇所の絞り込み 順位 関数 サンプル数 占有率 (%) 累積占有率 (%) 1.text.lock.ioctl 10, text.lock.buffer 8, default_idle 2, do_generic_file_write 2, ビジーウェイト処理が多くサンプリングされている ロックに問題 OSC

23 ビジーウェイト処理とは (1) 通常のロック待ち処理 例 ) セマフォ mutex など プロセス A プロセス B プロセス C ロック競合 ロック解除 プロセス切り替え 再スケジュールしてから再開 プロセス切り替えを行う CPU 処理時間を無駄にしない OSC

24 ビジーウェイト処理とは (2) ビジーウェイト処理 例 ) カーネル内スピンロック プロセス A プロセス B プロセス C ロック競合 ロック解除 ロック状態を確認しながらループ 即座に再開 プロセスを切り替えずに待つ CPU 処理時間が無駄になる OSC

25 グループ C の解析 (2) LKST によるビジーウェイト解析 (1) ビジーウェイト処理時間を LKST で解析 順 アドレス 回数 平均 ( 秒 ) 最大 ( 秒 ) 合計 ( 秒 ) 割合 (%) 位 1 0xc019f83e xc01977d1 1, xc018ad xf8863ba3 61, E E xf88637bb 61, E E 全ビジーウェイト処理の 99.8% が 3 箇所に集中 OSC

26 グループ C の解析 (3) LKST によるビジーウェイト解析 (2) ビジーウェイト処理時間の分散を見る アドレス ~1 マイクロ秒 ~10 マイクロ秒 ~100 マイクロ秒 ~1 ミリ秒 ~10 ミリ秒 ~100 ミリ秒 ~1 秒 ~10 秒 10 秒以上 0xc019f83e xc01977d xc018ad 非常に長いビジーウェイトが何度かおきている OSC

27 グループ C の解析結果 Oprofile による解析 グローバルカーネルロックのサンプリング頻度が高い ロック回数が多い or ロック時間が長い LKST 実際に 10 秒以上のビジーウェイト処理の発生を確認 ロック時間が長い OSC

28 LKST のオーバヘッド (kernel build) 評価環境 Pentium4 Xeon 2.8GHz (L2:1MB) (Hyper Threading 有効 ) Memory: 4GB Linux LKST on Fedora Core 2 相対時間 カーネルビルド時間の比較 user sys real 元カーネル記録しない性能記録性能記録 -spinlock なし全て記録 ( 測定環境 :IPA 提供 ) アプリケーション実実行性能 (real) への影響は 0.5~3.5% 程度 OSC

29 まとめ まとめ LKST を使用した性能評価機能の開発 LKST の機能を拡張し ログから性能情報を解析する機能を開発 OProfile と LKST を連携したカーネルボトルネックの解析 IO 高負荷時のカーネル処理のボトルネックを解析 今後の予定 LKST サンプリング機能をつけるなどして 収集情報の増加を抑えたい lkstla を強化し 解析できるイベントを追加したい 関連 URL OSS 推進フォーラム LKST Iozone OProfile OSC

30 商標 Linuxは Linus Torvaldsの米国およびその他の国における登録商標あるいは商標です MIRACLE LINUXはミラクル リナックス株式会社が使用権許諾を受けている登録商標です Intel, Intel Xeon, Pentium は アメリカ合衆国およびその他の国におけるインテルコーポレーションまたはその子会社の商標または登録商標です その他の記載されている社名および製品名は各社の登録商標また商標です その他 この発表内容は 独立行政法人情報処理推進機構オープンソースソフトウェア活用基盤整備事業 に係る委託業務の調査 開発に基づくものです OSC

31 Happy Evaluating! OSC

32 補足 : ビジーウェイトプロセスの解析 ロックプロセスの特定 時刻 cpu コマンド名 lock/unlock 関数 10:59: kdm_greet lock 10:59: kdm_greet unlock 11:00: iozone unlock schedule() 11:00: crond lock permission() 11:00: crond unlock 約 15 秒もの間ビジーウェイト状態にあった Iozone プロセスが他のアプリケーションの動作を邪魔していた スループット低下の原因? OSC