HotSpot のロック A Peek Under the Hood

Transcription

1 HotSpot のロック A Peek Under the Hood David Buck 日本オラクル JJUG ナイトセミナ JVM 特集

2 自己紹介 バックデイビッド Java SE サステイニングエンジニアリング JVM のバグを直す人 趣味 : プログラミング

3 予定 はじめに Java ロックの復習 HotSpot のロックの実装 プロファイリング & チューニング その他

4 はじめに

5 カバーする内容 synchronized(this) { c++; }

6 カバーする内容 synchronized(this) { c++; }

7 カバーする内容 3: monitorenter 4: aload_0 5: dup 6: getfield #2 // Field c:i 9: iconst_1 10: iadd 11: putfield #2 // Field c:i 14: aload_1 15: monitorexit

8 カバーする内容 3: monitorenter 4: aload_0 5: dup 6: getfield #2 // Field c:i 9: iconst_1 10: iadd 11: putfield #2 // Field c:i 14: aload_1 15: monitorexit

9 カバーしない内容

10 ロックの使い方 カバーしない内容

11 カバーしない内容 ロックの使い方 java.util.concurrent (JSR-166)

12 カバーしない内容 ロックの使い方 java.util.concurrent (JSR-166) Java のメモリ モデル

13 目標

14 目標 無理やり最適化を防ぐ

15 目標 無理やり最適化を防ぐ プロファイリング チューニング

16 目標 無理やり最適化を防ぐ プロファイリング チューニング 面白い!

17 JAVA ロックの復習

18 言語レベルでマルチスレッド

19 Monitor って何?

20 ( 排他制御 ) Mutual Exclusion

21 ( 排他制御 ) Mutual Exclusion Mut ex

22 ( 排他制御 ) Mutual Exclusion Mutex

23 条件変数 (condition variable) "Puffin crossing, London, UK" by secretlondon is licensed under CC BY-SA 3.0

24 Monitor = Mutex + 条件変数

25 Monitor = Mutex + 条件変数 Mutex synchronized キーワード

26 Monitor = Mutex + 条件変数 Mutex synchronized キーワード 条件変数 Object.wait() Object.notify() Object.notifyAll()

27 再帰的 public synchronized void increment() { c++; printvalue(); } public synchronized void printvalue() { System.out.println("My value is: " + c); }

28 メモリモデル happens-before ( 前に発生 ) 関係

29 public class NoSync { private int c = 0; public void increment() { c++; } }

30 public void increment(); flags: ACC_PUBLIC Code: stack=3, locals=1, args_size=1 0: aload_0 1: dup 2: getfield #2 // Field c:i 5: iconst_1 6: iadd 7: putfield #2 // Field c:i 10: return

31 ブロックの例 public void increment() { synchronized(this) { c++; } }

32 ブロックの例 public void increment(); flags: ACC_PUBLIC Code: stack=3, locals=3, args_size=1 0: aload_0 1: dup 2: astore_1 3: monitorenter 4: aload_0 5: dup 6: getfield #2 // Field c:i 9: iconst_1 10: iadd 11: putfield #2 // Field c:i 14: aload_1 15: monitorexit 16: goto 24 19: astore_2 20: aload_1 21: monitorexit 22: aload_2 23: athrow 24: return Exception table: from to target type any any

33 ブロックの例 public void increment(); flags: ACC_PUBLIC Code: stack=3, locals=3, args_size=1 0: aload_0 1: dup 2: astore_1 3: monitorenter 4: aload_0 5: dup 6: getfield #2 // Field c:i 9: iconst_1 10: iadd 11: putfield #2 // Field c:i 14: aload_1 15: monitorexit 16: goto 24 19: astore_2 20: aload_1 21: monitorexit 22: aload_2 23: athrow 24: return Exception table: from to target type any any

34 メソッドの例 public synchronized void increment() { c++; }

35 メソッドの例 public synchronized void increment(); flags: ACC_PUBLIC, ACC_SYNCHRONIZED Code: stack=3, locals=1, args_size=1 0: aload_0 1: dup 2: getfield #2 // Field c:i 5: iconst_1 6: iadd 7: putfield #2 // Field c:i 10: return

36 メソッドの例 public synchronized void increment(); flags: ACC_PUBLIC, ACC_SYNCHRONIZED Code: stack=3, locals=1, args_size=1 0: aload_0 1: dup 2: getfield #2 // Field c:i 5: iconst_1 6: iadd 7: putfield #2 // Field c:i 10: return

37 Java 言語で表現出来ない public void lockme(); flags: ACC_PUBLIC Code: stack=1, locals=1, args_size=1 0: aload_0 1: monitorenter 2: return public void unlockme(); flags: ACC_PUBLIC Code: stack=1, locals=1, args_size=1 0: aload_0 1: monitorexit 2: return

38 表現力 Java バイトコード Java 言語

39 Java Monitor の制限

40 テスト不可能 Java Monitor の制限

41 Java Monitor の制限 テスト不可能 タイムアウト無し

42 Java Monitor の制限 テスト不可能 タイムアウト無し キャンセル不可能

43 Java Monitor の制限 テスト不可能 タイムアウト無し キャンセル不可能 再帰出来る

44 Java Monitor の制限 テスト不可能 タイムアウト無し キャンセル不可能 再帰出来る リーダー / ライターに分けることが不可能

45 Java Monitor の制限 テスト不可能 タイムアウト無し キャンセル不可能 再帰出来る リーダー / ライターに分けることが不可能 セキュリティの問題

46 java.util.concurrent

47 HOTSPOT のロックの実装

48 設計の方針 すべてのオブジェクトが Monitor を持つ 殆どのオブジェクトが利用しない 利用しても 複数のスレッドからのアクセスが珍しい 複数のスレッドからアクセスがあっても 競合が珍しい

49 ロックの種類 Fat Thin Biased

50 Biased Thin Fat 重さ

51 Fat ロック OS のスケジューリングに任せる 得意ケース : 待ち時間が高い 別名 :Heavyweight lock, inflated ロック

52 Thin ロック ロック取得出来るまでスピンする 得意ケース : 待ち時間が短い 別名 :spin lock, stack lock (HS), lightweight lock

53 Biased ロック 一本のスレッドが独占する 違うスレッドが bias を revoke する場合がある

54 BiasedLock の revoke Bias を持つスレッドの停止 (STW) 本当の状態の確認 ( スタックウォーキング )

55 BiasedLock の禁止 オブジェクトレベル クラスレベル 起動中の処理

56 各オブジェクトで管理するデータ フィールドのデータ Monitor の状態 GC のデータ (Age など ) Hash コード

57 オブジェクトヘッダー マークワード クラスポインター フィールドのデータ

58 忙しいマークワード Hashcode GC データ Monitor マークワード

59 Hashcode GC データ Monitor データ 00

60 Thin Locked Hashcode GC データ Monitor 移動されたヘッダーの参照 00

61 Inflating Hashcode GC データ Monitor NULL 00

62 ロックされていない Biased Locking 不可能 Hashcode GC データ Monitor Age / 未使用 Hashcode 0 CMS 01

63 Biased Hashcode GC データ Monitor Age / 未使用スレッドのID と Epoc 1 CMS 01

64 Fat Locked Hashcode GC データ Monitor Monitor の参照 01

65 GC 実行中 (STW) Hashcode GC データ Monitor GC 用 11

66 Lock Record コピーされたマークワード オブジェクト参照

67 Lock Record コピーされたマークワード Hash code Age / CMS 01 オブジェクト参照 オブジェクト参照 スレッドのスタック

68 Thin Lock Hash code Age / CMS オブジェクト参照 01 参照 00 クラスポインター フィールドのデータ スレッドのスタック オブジェクト

69 Thin Lock ( 再帰的 ) Hash code Age / CMS オブジェクト参照 01 参照 00 クラスポインター 未使用 フィルドのデータ オブジェクト参照 スレッドのスタック オブジェクト

70 Fat Lock Hash code Age / CMS 01 未使用 オブジェクト参照 11 参照 00 クラスポインター オブジェクト参照 ObjectMonitor フィールドのデータ スレッドのスタック オブジェクト

71 ロックの遷移図

72 Biased Thin Fat 重さ

73 プロファイリング & チューニング

74 プロファイリング 問題点 : パフォーマンスのインパクト

75 プロファイリング Performance Counters DTrace Java Flight Recorder

76 Performance Counters パフォーマンスへのインパクトなし 正式にサポートされていない HotSpot の開発者向けの情報 例 : jstat -snap -J-Djstat.showUnsupported=true <JVM_PID> grep _sync

77 DTrace 高い柔軟性 D 言語の理解が不可欠 サポートされている OS Solaris Oracle Linux OSX -XX:+DTraceMonitorProbes が必要

78 DTrace ロック系のプローブ monitor-contended-enter monitor-contended-entered monitor-contended-exit

79 DTrace 条件変数系のプローブ monitor-wait monitor-waited monitor-notify monitor-notifyall

80 Java Flight Recorder 無料 ( 開発 評価 ) サポート : OracleJDK のすべての OS

81 PrintConcurrentLocks UseBiasedLocking DTraceMonitorProbes BiasedLockingStartupDelay PrintBiasedLockingStatistics TraceBiasedLocking TraceMonitorInflation MonitorInUseLists TraceMonitorMismatch UseHeavyMonitors BiasedLockingBulkRebiasThreshold BiasedLockingBulkRevokeThreshold BiasedLockingDecayTime SyncKnobs 設定

82 PrintConcurrentLocks java.util.concurrent のロックがスレッドダンプで表示される

83 UseBiasedLocking Biased ロックを無効にする ロック競合が激しい環境は試す価値がある

84 その他

85 Concurrent Programming in Java : Design Principles and Patterns JDK 1.2 のごろ JSR-133 なし JSR-166 なし 設計が注目される クラシック

86 Java Concurrency in Practice JDK 1.6 ごろ JSR-133 あり JSR-166 あり 一冊しか読む余裕ない方 : これ!

87 まとめ JVM に任せよう Monitor で実現出来ない時 java.util.concurrent を利用しよう プロファイリング : JFR か DTrace 要注意 : パフォーマンスへのインパクト CPiJ と JCiP を読むべき

88 ありがとうございます

89 参照 [ jstat man page ] [ DTrace Probes in HotSpot VM ] [ JMC Tutorial ] [ David Dice's Weblog ] [ HotSpot Internals ]