自己紹介長田悠吾 (Yugo Nagata) SRA OSS, Inc. 日本支社 PostgreSQL 技術支援コンサルティング PostgreSQL インターナル講座講師研究開発 Copyright 2018 SRA OSS, Inc. Japan All right

Size: px

Start display at page:

きみええいさか
5 years ago
Views:

1 PostgreSQL 11 で登場した JIT コンパイルって結局何者? (What is JIT Compilation Introduced in PostgreSQL 11? ) 長田悠吾 (Yugo Nagata)/ SRA OSS, Inc. 日本支社 PGConf.ASIA

5 コンパイラ (compiler) 高水準言語によるソースコードから機械語に ( あるいは元のプログラムよりも低い水準のコードに ) 変換するプログラム (Wikipedia) コードからコードへの変換コードコードコンパイル変換後のコードコンピュータにより直接的に実行可能な機械語 ( ネイティブコード ) 元のプログラムよりも低水準な中間言語 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 5

6 事前 (AOT) コンパイル事前 (Ahead-of-Time: AOT) コンパイラアプリケーション実行前に事前にコンパイルするコンパイラ C 言語ソースコード (.c) を機械語 ( ネイティブコード ) に変換 PostgreSQL バイナリのビルド Java C 言語機械語ソースコード (.java) バイトコード (.class) バイトコードは Java 仮想マシン (JVM) で実行可能 Java バイトコード Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 6

7 インタプリタ (interpreter) プログラミング言語で書かれたソースコードないし中間表現を逐次解釈しながら実行するプログラム (Wikipedia) コードを頭から順番に解釈しながら実行長所事前にコンパイルを必要としない特定のアーキテクチャに依存しないプログラム短所実行時の性能の低さ Java JVM によるバイトコードの解釈実行 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 7

8 実行時 (JIT) コンパイル実行時 (Just-in-Time:JIT) コンパイラソフトウェアの実行時にコードのコンパイルを行い実行速度の向上を図るコンパイラ Java 実行頻度の高いメソッドを実行時にネイティブコードにコンパイル Java Python + Numba 事前 (AOT) コンパイルバイトコード実行時 (JIT) コンパイル機械語指定した関数を実行時にコンパイルして実行 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 8

10 パーサー PostgreSQL のクエリ処理構文解析アナライザ意味解析システムカタログを参照しテーブルや演算子型などの情報を追加リライタクエリツリーの書き換えプランナクエリを処理するための最適な実行計画を生成エクゼキュータクエリの実行問い合わせを受信問い合わせ文字列パース処理パーサー raw parse tree アナライズ処理アナライザ query tree リライト処理リライタ rewrite 後のquery tree プラン処理プランナ ( オプティマイザ ) plan tree エグゼキュート処理エグゼキュータ Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 10

11 パーサ (Parser) パース処理 SQL の文字列を解析しパースツリーという木構造に変換する例 )SELECT a, b FROM tbl WHERE c < 10 AND d = 3; 問い合わせを受信パース処理パーサーアナライズ処理問い合わせ文字列 raw parse tree アナライザ query tree リライト処理 SELECT WHERE リライタ rewrite 後のquery tree プラン処理プランナ ( オプティマイザ ) plan tree Target List FROM AND エグゼキュート処理エグゼキュータ a b tbl < = c 10 d 3 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 11

12 アナライザ (Analyzer) アナライズ処理問い合わせを受信問い合わせ文字列システムカタログを参照しながらパースツリーに必要な情報を追加してクエリツリーに変換追加される情報パース処理パーサー raw parse tree アナライズ処理アナライザ query tree リライト処理リライタテーブルの OID スキーマサーチパスを考慮して参照されるテーブルを確定テーブルに含まれる列名も調べられる型の OID rewrite 後のquery tree プラン処理プランナ ( オプティマイザ ) plan tree エグゼキュート処理エグゼキュータ定数などの型を確定する演算子の OID 列や定数の型から使用される演算子を確定する Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 12

13 リライタ (Rewriter) リライト処理問い合わせを受信問い合わせ文字列パースツリーを書き換えを行う VIEW や RULE の機能を実現ビューに対する SELECTは定義された SQL クエリの実行に書き換えられるビューに対する更新クエリは実テーブルの更新に書き換えられる自動更新可能ビューパース処理パーサーアナライズ処理アナライザリライト処理リライタプラン処理プランナ ( オプティマイザ ) エグゼキュート処理エグゼキュータ raw parse tree query tree rewrite 後の query tree plan tree Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 13

14 プランナ (Planner) プラン処理クエリツリーからクエリの実行計画を生成クエリ実行の推定コストを見積もる最もコストが少なく実行時間が短いと思われるプランを選択する実行計画はプランツリーという木構造で表される問い合わせを受信パース処理パーサーアナライズ処理アナライザリライト処理リライタプラン処理問い合わせ文字列 raw parse tree query tree rewrite 後の query tree プランナ ( オプティマイザ ) plan tree エグゼキュート処理エグゼキュータ Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 14

15 エクゼキュータ (Executor) エクゼキュート処理プランツリーを実行してフロントエンドに結果を返す各ノードを再帰的に実行各ノードはタプルを1 行ずつ返す上位のノードは下位ノードを呼び出しその結果返ってきたタプルを受け取って処理するタプル問い合わせを受信問い合わせ文字列パース処理パーサー raw parse tree アナライズ処理アナライザ query tree リライト処理リライタ rewrite 後のquery tree プラン処理プランナ ( オプティマイザ ) タプルエクゼキュータノードタプル plan tree エグゼキュート処理エグゼキュータエクゼキュータノードエクゼキュータノードタプルタプル Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 15

16 プランツリー実行の具体例 SELECT * FROM t1 INNER JOIN t2 USING(i) WHERE t1.i < 10; QUERY PLAN Nested Loop (cost= rows=1 width=12) Join Filter: (t1.i = t2.i) -> Seq Scan on t1 (cost= rows=1 width=8) Filter: (i < 10) -> Seq Scan on t2 (cost= rows=1 width=8) (4 rows) フロントエンド ExecNestLoop (t1.i = t2.i) (i < 10) アウタープランインナープラン t1 ExecScan ExecSeqScan ExecSeqScan ExecScan t2 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 16

18 式 ( 9.6) PostgreSQL 9.6 までは式も再帰的に行われていた各ノードを評価する毎に関数を実行上位ノードは下位ノードを評価した結果を利用関数呼び出しのオーバヘッドが高かった評価 AND 評価 WHERE tbl.c < 10 AND tbl.d = 3 < = 評価評価評価評価カラム値 tbl.c 定数 10 カラム値 tbl.d 定数 3 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 18

19 式 (10 ) 木構造を以下のような中間表現 (ExprState) に変換 (= コンパイル ) してから実行 (= インタプリタ ) EEOP_SCAN_FETCHSOME ( タプルの取り出し ) EEOP_SCAN_VAR (tbl.c) WHERE tbl.c < 10 AND tbl.d = 3 EEOP_CONST (10) EEOP_FUNEXPR_STRICT (< ) EEOP_BOOL_AND_STEP_FIRST (AND) 変換 < AND = EEOP_SCN_VAR (tbl.d) EEOP_CONST (3) カラム値 tbl.c 定数 10 カラム値 tbl.d 定数 3 EEOP_FUNCEXPR_STRICT (= ) EEOP_BOOL_AND_STEP_LAST (AND) 関数呼び出しコストが削減されエクゼキュータの実行が高速化それでもなお条件分岐が多いのがネック Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 19

20 JIT による式評価の高速化一般的な式を行うためにはあらゆる状況に対応しなければならない任意のテーブルに対する任意の SQL 次の命令を事前に知ることはできない予測のできない条件分岐 ( 処理のジャンプ ) が多くなるクエリが決まった段階で対象のテーブルおよび評価すべき式も確定している式を予めネイティブコードにコンパイルしておきそれを呼び出すようにすれば高速化できる可能性がある JIT コンパイルの出番 LLVM を使用 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 20

21 LLVM LLVM 任意のプログラミング言語に対応可能なコンパイラ基盤コンパイラ作成のための再利用可能なコンポーネントを提供 LLVM IR のレベルの最適化新しいコンパイラ作成の時間とコストを削減 LLVM を使ったコンパイラの例 Clang, Swift, Rust 機械語のコードを出力するだけではなく JIT 実行にも対応ソースコードフロントバックバックフロントエンド最適化エンドエンドエンド機械語中間表現中間表現 (LLVM IR) (LLVM IR) JIT 実行 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 21

22 Clang の場合 Clang バックエンドに LLVM を使った C/C++ 向けコンパイラ C/C++ のコードを LLVM の中間表現に変換 LLVM IR のレベルで最適化ソースコード (C/C++) clang 中間表現 (LLVM IR) 最適化中間表現 (LLVM IR) バックバックエンドエンド機械語 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 22

23 LLVM IR LLVM で使われる内部表現言語 3つの表現形式メモリ内のバイナリ表現これを生成するための API が用意されている PostgreSQL はこれを使っているディスク上でのバイナリ表現ビットコードと呼ばれるファイル拡張子は.bc 人間に読めるテキスト表現ファイル拡張子は.ll Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 23

24 LLVM による JIT PostgreSQL の JIT 式表現の中間表現 (ExprState) を LLVMの中間表現 (LLVM IR) に変換それを LLVM で JIT コンパイルしてネイティブコードに変換 PostgreSQL 内部から関数として実行式表現の中間表現 (ExprState) 式表現のツリーを変換 llvm _compile _expr PostgreSQL エクゼキュータ最適化中間表現中間表現 (LLVM IR) (LLVM IR) 実行 ( 関数呼び出し ) バックエンド JITコンパイルネイティブコード Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 24

25 JIT コンパイルのタイミングクエリ実行直前 (= エクゼキュータの初期化段階 ) プランツリーの各ノードの初期化が行われる式表現 (WHERE 条件など ) を含むノードの初期化時 : ツリー構造の式表現が中間表現 (ExprState) に変換される続いて ExorState は LLVM IR の関数に変換されるこの時点ではまだコンパイルはされないクエリに含まれる全ての式表現が対象クエリ実行時 (= エクゼキュータの実行段階 ) 実際に式を評価する時にその式評価に対応する関数が呼ばれる初回の関数呼び出し時に全ての関数のコンパイルがまとめて実行される Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 25

26 タプルの deforming ディスク上のタプルをインメモリの形式に変換する処理式を評価するときにタプルを取り出す命令の中で行われる例えば EEOP_SCAN_FETCHSOME タプルからカラムの値を必要な分だけ取り出す例 ) カラムを 10 個持つテーブルの場合 CREATE TABLE tbl (a1 int, a2 text,..., a10 timestamp); SELECT a3, a7 from tbl; この場合は 7 番目のカラム (a7) までの値を取り出す (8 番目以降のカラムは必要ない ) この処理もボトルネックとなるため JIT コンパイルによる高速化の対象 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 26

27 padding タプルの構造固定長のタプルヘッダ null bitmap 列の数分だけのビット列もしNULLの列がタプル中に存在しなければnull bitmapは省略される padding バイト位置調整のための詰めもの列データ型によってサイズが異なる ( 可変長の型もある ) 列と列の間にはデータ型に応じたpaddingが入ることがあるタプルヘッダ null bitmap ( オプション ) 列 1 列 2 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 27

28 padding タプルの deforming の JIT 化タプルヘッダ null bitmap ( オプション ) 列 1 列 2 条件分岐が多い値が NULL かどうかの確認が必要カラム値を取り出すにはこれらのオフセット位置を計算する必要があるカラムの型によっても処理が異なる CPUボトルネックテーブルのカラム型がわかっていれば事前に取り除ける条件分岐がある NOT NULL 制約があるカラムは NULL かどうかの確認は不要カラムの型は事前に知ることができる JIT コンパイルによって分岐を事前に取り除くことで高速化 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 28

29 関数のインライン展開 (1) 式には関数の実行が含まれている組み込み関数 sqrt, md5, random ユーザ定義関数演算子にも関数が使用される例 )int8 同士の等号 : int8eq() インライン展開 LLVM IR のコードからこれらの関数を呼び出すのではなく関数の方を LLVM IR に変換してしまう関数呼び出しのオーバヘッドを削減 Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 29

30 関数のインライン展開 (2) 関数のインライン展開を可能にするため PostgreSQL のソースコードは LLVM IR にコンパイルされる拡張モジュールをインストールした場合も同様バイナリは $pkglibdir/bitcode 以下にインストールされている $ tree postgresql/lib/bitcode/ lib/bitcode/ pg_trgm trgm_gin.bc trgm_gist.bc trgm_op.bc trgm_regexp.bc pg_trgm.index.bc postgres access brin brin.bc brin_inclusion.bc brin_minmax.bc brin_pageops.bc brin_revmap.bc brin_tuple.bc brin_validate.bc brin_xlog.bc common bufmask.bc ( 以下略 ) Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 30

31 JIT が有効に働く状況 CPU バウンドな状況が長時間になるようなクエリ複雑な式表現をもつ行数が多い主に解析系のクエリで有効短時間のクエリでは JIT のオーバーヘッドの方が大きくなってしまうプランナの推定コストに基づく判断 jit_above_costより大きくなる場合のみ JIT を使う jit_inline_above_cost より大きい場合には関数のインライン化を行う jit_optimize_above_cost より大きい場合には積極的な最適化を行う Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 31

32 設定パラメータ jit JIT コンパイルを使用するかどうか jit_optimize_above_cos 積極的な最適化を使用するコストデフォルト :off jit_above_cost JIT コンパイルを使用するコストの閾値デフォルト : jit_inline_above_cost 関数のインライン化を使用するコストの閾値デフォルト : の閾値デフォルト : jit_provider JIT 機能を提供するライブラリの名前デフォルト :llvmjit jit_dump_bitcode 生成された LLVM IR のファイル ( ビットコード :.bc) に出力デフォルト :off Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 32

34 動作例 (2) EXPLAIN ANALYZE の結果 Function Scan on f g (cost= rows= width=40) (actual time= rows= loops=1) Planning Time: ms JIT: Functions: 2 作成された関数の数実施された JIT 処理 Options: Inlining true, Optimization true, Expressions true, Deforming true Timing: Generation ms, Inlining ms, Optimization ms, Emission ms, Total ms JIT 処理の所要時間 Execution Time: ms (7 rows) Copyright 2018 SRA OSS, Inc. Japan All rights reserved. 34

PostgreSQL SQL チューニング入門 ~ Explaining Explain より ~ 2012 年 11 月 30 日株式会社アシスト田中健一朗

PostgreSQL SQL チューニング入門 ~ Explaining Explain より ~ 2012 年 11 月 30 日株式会社アシスト田中健一朗アジェンダ 1.EXPLAIN とは 2. 表アクセスの基本 3. 結合の基本 4. 統計情報とは 5.EXPLAIN コマンド 6. 問題解決例 7. まとめ 2 1.EXPLAIN とは実行計画とは - 目的地は 1 つでもアクセス方法は複数

自己紹介 長田悠吾 (Yugo Nagata) SRA OSS, Inc. 日本支社 PostgreSQL 技術支援 コンサルティング PostgreSQL インターナル講座講師 研究開発 Copyright 2018 SRA OSS, Inc. Japan All right

自己紹介長田悠吾 (Yugo Nagata) SRA OSS, Inc. 日本支社 PostgreSQL 技術支援コンサルティング PostgreSQL インターナル講座講師研究開発 Copyright 2018 SRA OSS, Inc. Japan All right