PostgreSQL 10 で作るクラスタ構成 SRA OSS, Inc. 日本支社取締役支社長石井達夫

Size: px

Start display at page:

Download "PostgreSQL 10 で作るクラスタ構成 SRA OSS, Inc. 日本支社取締役支社長石井達夫"

あいねあわび
5 years ago
Views:

1 PostgreSQL 10 で作るクラスタ構成 SRA OSS, Inc. 日本支社取締役支社長石井達夫

自己紹介 OSS の開発とビジネスに携わっています PostgreSQL のコミッタ PostgreSQL

4 PostgreSQL におけるクラスタリングの目的 (1) 可用性の向上 (High Availability) もっとも古典的かつ基本的なリクエストダウンタイムの短縮データ損失可能性の低減なんらかの方法で同じデータベース内容を持つ待機系のシステムを用意し稼動系が故障した時には待機系へアクセスを切り替える待機系は休止状態なので負荷分散による性能向上は見込めない X フェイルオーバデータの共有またはコピーアクセスの切換 4 Copyright(c) 2017 SRA OSS, Inc. Japan

5 PostgreSQL におけるクラスタリングの目的 (2) 性能の向上 (Scale out) 検索性能 (read) の向上データのコピー ( レプリカ ) を用意し検索性能の向上を狙う PostgreSQLの組み込みレプリケーションシャーディングにより検索性能の向上を狙う現在のところサードパーティによる実装のみ例 : Citus Postgres-XL 更新性能 (write) の向上シャーディングにより更新性能の向上を狙う現在のところサードパーティによる実装のみ例 : Citus Postgres-XL 5 Copyright(c) 2017 SRA OSS, Inc. Japan

7 可用性向上のためのクラスタ技術 : アクティブスタンバイ方式 Pacemaker などの汎用 HA ソフトを使って複数の PostgreSQL を管理 DB の入ったディスク装置を共有する共有ディスク方式と共有しない方式がある性能は向上しないアプリケーションの修正は必要ないフェイルオーバ中はセッションが切断されるのでその対応は必要待機系の PostgreSQL は利用できない X フェイルオーバデータの共有またはコピー仮想 IP の切換 7 Copyright(c) 2017 SRA OSS, Inc. Japan

8 可用性向上のためのクラスタ技術 : ストリーミングレプリケーション (1) PostgreSQL 組み込みのレプリケーション技術であるストリーミングレプリケーションを利用プライマリからスタンバイへトランザクションログを転送してデータをコピーする書き込み性能は向上しないが複数の PostgreSQL で読み出し負荷を共有して性能を向上させることも可能アプリケーションの修正は必要フェイルオーバ中はセッションが切断されるのでその対応は必要書き込み処理はプライマリにしか投げてはいけない ( そのほかある種のロックはプライマリだけに投げるなどの考慮が必要 ) これらの対応が困難な場合にはすべての D B 処理をプライマリにのみ投げる ( その場合でもフェイルオーバへの対応は必要 ) X フェイルオーバ WAL の転送によるコピー 8 Copyright(c) 2017 SRA OSS, Inc. Japan

9 可用性向上のためのクラスタ技術 : ストリーミングレプリケーション (2) プライマリが故障した時にどのスタンバイを昇格させるか決めておく必要がある ( スタンバイの数が 2 以上の場合 ) 同期レプリケーションを使っている場合は同期スタンバイを昇格させるプライマリにコミットされたデータが失われないことが保証できる非同期レプリケーションを使っている場合は固定ルールで昇格するスタンバイを決めておく方式と動的に決める ( 最も遅延が少ないものを選ぶなど ) 方式がある X??? プライマリスタンバイ 1 スタンバイ 2 スタンバイ 3 9 Copyright(c) 2017 SRA OSS, Inc. Japan

11 性能向上のためのクラスタ技術 : ストリーミングレプリケーションスタンバイサーバを複数設けて検索性能を向上させる ( 負荷分散 ) 一つの SQL が分散処理されるわけではないので多数のセッションが同時に実行されるような環境で効果が上がるプライマリサーバが過負荷のときにプライマリに検索処理をさせないようにするのも効果があるどのセッションがどのスタンバイサーバに接続するかを決める必要があるアプリケーションで行う ( アプリケーションの改造が必要 ) ミドルウェアで透過的に実施 (Pgpool-II) 更新性能は向上しない 11 Copyright(c) 2017 SRA OSS, Inc. Japan

12 性能向上のためのクラスタ技術 : Postgres-XL PostgreSQL で並列分散クラスタをサポートするために始まったプ OSS ロジェクトで PostgreSQL に大量のパッチをあてるフォークとして実装されている当初 Postgres-XC という名前でスタートしたが現在は Postgres-XL という後継プロジェクトに引き継がれている Postgres-XL の機能シャーディングレプリケーション複数シャードをまたぐ検索 ( および問い合わせの最適化 ) 分散トランザクション管理更新性能の向上が狙えるマルチマスター 12 Copyright(c) 2017 SRA OSS, Inc. Japan

13 性能向上のためのクラスタ技術 : Postgres-XL のアーキテクチャクラスタ全体のトランザクション管理クライアントからの問い合わせを受付けデータノードに配信結果を取りまとめて返却 Global Transaction Manager (GTM) コーディネータコーディネータコーディネータデータノードデータノードデータノード実際の問い合わせ処理を実行 13 Copyright(c) 2017 SRA OSS, Inc. Japan

14 性能向上のためのクラスタ技術 : Postgres-XL の特徴データノード間で並列に問い合わせが実行可能データをデータノードに分散 ( シャーディング ) 可能なので検索性能のみならず更新性能も向上更新遅延がなくデータノードをまたがった読み取り一貫性も保証されているマルチマスター可用性は向上しない ( むしろ低下する ) データノードのレプリケーションで対応 14 Copyright(c) 2017 SRA OSS, Inc. Japan

15 性能向上のためのクラスタ技術 : 読み取り一貫性実行中のトランザクション内での見え方ほかのトランザクションからの見え方実行中のトランザクション内での見え方ほかのトランザクションからの見え方 A: 追加済み A: 未追加データノード A 追加済みデータノード A 未追加 B: 追加済み B: 未追加データノード B 追加済みデータノード B 未追加 C: 未追加 C: 未追加データノード C 未追加データノード C 未追加 PostgreSQL Postgres-XL 15 Copyright(c) 2017 SRA OSS, Inc. Japan

16 性能向上のためのクラスタ技術 : Citus PostgreSQL でシャーディングを行うための拡張モジュール (extension) Citus data 社が開発し OSS として Github で公開 pg_shard と呼ばれていたプロジェクトの後継向き不向き (Citus のマニュアルより抜粋 ) 向いている処理大量のログ追加サマリの検索向いていない処理多数のシャードにまたがる OLTP 処理複雑なクエリを扱うデータウェアハウス的な問い合わせ 16 Copyright(c) 2017 SRA OSS, Inc. Japan

18 性能向上のためのクラスタ技術 : Citus と Postgres-XL の違い Citus は PostgreSQL の拡張モジュール (extension) として実装されており軽量シンプル Citus はグローバルトランザクションマネージャを持たないので複数シャードにまたがった読み取り一貫性は保証されない worker1でコミットされたデータは worker2, worker3のデータがコミットされる前に他のトランザクションから見えるようになるデフォルトではデータ更新は 2 phase commit ではなく 1 phase commit で更新される ( 設定で 2 phase commit を使用することも可能 ) 18 Copyright(c) 2017 SRA OSS, Inc. Japan

19 各種クラスタ技術のまとめ可用性向上検索性能向上更新性能向上アプリケーション変更度合い Postgre SQL 変更必要実用性実績 Pacemaker X X Streaming replication X X Postgres-XL X X X Citus X : 寄与する X: 寄与しない : 制限事項あり / 工夫すれば寄与できる 19 Copyright(c) 2017 SRA OSS, Inc. Japan

21 Pgpool-II とは PostgreSQL とクライアントの間に入る proxy 型のミドルウェアで OSS として公開クライアントからは複数の PostgreSQL があたかも単一の PostgreSQL に見えるような管理を行う自動フェイルオーバやクエリの振り分けクエリキャッシュなど多くの機能本資料では PostgreSQL のストリーミングレプリケーションとの組み合わせを中心にお話します 21 Copyright(c) 2017 SRA OSS, Inc. Japan

インメモリクエリキャッシュ Pgpool-II はクエリキャッシュを使ってクエリの結果を再利用するクエリキャッシュはメモリ上に置かれるので非常に高速その際に PostgreSQL アクセスは一切なしキャッシュ用のストレージは共有メモリ火 memcached

28 インメモリクエリキャッシュ Pgpool-II はクエリキャッシュを使ってクエリの結果を再利用するクエリキャッシュはメモリ上に置かれるので非常に高速その際に PostgreSQL アクセスは一切なしキャッシュ用のストレージは共有メモリ火 memcached から選べるテーブルが更新されるとそのテーブルを参照したクエリキャッシュはすべて廃棄されるタイムアウトベースのキャッシュ更新も可能クエリキャッシュ PostgreSQL へのアクセスなし! 28 Copyright(c) 2017 SRA OSS, Inc. Japan

30 PostgreSQL の 20 年間の成長規模は 7 倍以上に 20 万ステップから 150 万ステップに本格的な RDBMS にトランザクション行ロック MVCC SQL 標準対応本格的なクエリオプティマイザ高性能化マルチプロセッサ対応パラレルクエリパーティショニング高可用性化レプリケーション多機能化全文検索 JSON 対応 30 Copyright(c) 2017 SRA OSS, Inc. Japan

31 lines of code 1,600,000 1,400,000 1,200,000 1,000, , , , ,000 0 PostgreSQL History Sub-query Multi byte Trigger PL/pgSQL WAL log TOAST Concurrent Vacuum Multi Processor Windows Recursive SQL Window function HOT Full text search autovacuum Streaming replication true serializable isolation level Materialized view Foreign data wrapper JSONB Logical decoding Scale up to 80 cores Cascading replication UPSERT Row locks MVCC MySQLレプリケーション (2000) Pgpool: レプリケーション (2004) Logical Replication Native Partioning Parallel Query 31 Copyright(c) 2017 SRA OSS, Inc. Japan

34 ロジカルレプリケーションとは? 従来からあるストリーミングレプリケーションと同じようにマスターからスレーブにレプリケーションする機能ただしマスター側を Publisher スレーブ側を Subscriber と呼ぶロジカルレプリケーションの特徴ロジカル ( 論理的 ) な更新トランザクションログを転送する一部のテーブルのみレプリケーションすることができるレプリケーション対象のテーブルには主キーが付いていることが望ましいなくてもレプリケーションできるが転送ログが大きくなる PostgreSQL のメジャーバージョンが異なってもレプリケーションできる一部レプリケーションされない SQL コマンドがある DDL TRUNCATE シーケンスラージオブジェクト COPY は INSERT としてレプリケーション大量の COPY は遅くなる可能性あり ( 初期 COPY 除く ) 34 Copyright(c) 2017 SRA OSS, Inc. Japan

35 ストリーミングレプリケーションとの違い Publisher 側も Subscriber 側の通常の PostgreSQL で良い Subscriber 側は read only の standby ではない Subscription 対象のテーブルを Subscriber 側でも変更できるただし conflict が起きないようにユーザが管理しないといけないのであまりお勧めできない Publisher 側と Subscriber 側のテーブルの初期データが一致していなくても良い初期状態で Subscriber 側のテーブルが空でも良い 35 Copyright(c) 2017 SRA OSS, Inc. Japan

37 ロジカルレプリケーションの仕組み CREATE PUBLICATION CREATE SUBSCRIPTION Publisher pg_publication pg_subscription Subscriber read and extract wal for specified table(s) transaction commit wal sender replication protocol wal apply worker WAL DB 37 Copyright(c) 2017 SRA OSS, Inc. Japan

38 ロジカルレプリケーション利用の流れ Publisher 側 postgresql.conf で wal_level = logical を設定 Publish するテーブルの指定 CREATE PUBLICATION publication 名と subscription 名が一致 Subscriber 側 Subscribe するテーブルの作成 Subscribe するテーブルの指定 CREATE SUBSCRIPTION 初期データの自動コピー更新データの自動レプリケーション 38 Copyright(c) 2017 SRA OSS, Inc. Japan

39 ストリーミングレプリケーションの住み分け? ストリーミングレプリケーションの使いどころすべてのテーブルをレプリケーションしたいスレーブ側を決して更新してほしくないロジカルレプリケーションの使いどころ一部のテーブルだけをレプリケーションしたい違うバージョンの PostgreSQL の間でレプリケーションしたいレプリケーションするテーブルのスキーマ定義をコピー元とコピー先で変えたい subscriber で列を追加するのは OK コピー先でもデータ変更を行いたい複数のコピー元から一箇所のコピー先にデータを集約したい 39 Copyright(c) 2017 SRA OSS, Inc. Japan

40 ロジカルレプリケーションの制限事項と注意事項 DDL TRUNCATE シーケンスラージオブジェクトはレプリケーションされないレプリケーションされるのは基底 (base) テーブルに限る VIEW Materialized View パーティションテーブルの Root foreign table はレプリケーションされない一時テーブル UNLOGGED テーブルはレプリケーションされない Subscriber 側でもデータ更新ができるのでデータの不整合が起きないようにアプリケーションで気を付ける必要がある 40 Copyright(c) 2017 SRA OSS, Inc. Japan

45 PostgreSQL 10.0 SQL パーサの移植 Pgpool-II では SQL 文を正確に解析するために SQL パーサを持っている SQL パーサは最新の PostgreSQL から移植以下の新しい構文をサポート宣言型パーティショニング CREATE TABLE PATITION BY ロジカルレプリケーション CREATE PUBLICATION CREATE SUBSCRIPTION 列間にまたがる統計情報など CREATE STATISTICS 45 Copyright(c) 2017 SRA OSS, Inc. Japan

46 Amazon Aurora 対応 Amazon Aurora with PostgreSQL Compatibility は AWS の提供する高性能 PostgreSQL クラウドサービス独自のストレージ管理を行い更新性能が高い複数のリードレプリカを持てる自動フェイルオーバ Pgpool-II を使って更新クエリと検索要求を自動的にマスターノードとリードレプリカに振り分けコネクションプーリングやクエリキャッシュ機能も利用可能 46 Copyright(c) 2017 SRA OSS, Inc. Japan

SRA OSS, Inc. のご紹介 1999 年より PostgreSQL サポートを中心に OSS ビジネスを開始 2005 年に現在の形に至る主なビジネス PostgreSQL, Zabbix などの OSS のサポートコンサルティング導入構築 PowerGres ファミリーの開発販売

Amazon Aurora with PostgreSQL Compatibility を評価して SRA OSS, Inc. 日本支社取締役支社長石井達夫 SRA OSS, Inc. のご紹介 1999 年より PostgreSQL サポートを中心に OSS ビジネスを開始 2005 年に現在の形に至る主なビジネス PostgreSQL, Zabbix などの OSS のサポートコンサルティング

PostgreSQL 10 で作るクラスタ構成 SRA OSS, Inc. 日本支社 取締役支社長 石井達夫

PostgreSQL 10 で作るクラスタ構成 SRA OSS, Inc. 日本支社取締役支社長石井達夫