Microsoft PowerPoint - PGECons事例セミナー_1.0版(公開用).pptx

Size: px

Start display at page:

Download "Microsoft PowerPoint - PGECons事例セミナー_1.0版(公開用).pptx"

いとはまるこ
5 years ago
Views:

1 NTT OSS センタにおける PostgreSQLへの取り組み NTT OSS センタの活動紹介 NTTグループにおける事例紹介 NTT OSS センタ原野鉄也

2 NTT OSSセンタの活動紹介 1OSS 適推進 2 ソフトウェア基盤技術向上 3OSSトータルサポート 4 技術開発 NTTグループにおける事例紹介 5PG-REX 導事例 6マイグレーション事例 7トラブルシューティング事例 1

3 NTT OSS センタ設の的 OSS 活によるNTTグループ社内システムのTCO 削減を的に 2006 年 4 設事業現場における OSS 導阻害要因の解消をめざす情報収集を一元的にできないかプロダクトの保守サポート体制は大丈夫なのか構築ノウハウ ( ミドルウェアの選定構成方法等 ) を結集できないかエンタープライズ用途には OSS の機能強化 ( 高信頼化高可用化 ) が必要ではないかなど 2

4 ティルーお客様NTT OSS センタの位置づけ下記の 4 つ (1 4) のミッションでグループ事業に貢献 NTT OSS センタのミッションと位置づけプ社技術検証検証済 OSS の導推進技術者育成材交流問合せ対応導援プロダクト保守プロダクト / ツール類の開発 NTT OSS センタ 1OSS 適推進 (OSSVERT * 検証 ) 2ソフトウェア基盤技術向上 3OSS トータルサポート 4 技術開発 (DBMS, 可ミドル等 ) 連携各種開発 OSS コミュニティグここを中心にお話します各サポート連携サポートベンダ NTT 研究所等 *)OSSVERT :OSs Suites VERified Technically( 技術検証済み OSS 組合せ ) 3

5 NTT OSSセンタの活動紹介 1OSS 適推進 2 ソフトウェア基盤技術向上 3OSSトータルサポート 4 技術開発 NTTグループにおける事例紹介 5PG-REX 導事例 6マイグレーション事例 7トラブルシューティング事例 4

6 OSSVERT モデル検証 Web3 層モデルを中とした OSS ミドル組合せ検証により品質性能確認各種パラメータ値決定適領域明確化失敗しない製品選定戻りのない設計開発性能向上迅速なトラブル解決設定書検証データ早い! 安い! うまい!? クライアント Webサーバ AP サーバ DBサーバアクティブスタンバイ Apache UltraMonkey JBoss/ Tomcat OpenJDK PostgreSQL/ MySQL Pacemaker/ Heartbeat 社内システムへの OSSVERT 導入数 OSSVERT モデル構成イメージ Amanda

7 OSS マイグレーションマイグレーション化に向けたノウハウ蓄積援ツール整備 (OSSマイグレーション援サービス ) マイグレーション工数削減ターゲット工数見積もり精度向上見積もり稼働削減事前検討基本設計詳細設計製造 / 単体試験ソースコード書換え稼働削減結合試験総合試験商用 UNIX 上のアプリケーション商用アプリケーションサーバ商用データベース商用 UNIX Java 言語 C 言語設計情報 SQL / DDL C 言語 / シェルスクリプト Linux 上のアプリケーション JBoss PostgreSQL Linux OS/ ハードへの依存が少なくツール不要環境依存度が高く移行見積もりや移行に時間がかかる領域はツールでカバー 6

8 NTT OSSセンタの活動紹介 1OSS 適推進 2 ソフトウェア基盤技術向上 3OSSトータルサポート 4 技術開発 NTTグループにおける事例紹介 5PG-REX 導事例 6マイグレーション事例 7トラブルシューティング事例 7

9 コミュニティ活動主要プロダクトの OSS コミュニティに積極的に参画主なコミュニティ活動状況プロダクト主なコミュニティ活動主要メンバ (OB 含む ) PostgreSQL Linux Heartbeat /Pacemaker PostgreSQL 開発改善へ継続的にパッチ貢献コミッタ PostgreSQLのレプリケーション機能開発への貢献で藤井が本 OSS 奨 JPUG 理事励賞受賞 ( ) 10) 企業ユーザ会 PGECons ち上げ (2012.4) Linux Kernel 開発改善へ継続的にパッチ貢献カーネルクラッシュダンプ機能開発等でフェルナンドが本 OSS 貢献者賞 ( ) TOMOYO Linux 開発等で半が本 OSS 貢献者賞 (2013.2) 2) KVM 開発等で吉川が本 OSS 奨励賞 (2013.2) 2) 受賞 NILFSメンテナコミュニティのステアリングコミッティメンバとしてHeartbeatから Pacemakerへの移に貢献 Heartbeat/Pacemaker 開発貢献で森が本 OSS 貢献者賞受賞 (2012.3) Pacemaker-PostgreSQL PostgreSQL 連携機能開発で松尾が本 OSS 奨励賞受賞 (2014.2) UltraMonkey コムウェア発負荷分散ソフトウェアのコミュニティを牽引コミッタ LKDTT (Linux Kernel Dump Test Tool) メンテナ TOMOYO Linux メンテナ NILFS メンテナ TOMCAT/ コミッタとしての活動が認められ藤野が上級コミッタに昇格 (2012.7) 上級コミッタ TOMCAT 開発貢献で藤野が本 OSS 貢献者賞受賞 (2014.2) 2) コミッタ mod_jk JBossEAP 国 Red Hat 社との JBoss 品質改善 TF に参画し品質改善に貢献 EAP6β 版評価プログラムに参画品質改善に貢献 Linux-HA ステアリングコミッティメンバ / コミッタ Pacemaker メンテナ HornetQ コミッタ TUBAME コミッタ OpenJDK Java 障害解析援ツール HeapStats を IcedTea コミュニティに公開 OpenJDKオーサ (2013.4) HeapStatsコミッタ HeapStats 8

10 コミュニティ活動パッチ貢献件数 OpenJDK /HeapStats JBoss Tomcat /mod_jk UltraMonkey Heartbeat /Pacemaker Linux PostgreSQL 累積

11 NTT OSSセンタの活動紹介 1OSS 適推進 2 ソフトウェア基盤技術向上 3OSSトータルサポート 4 技術開発 NTTグループにおける事例紹介 5PG-REX 導事例 6マイグレーション事例 7トラブルシューティング事例 10

12 OSS トータルサポートとはシステムライフサイクルの各ステージで OSS 化をサポートシステム化の検討段階での製品選定性能検証から構築援運時のトラブル対応まで OSS トータルサポートのスコープライフサイクルのステージシステム化検討設計構築試験運用情報提供 / 問合せ対応提供サービスの例検討支援構築支援検証支援 / 故障解析と回避策提示 11

13 問い合せ対応 (1/2) ポータルサイト経由の問合せ累計約 12,000 件 (2014 年 Q1) に対応 8 年間 +1Q 累計 12,284 件年間 2,000 件程度 (2013 年度 ) 12

14 問い合せ対応 (1/2) 直近 4 年間で PostgreSQL の問合せ約 1,000 件 2013 年度問い合せで約 300 件あり利数は年々増加している PostgreSQL 問合せ件数の推移年間 308 件 (2013 年度 ) 直近 4 年間 992 件

15 問い合せ対応 (2/2) 2013 年度における PostgreSQL の問合せ約 300 件設定や機能に関する問合せが多い ( 約 6 割 ) 不具合解析 26% そのうち仕様通りが約 4 割 PostgreSQLのバグ起因 1% 新規バグ 0% 品質に問題なく安定した運がえているノウハウ整備とその展開が重要問合せ全体傾向分析 ( 件 ) PostgreSQL 傾向分析 ( 件 ) 2013 年度 OS/ ミドルのバグ内訳機能 24% 設定 25% サポート方針 3% その他 3% バージョンアップ 8% サポート方針 3% バージョンその他新規 1% アップ 12% アプリバグ 2% 17% アプリバグ 0% 設定ミス 6% 設定ミス 4% 機能 30% 仕様通り 9% 仕様通り 12% 不具合解析不具合解析 26% 33% 既知原因不明 8% 83% 原因不明 5% 設定や機能に関する問合せ約 6 割その他 5% OS/ ミドルバグ設定 3% 32% 新規は 0 その他 4% 全体の約 50% DBMS バグ 1% 14

16 NTT OSSセンタの活動紹介 1OSS 適推進 2 ソフトウェア基盤技術向上 3OSSトータルサポート 4 技術開発 NTTグループにおける事例紹介 5PG-REX 導事例 6マイグレーション事例 7トラブルシューティング事例 15

17 PostgreSQL への取り組み Background NTT 研究所において OSSデータベースの研究開発に着した 2004 年当時機能と開発体制から選定オープンソース DBMS の比較 (2004 年当時 ) 機能 PostgreSQL(7.4) SQL の対応範囲 SQL92をほぼカバー本語字の対応 JIS, EUC 等主要コードを利可能 MySQL(4.0) 副照会とカーソルの部に制約があった種々の制約があった開発体制開発主体ベンダ独のコミュニティが開発特定ベンダのプロダクトでありダしておりパッチの受けれ等にパッチの受けれ等はベンダのついて中性がい意向に左右される海外コミュニティ開発コミュニティを含め活発国内コミュニティユーザコミュニティが活発ユーザコミュニティのみ活発ユーザコミュニティがち上がりつつあった 16

18 PostgreSQL の進化と OSS センタの関わり中期的な取り組みとして PostgreSQL 開発にも参画開発針議論への参画ユーザ会 JPUG ポータルサイト運営援 9.x において国内トップのパッチ貢献黎明期中規模構成をターゲットにした商 DBMSと同等の機能性能の具備 2005 NTT 参画 (2008/2) 2007 OSS センタ設 (2009/7) 9.1(2011/9) (2012/9) (2010/9) 9.3(2013/9) 2013 発展期規模構成および適領域拡に向けた機能性向上商 DBMSからの移性向上 2014 今後 MC (*) システム適 *)MC: ミッションクリティカル 17

19 PostgreSQL の進化と OSS センタの関わりエンタープライズ途観点で新機能や性能改善の開発に貢献 NTT グループではからシステムへの導がきく加速最近はレプリケーション機能と HA を組合わせた PG-REX 構成も字は NTT 貢献機能 8.3(2008/2) HOT: 更新性能向上 VACUUM 自動化 (2010/9) 9.1(2011/9) 同期レプリケーションパーティショニング強化外部データラッパー非同期レプリケーション列 / 条件付きトリガ (2009/7) 2009 VACUUM 用メモリ自動管理 (2012/9) インデックスオンリスキャン大幅な性能向上プラニング改善レプリケーション進化外部データラッパー改良 94(2014/9?) 9.4(2014/9?) (2013/9) 2014 書き込み可能外部テーブル更新可能ビュー / 実体化ビュー高速フェールオーバ外部データラッパー改良 18

20 PostgreSQL 開発 NTT が機能開発に取り組んだ機能のご紹介開発に取り組んだ背景や課題開発した機能の概要 1. レプリケーション (PG-REX) 2. 外部データラッパー 3. 移植の効率化 19

21 PostgreSQL 開発 - レプリケーション NTT が取り組んだ背景課題 OSS センタ設の頃より TCOの徹底的な削減厳しい競争によりシステム投資は抑制傾向 HWも安価なものを組合わせてシステム要件を実現したい特に規模システムで要望が強いその上定の信頼性も求められる可性の向上サービス継続性に対する要求レベルの上昇ダウンタイム時間の短縮化 99.99%(52.6 分 ) %(5.26 分 ) 共有ディスク式の冗構成では実現出来ないケースがスが性能のスケールアウト DBサーバの処理性能向上ではスケールアップが般的スケールアップは HWやSWの初期コストもきくなりがちまたサーバ分割 ( スケールアウト ) は設計直しなどの開発コスト増に 20

22 PostgreSQL 開発 - レプリケーション PG-REX( 最新版は PG-REX9.3 PostgreSQL と Pacemaker を組み合わせた可ソリューション共有ディスク不要 : 低コストでHAクラスタを実現待機系の有効利 : 待機系でも参照 SQL を処理可能ユーザ ( 業務 AP) からの IF は同じ NOTPM DBT-2 を用いた更新性能の検証切り替え時間は 10 秒 ~60 秒程度仮想 IP 自動フェールオーバ機能監視制御仮想 IP プライマリスタンバイ 0 データベース同期レプリケーションデータベース現用系待機系 PG9.1 REX9.1( 非同期 ) REX9.1( 同期 ) 検証環境条件 H/W CPU Xeon 2.66GHz 4core, MEM 18GB Strage 146GB 4 本 (RAID 1+0) S/W RHEL5.5, PosgreSQL9.1 21

23 PostgreSQL 開発 - 外部データラッパー NTT が取り組んだ背景課題外部データとの連係販売履歴応対履歴課履歴といった量のログ情報を取り扱う RDBMSへのロード時間を短縮できないか他システムとの DBMS 連携をうより柔軟より簡単に他のDBMSと連携できないか業務システム A OLAP システム業務 DB-1 業務 DB-2 ログログログデータログロード (CSV) ログ (CSV) (CSV) 処理業務 DB-A OLAP ( オンライン分析 ) データ分析者業務 DB-3 ロード時間の長大化 DB 連携他 DBMS との連携がしにくい業務システム B 業務 DB-BB 業務オペレータオンライン業務 22

24 PostgreSQL 開発 - 外部データラッパー FDW( Foreign data wrappers ) から contrib モジュールとして追加外部データへアクセスする仕組み ( テキストファイル DBMSなど ) SQL 中で通常のテーブルと同じように記述できる業務システム A OLAP システム業務 DB-1 業務 DB-2 ログ (CSV) ログ (CSV) 業務システム B 直接アクセス fi le_fdw ロード時間の解消業務 DB-A (PostgreSQL) 業務 DB-3 (PostgreSQL) 業務 DB-4 ( 商用 RDBMS) DB 連携通常の SQL でアクセス pos stgres _f fdw _f fdw AP 業務 DB-B (PostgreSQL) 23

25 PostgreSQL 開発 - 移植の効率化 NTT が取り組んだ背景課題移植コストの低減システム開発の多くは更改案件(OSSセンタへの相談の8 割以上 ) 商 DBMS から PostgreSQL への移既存 APの流率をめることが重要なポイント PostgreSQL 不採理由 (*) 商用 DBMS 固有機能の移植コスト短期間 & 高精度での見積りができないお客様事情移検討時にチェックするポイント適性 OSSがシステム要件への充確認機能性能システム間連携運期間サポートレベル etc 他製品連携制約性能不移が困難 *OSS センタ調べ移植性既存 APの修正量や修正難易度を確認既存 APの記述語や流規模互換 SQL の修正箇所難易度修正法修正法商 DBMSの独実装機能例 ) パーティショニング PL/SQL シノニムなど 24

26 PostgreSQL 開発 - 移植の効率化 orafce( Oracle に含まれる関数や機能を PostgreSQL で実可能にするツール PGECons WG2 の成果物に参考となるドキュメントが組み込み関数移調査編 ( PostgreSQL+orafce がサポートしているパッケージの関数カバー率 (*) 実案件 (Java アプリ ) での PostgreSQL+orafce の関数カバー率 (*) 未対応 66% PostgreSQL 標準 +orafce 34% 未対応 27% PostgreSQL 標準 +orafce 73% db_syntax_diff *OSS センタ調べ ( APをPostgreSQLへ移植する際の影響箇所を検出するツール影響箇所抽出作業の短縮化 *OSS センタ調べ影響箇所調査稼働 ( ) ツール未使用 2 抽出の網羅性向上品質の均化 2 0 人日エキスパートが実施スキル依存なしツール使用人日 25

27 PostgreSQL 開発 - その他周辺ツールその他 NTT が開発に関わった OSS( 部 ) pg_ statsinfo / pg_ stats _ reporter 統計情報を定期的に収集蓄積し稼働状況をレポートに出 pg_bulkload 速データロードユーティリティ pg_reorg オンラインで PostgreSQL のテーブルを再編成するツール t pg_rman バックアップやリストアを簡単に実できるツール dblink_plus 他のデータベースへ接続するためのモジュール 26

28 NTT システムとの Fit & Gap NTT システム要件と PostgreSQL の機能マッピング機能について基本的には PostgreSQL で問題なしただし 1 4の要件がある場合は詳細な検討が必要! NTT システムが必要とする DBMS 機能 PostgreSQL 機能二相コミット表分割 ( パーティション ) 高可用 (HA 構成 ) CPUスケーラビリティ 1 負荷分散商用 DBMS 機能更新処理レプリケーション標準 SQL 準拠 2 マテリアライズドビューデッドロック検知ロック管理 3 監査差分リフレッシュ PITR オンラインバックアップ高速ローダオンライン再編成 4 セキュリティログ出力制御暗号化性能監視 SQL 関数データベースリンク 27

29 NTT OSSセンタの活動紹介 1OSS 適推進 2 ソフトウェア基盤技術向上 3OSSトータルサポート 4 技術開発 NTTグループにおける事例紹介 5PG-REX 導事例 6マイグレーション事例 7トラブルシューティング事例 28

30 NTT グループにおける事例紹介 PostgreSQL 適事例のご紹介 5 PG-REX 導事例可システムへのPG-REX 導事例 6 OSSマイグレーション事例レガシーシステムの更改案件における商 RDBMS から PostgreSQLへのマイグレーション事例 7 トラブルシューティング事例 PostgreSQL でよく陥るトラブル事例 29

31 NTT OSSセンタの活動紹介 1OSS 適推進 2 ソフトウェア基盤技術向上 3OSSトータルサポート 4 技術開発 NTTグループにおける事例紹介 5PG-REX 導事例 6マイグレーション事例 7トラブルシューティング事例 30

32 PG-REX 導事例概要 NTT 網情報を利者に対してプロアクティブにメールや Web で情報配信する K システム OSSVERT フル活システム開発運コストを低減 RHEL / KVM / Apache / mod_jk / Tomcat / Pacemaker / PostgreSQL / UltraMonkey (+Postfix/Dovecot) Webアクセス3 千件 / 日メール送信 24 万件 / 日社内用セグメント外部用セグメント社内用 Web/AP1 SMTP1/POP1 DB1 外部用 AP1 外部用 WEB1 待機系 DB サーバ利用によるサーバリソース有効運用監視仮想化仮想化 FW 負荷分散 1 負荷分散 2 ン仮想化によるサーバ集約 SW 社仮想化 RT 内網社内用 Web/AP2 SMTP2/POP2 DB2 外部用 AP2 外部用 WEB2 ターネット利用 31 イ

33 PG-REX 導事例概要システム要件 (DB に関わる部分のみ抜粋 ) 24H365 運クラスタ構成によるサービス継続性の確保サービス停時間 ( クラスタが切り替わる時間 ) の最化 DB サーバ構成メリットデメリット較採! 方式案 1 HA クラスタ ( 共有ディスク ) 案 2 PG-REX 概略図 AP サーバ AP サーバ ACT VIP HA (PaceMaker) SBY ACT VIP HA (PaceMaker) SBY PG 共有ディスク PG PG ディスク同期レプリケーション PG ディスクデータ保全性 : データ損失なし ( 単一障害 ) : データ損失なし ( 単一障害 ) フェイルオーバ時間 : 数十秒 ~ 数分 ( リブート時間 ) :10~60 秒程度 ( 検知後即座に切替え ) 復旧手順 : 容易 : スレーブの再構築 ( 手順は確立済み ) 性能 : オーバヘッド微小 : 単体時より10~20% ダウンサポート実績 : 過去に多数の実績あり 32

34 PG-REX 導事例 DB サーバ構成本システムで採した DB サーバ構成 DB サーバは性能を考慮し物理サーバ上に構築バ上に構築 PG-REX によるマスタ - スレーブ構成ただしスレーブ側も参照クエリの負荷分散先として利 AP サーバ参照クエリ参照クエリ更新クエリスレーブ用 VIP DBサーバ ( スレーブ ) マスター用 VIP DBサーバ ( マスター ) DBサーバソフトウェア構成開発 AP PG-REX Crane (PostgreSQL + Pacemaker) ( 運用監視ミドル ) RHEL ブレードサーバ参照処理の切替え時間の短縮負荷分散 ( 共有 Disk 無 ) 33

35 PG-REX 導事例留意事項 PG-REX 導時の設計や運で注意すべきポイント NIC の数レプリケーション再構築順の確スレーブサーバ故障バ故障スレーブサーバのマスター昇格からの切り戻しなど監視法 NIC の数サービス LAN マスター NICが7つ必要! 12 IPMI bonding bonding 6 7 bonding スレーブインターコネクト1 インターコネクト2 レプリケーション STONITH IPMI 監視法マスター監視サーバ簡単! スレーブ起動プロセス postgres writer process archiver process wal sender process 起動プロセス postgres writer process archiver process wal receiver process プロセス監視でもマスターとスレーブの見分けはできるが select pg_is_in_recovery(); i f : マスター, t : スレーブ,error :: 障害 34

36 NTT OSSセンタの活動紹介 1OSS 適推進 2 ソフトウェア基盤技術向上 3OSSトータルサポート 4 技術開発 NTTグループにおける事例紹介 5PG-REX 導事例 6マイグレーション事例 7トラブルシューティング事例 35

37 サバエンクロジャ社内内OSS マイグレーション事例概要特定サービスに関する契約情報 ( 申込情報や顧客情報等 ) を管理して営業を援する M システム商製品から RHEL/Apache/mod_jk/JBoss EAP/PostgreSQL に移しシステム開発運コストを低減社網SW 網複数システムを統合するサーバエンクロージャ Web/AP/DB 運用管理 / バックアップクライアント IT 基盤他システム 36

38 OSS マイグレーション事例概要更改前後のソフトウェア構成更改前 Web/AP サーバ DB サーババックアップサーババックアップ商用バックアップ製品 Agent 商用バックアップ製品 Manager JOB 管理商用運用管理ソフトウェア M/A WEB 商用 AP サーバ DBMS 商用 DBMS 通信用 AP 商用 DBMS 通信用 AP 商用 DBMS OS UNIX UNIX UNIX 更改後 Web/AP/DB サーババックアップ / 運用監視サーババックアップ商用バックアップ製品 Manager JOB 管理 Crane Agent Crane M/A WEB JBoss EAP Apache M/A :Manager/Agent DBMS OS PostgreSQL Linux Linux : 商用製品 :OSS NTT 研究所フロタクト 37

39 OSS マイグレーション事例概要マイグレーション実施可否は最終的には TCO 較で判断適性検討 : 機能性能に関する充性の確認移植性調査 : マイグレーションによる影響範囲修正難易度の確認単純更改 OSS マイグレーション費較費マイグレーション費用なし TCO 比較マイグレーション費適用性検討移植性検討設計製造試験マイグレーション費用の見積り精度 OSS マイグレーション費開発費保守費単純更改 OSS マイグレーション H/W ミドル調達費 38

40 OSS マイグレーション事例適性適性検討における DBMS 課題既存システムではパーティショニングを利ティショニングを利オンラインバッチ性能要件を満出来るかが不安実機検証評価観点オンライン業務 SQL およびバッチ SQL の応答時間が標値を下回ること検証条件繁忙期と同程度の背景負荷上でオンラインバッチSQLを発する. 検証対象 SQL SQL の応答時間を測定パーティションテーブル (16 テーブル ) 背景負荷使頻度のい SQL を並列実 DB サーバ 39

41 OSS マイグレーション事例適性実機検証結果 PostgreSQL で標性能を満できることが確認できた! パーティショニングも不要!! No 業務分類対象業務性能目標値結果 ( パーティション有 ) 結果 ( パーティション無 ) 1 オンライン A 業務 4.9 sec 以下 4.69 sec 2.98 sec 2 オンライン B 業務 01sec 0.1 以下 sec 008sec オンライン C 業務 3.8 sec 以下 3.20 sec 0.86 sec 4 バッチ E 業務 850 sec 以下 787 sec 767 sec 検証環境条件 H/W CPU Intel Xeon 2.66GHz 4core MEM 24GB Strage 146GB 12 本 (VRAID10) S/W RHEL6.2 PosgreSQL9.1( パーティショニング数 16) パーティショニング無しのが性能が良い SQL が存在している分割キー以外の列を条件としてパーティションをまたがる検索をっているSQL であった 40

42 OSS マイグレーション事例移植性移植性検討における DBMS 課題開発数が想定よりも増することによるリスク既存 AP の修正範囲のきさや修正難易度対処法に不安が移植性調査結果その 1 体規模の 4% 弱の修正で DBMS の移植が可能! 修正規模レポート調査箇所ソースファイル数ソース行数修正箇所数目視確認箇所数修正ユニーク行数 SQL/DDL Java 約 740 個約 250kL 約 11kL 約 5kL 約 9kL Pro*C 母体規模 db_systax_diff diff で算出母体規模の 4% 弱 41

43 OSS マイグレーション事例移植性移植性調査結果その 2 移植難易度も全体の 99% が低 1 低 2 調査結果その 1 と合わせ AP 移に課題がないことが確認できた! 修正難易度レポート全体の 99% # 難易度 SQL/DDL Java Pro*C 1 低 1 4, 低 2 5, 中高計 9, 修正例 ( 本事例で最も多いもの ) VARCHAR2 VARCHAR に置き換えただしバイト数と字数の差異あり外部結合演算 (+) LEFT JOIN, RIGHT JOIN, FULL JOIN に置き換え rtrim 関数における空字の扱いに差異があり単純置き換えができない難易度のレベル低 1: 機械的に直せるもの低 2: 機械的修正は出来ないが修正がきわめて容易なもの中 : 機械的修正が出来ず周辺処理を確認しながら修正が必要なもの高 : 機械的修正が出来ず PostgreSQLに代替機能がないために検討が必要なもの 42

44 NTT OSSセンタの活動紹介 1OSS 適推進 2 ソフトウェア基盤技術向上 3OSSトータルサポート 4 技術開発 NTTグループにおける事例紹介 5PG-REX 導事例 6マイグレーション事例 7トラブルシューティング事例 43

45 トラブルシューティング事例我々が数多くの障害解析を実施してく中でよくかける PostgreSQL に関わるトラブルを事例としてご紹介します運中における突然の SQL 性能低下運中に突如 PostgreSQL の性能低下が発したトラブル事例をご紹介します PostgreSQLトラブルの未然防や早期解決のとして活頂ければ幸いです 44

46 運中における突然の SQL 性能低下トラブル内容毎あるテーブルの全件レコードを処理するバッチが突然性能低下し所定の時間に終了しない時間バッチ処理時間 X-3 X-2 X-1 X デイトラブル原因 ( キーワード ) いつも短時間で終わるのに今は全然終わらない何故?? ロングトランザクション時間 Commit/Rollback o がなされないトランザクション MVCC VACUUM MultiVersion Concurrency Control: 多版型同時実行制御不要領域の回収 ( ゴミレコードの再利化 ) 45

47 運中における突然の SQL 性能低下トラブル発のメカニズムテーブル追加 XID 削除更新 XID 主キーデータ追加更新削除削除 10 1 北海道東京 25 2 東京西名古屋大阪ロンクトランサクションクション TR 1 TR 2 PostgreSQL の物理ページ不要領域不要領域不要領域不要領域不要領域不要領域不要領域追加更新追加削除 50 5 広島福岡 65 6 福岡南 70 7 鹿児島 80 沖縄 : 有効レコード : 不要レコード AutoVacuum ページ単位辺りの有効が減少ページ数が増テーブル肥化!! ロンクトランサクションのため回収不可業務バッチ処理時間増全件検索処理シーケンシャルスキャン 46

48 運中における突然の SQL 性能低下対処法 1 障害事象の確認対象テーブルに VACUUM VERBOSE をい以下のメッセージが出るかどうか確認する DETAIL: dead d row versions cannot be removed yet. 2 ロングトランザクションの確認ロングトランザクションの存在をンの存在を xact_start の時刻で確認する SELECT * FROM pg_stat_activity ORDER BY xact_start; 3 ロングトランザクションを終了させるクライアント強制終了, pg_terminate_backend() 関数, kill コマンド 4 テーブル, インデックスの再編成 ( 必要に応じて ) ファイルが肥化している場合は再編成を実施 47

49 運中における突然の SQL 性能低下防策 ( ロングトランザクション検知 ) pg_statsinfo / pg_stats_reporter PostgreSQL や OS の統計情報を定期的に動で取得します 48

50 運中における突然の SQL 性能低下防策 ( ロングトランザクション検知 ) pg_statsinfo / pg_stats_reporter PostgreSQL や OS の統計情報を定期的に動で取得します pg_stats_reporter ロングトランザクションを捕捉アラートとしてログ出! 49

51 ( 参考 )pg_stats_reporter PostgreSQLの情報を時系列に確認可能です! 50

52 トラブルシューティング法他の DBMS と同じような切り分け法で OK! 解析に必要な情報の収集障害事象の確認 PostgreSQL のバージョン (JDBC なども ) PostgreSQL の設定ファイルログ実計画システム構成スキーマ情報など障害発前後におけるDBMSの挙動発前に何か作業をっていないか? pg_statsinfo/pg_stats_reporter であれば発前後の差異をつけることができるかも 51

53 本のまとめ 52

54 本のまとめ OSSセンタの活動紹介サポートサービスからみた PostgreSQL の品質 OK! バグ起因のトラブルが少なく常に安定した運エンタープライズ途での PostgreSQL の機能バージョンアップ毎に着実に進化商 DBMS から PostgreSQL に移する AP 移植ツール NTTグループにおける事例紹介 PG-REX 導や PostgreSQL 移も実績あり! トラブルも怖くない!? PostgreSQL に合わせた設計試験運を楽にするツールも活 OK! OK! 最後にぜひ度 PostgreSQL に触ってみてください! 53

55 皆様の今後のPostgreSQL 利の参考になれば幸いですご清聴ありがとうございました 54

PostgreSQL によるクラスタ構成の可能性 SRA OSS, Inc. 日本支社取締役支社長石井達夫

PostgreSQL によるクラスタ構成の可能性 SRA OSS, Inc. 日本支社取締役支社長石井達夫 PostgreSQL によるクラスタ構成の可能性 SRA OSS, Inc. 日本支社取締役支社長石井達夫 SRA OSS, Inc. のご紹介 PostgreSQLを中心とした OSSへの様々なサービスを提供サポートサービスコンサルティングパッケージ製品 PowerGres, libtextconv, Sylpheed Pro 教育サービストレーニング技術者認定制度 (PostgreSQL