Microsoft PowerPoint _SINET_cloud

Size: px

Start display at page:

Download "Microsoft PowerPoint _SINET_cloud"

めぐのしもかさ
4 years ago
Views:

1 塩基配列データベースを中心とした生物学系研究の情報基盤について国立遺伝学研究所 DDBJセンター助教小笠原理

2 国立遺伝学研究所

4 遺伝研スパコン : 目的 1. 国際塩基配列データベース (International Nucleotide Sequence Database : INSD) の構築 2. 大学共同利用機関として主に生物学医学系研究者への計算機資源の提供

5 遺伝研スパコン : 構成概略 1. 分散メモリ型計算ノード (Thin) 554 ノード 9672 コア HP Proliant SL230 Gen8 など XeonE5 2670, XeonE5 2680v2 64GB memory/node GPGPU 搭載 128 ノード XeonPhi 搭載 32 ノード 2. 共有メモリ型計算ノード (Medium) 10 ノード 800 コア HP Proliant DL980 G7 2TB memory/node 3. 共有メモリ型計算ノード (Fat) 1 ノード 768 コア SGI Altix UV TB memory/node 4. 計算用ストレージ Lustre File system 7PB 5. 配列データアーカイブ用ストレージ (MAID) 5.5PB 6. Infiniband QDR, FDR

6 国際塩基配列データベース (INSD) と DDBJ (DNA Data Bank of Japan) の沿革 (1/3) Traditional Data Archive 1977 年 DNA 塩基配列決定法 (Sanger 法 ) 1979 年国際塩基配列データベース (INSD) 設立のための国際会議が開かれる 1981 年 EMBL( 欧 ) 1982 年 GenBank ( 米 ) 設立 1987 年遺伝研にDDBJ 設置日米欧 3 極体制の確立 1990 年論文発表時にデータを登録することを著者に義務づける現在の運用形態が確立

7 国際塩基配列データベースコンソーシアム (INSDC) = DDBJ( 日 )+ NCBI( 米 )+ EBI ( 欧 )

8 国際塩基配列データベース (INSD) と DDBJ (DNA Data Bank of Japan) の沿革 (2/3) NGS Sequence Read Archive (Open Access Data) 2001 年ヒトゲノムプロジェクトドラフト配列公開 2003 年ヒトゲノムプロジェクト終了 2005 年最初の次世代シーケンサー Roche454 GS FLX 販売開始 2009 年次世代シーケンサー (NGS) のアーカイブを日米欧 3 極で開始 2012 年 3 月遺伝研スーパーコンピュータ更新 ( 第四期 )

9 次世代シーケンサー (NGS) データアーカイブのファイルサイズ合計 /1/07 9/1/07 12/1/07 3/1/08 6/1/08 9/1/08 12/1/08 3/1/09 6/1/09 9/1/09 12/1/09 3/1/10 6/1/10 9/1/10 12/1/10 3/1/11 6/1/11 9/1/11 12/1/11 3/1/12 6/1/12 9/1/12 12/1/12 3/1/13 6/1/13 9/1/13 12/1/13 3/1/14 6/1/14 9/1/14 12/1/14 ファイルサイズ合計 [TB] FASTQ SRA_LITE フォーマット ( 新スパコン稼働開始 )

11 国際塩基配列データベース (INSD) と DDBJ (DNA Data Bank of Japan) の沿革 (3/3) NGS Sequence Data (Controlled Access Data) 2009 年 NGSのデータアーカイブを日米欧 3 極で開始 2012 年 3 月遺伝研スーパーコンピュータ更新 ( 第四期 ) 2013 年個人ゲノム情報のアーカイブの運用を日米欧 3 極で開始日本では遺伝研 DDBJ が個人ゲノム情報のアーカイブ Japanese Genotype-phenotype Archive (JGA) を JST 傘下の NBDC と協同で開始

14 Clinical Applications of Next Generation Sequencing SlideShare : applications of nextgeneration sequencing

15 国際塩基配列データベース (INSD) データの種類データベース件数サイズ DNA 塩基配列データ (Traditional) DDBJ/ENA/GenBank 3 億件 10TB The Trace Archive 21.7 億件 100TB DNA 塩基配列データ ( 次世代シーケンサー ) DRA/ERA/SRA 120 万件 1500TB JGA/EGA/dbGaP Personal Genome Data Archives 26 万人 500TB 遺伝子発現データ DOR/Array Express/GEO 125 万件 20TB

16 1. DDBJ が受け付けるデータの登録 1. ログインユーザー情報の入力編集管理 2. BioSample, BioProject のデータ入力 ( メタデータ ) 3. 配列生データのアップロード (DRA, Trace Archive) 4. ( アノテーションの計算 ) 5. Traditional データの登録 2. 査定業務 (TSUNAMI) 公開管理 => DDBJ 分の Daily update 作成 (FFmaker) 3. NCBI, EBI の Daily データとのマージ 4. リリース作成プログラム 5. 公開系 ( 全文検索システム等 )

17 DDBJ の活動国際塩基配列データベース (INSD) の構築計算機資源の提供次世代シーケンサーの登場によりデータ量が飛躍的に増大データ量の増大に対応するためまず業務用ソフトウエアを全面刷新スーパーコンピュータを COTS(commercial off-the-shelf) 型に移行ディスクサイズ約 20 倍計算処理性能約 14 倍とすることに成功ユーザー数も増大 ( 現在約 1700 名 ) 生命系に特化したスパコンとして広く使われている

19 ユーザー数の推移

20 ユーザーの利用目的とリソース使用量 simulation, 22(1.2%) db, 28(1.5%) seq, 44(2.4%) DDBJ 業務, 81(4.5%) スパコンユーザ数ユーザー数目的別内訳 ngs, 340(18.8%) MiGAP, 537(29.7%) Pipeline, 694(38.4%) algorithm, 15(0.8%) other, 32(1.8%) SE, 13(0.7%) db, 1.4% seq, 2.0% simulation ngs seq algorithm CPU 時間時間目的別内訳 simulation, 32.4% ngs, 57.3% db other simulation, 1.7% other, 2.1% seq, 0.9% algorithm, 1.5% other, 2.4% SE, 0.6% text MiGAP Pipeline DDBJ 業務 Lustre ディスク使用量 Lustre ファイルシステム使用量目的別内訳 ngs, 57.6% db, 4.4% DDBJ 業務, 28.7% SE Pipeline, 3.6% 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100%

22 実行中のジョブ数 ( 赤 ) と待機中のジョブ数 ( 青 )

24 [Gbps] ネットワークトラフィック ( 一日平均 ) ダウンロードアップロード

25 遺伝研スパコンユーザー会 ja category/jaimportant notice/214 nig supercomputer meeting result

26 スパコンユーザー会のご意見その他多数

28 スパコンユーザーからの要望まとめ 1. スパコン上で動作するソフトウェアの開発支援 2. データ解析をする研究者に便利な環境の提供 3. 個人ゲノム等制限アクセスデータの解析を可能とする環境の提供 4. データベースをミラーして必要なデータを揃えておくこと 5. スパコン間の連携

30 RaaS: Reproducibility as a Service by docker container on NIG supercomputer by Tazro Inutano Ohta Published January 22, reproducibility as a service bydocker container on nig supercomputer

31 RaaS: Reproducibility as a Service by docker container on NIG supercomputer by Tazro Inutano Ohta Published January 22, reproducibility as a service bydocker container on nig supercomputer

32 RaaS: Reproducibility as a Service by docker container on NIG supercomputer by Tazro Inutano Ohta Published January 22, reproducibility as a service bydocker container on nig supercomputer

33 クラウド利用への期待 ( まとめに替えて ) 1. 解析用の計算ノードが不足 ( 要求は多い ) o 多人数のユーザーが Grid Engine を用いて様々な大きさの計算を実行している状態 2. 生物学系の研究者がWebサイトを立てて解析結果を他の研究者と共有する環境が要る 3. データアーカイブ領域 : 数十 PBのデータに対するアクセス 4. 個人ゲノムデータのような制限アクセスデータのアーカイブと計算環境

Sequence Read Archive 2013 年年 10 月 25 日第 10 回シーケンサー利利用技術講習会 ( 理理研横浜 ) 1

Sequence Read Archive 2013 年年 10 月 25 日第 10 回シーケンサー利利用技術講習会 ( 理理研横浜 ) 1 Sequence Read Archive 1 塩基配列列データベースアノテーション DDBJ アセンブリ DDBJ Center アライメントシークエンシングとサンプリング Sequence Read Archive 2 増大する SRA データ千兆塩基目前 http://www.ncbi.nlm.nih.gov/traces/sra/ 3 SRA は INSDC の一員 INSDC: