PowerPoint Presentation

Transcription

1 AWS マイスターシリーズ Reloaded Amazon Glacier ソリューションアーキテクト 北迫清訓

2 Agenda AWSストレージサービス Amazon Glacierとは Amazon Glacierの特徴 Amazon Glacierの機能 Amazon Glacierの利用コストモデルまとめ

3 AWS が提供するストレージサービス Amazon Simple Storage Service (S3) 高頻度アクセスを想定したオンラインストレージサービス 耐久性 % を実現 月額約 10 円 /GBから提供 Amazon Glacier 低頻度アクセスかつ長期保存を想定したストレージサービス S3 同等の耐久性 % を実現 月額約 1 円 /GBから提供

4 Amazon Glacier とは

5 Amazon Glacier Glacier = 氷河

6 Amazon Glacier の目的 アーカイブやバックアップのため セキュアかつ堅牢性 の高い超低価格ストレージサービスの提供 既存でテープ媒体などでバックアップを取得しているよ うな大容量データを 安価で確実に長期保存する仕組みを提供 データの取り出し回数は少ないが 必要な時に確実に データの取り出しが行えるサービスの提供

7 Amazon Glacierの利用用途 オフサイト アーカイブ 企業データ メディアデ ータ リサーチ 科学技 術データ 電子保管 図書館 歴史博物館 NGOや政府の電子アー カイブ テープリプレイス IT部門のテープバックア ップ ログデータ等の外 部保管

8 Amazon Glacier の特徴

9 Amazon Glacier の特徴 低コスト セキュア 高い耐久性 シンプル 柔軟性

10 低コスト 初期投資不要 運用費不要 利用した分のみの従量課金 データ格納容量 データ取り出し容量 (Retrieve) 外部へのデータ転送容量

11 高い耐久性 耐久性 % 同一リージョン内で複数拠点への自動複製保存 データのインテグリティチェックおよび自動復旧

12 柔軟性 格納容量無制限保存期間制限なしいつでもデータの取り出し可能保守切れ等によるデータ移行作業不要 AWS IMPORT/EXPORTにも対応

13 セキュア やり取りはすべて SSL 通信 同一リージョン内のみでのデータ保管 自動サーバサイド暗号化 (AES256) IAM との連携によるアクセス管理

14 シンプル API による制御 キャパシティプラニング不要 ハードウェア ソフトウェアからの解放 3 rd Party 製品もサポート

15 Amazon Glacier の機能

16 Amazon Glacier 用語集 Vault アーカイブ格納用コンテナ Archive 格納データファイル ( ファイル,ZIP, TAR 等 ) Inventory Vault 内に格納されたアーカイブ情報 Retrieve Job アーカイブおよびインベントリ取出し要求ジョブ Download Retrieve されたアーカイブもしくはインベントリのダウンロード処理

17 Amazon Glacier の機能 1 2 アーカイブのアップロード Vault の作成 アクセス権限の設定 ( オプション ) Amazon Identity and Access Management ジョブ終了通知の設定 ( オプション ) Amazon Simple Notification Service 3 アーカイブの取出し処理 アーカイブの取出し処理には 3-5 時間要します 処理起動 取出し処理実行 処理終了データ取出可能状態 アーカイブのダウンロード お客様のアプリ AWS マネージメントコンソール API もしくは SDK を用いて実行 API もしくは SDK を用いて処理を実行 Amazon SNS 経由で終了通知

18 Glacier の機能 Vault 格納アーカイブ数の制限なし 1アカウントの1リージョン毎に1,000 個まで作成可能 IAMによるアクセス制限指定可能 Vault 毎にデフォルトのSNS 通知設定可能 Amazon Simple Notification Serviceを利用 Archive 格納データファイル アップロード時にシステム側で Archive ID を自動発行 別途メタデータ / インデックス管理 DB を準備することを推奨 格納データの更新不可 ( 新規登録 削除のみ ) マルチパートアップロードに対応 1 アーカイブ最大 40TB まで

19 Glacier の機能 Inventory Vault に格納されたアーカイブ一覧情報 JSON もしくは CSV 形式でダウンロード可能 情報は 1 日 1 回バッチにより自動更新 Retrieve Job アーカイブおよびインベントリ取得要求ジョブ 非同期によるデータ取得 並列処理要求可能 Retrieve Job 実施後 ダウロード準備完了まで 3~5 時間 JobID による処理状況のトラッキング Amazon SNS を利用した 個別の Job 完了通知指定可能 Download Retrieve されたデータのダウンロード ( アーカイブおよびインベントリ ) Retrieve Job 完了後 24 時間はダウンロード可能 AWS 内でのデータ転送は無料

20 Glacier の機能 Vault 情報 ManagementConsole もしくは API で取得可能 リージョン 最終インベントリ更新日時 格納合計サイズ 格納アーカイブ数 インベントリ情報 Retrieve Job 経由で情報ファイルをダウンロード アーカイブ ID アーカイブ詳細 作成日 サイズ ハッシュキー AWS Management Console Inventory (JSON Format) { "VaultARN":"arn:aws:glacier:ap-northeast-1:XXXXXXXXXX:vaults/myvault", "InventoryDate":" T10:54:40Z", "ArchiveList":[ { "ArchiveId":"VuXIueJVKCmi2Krd09mWsPYnBQXM_ThOrZCibCPT6W4QSlHMxgN2eqyH6_1", "ArchiveDescription":"my test archive1", "CreationDate":" T15:57:32Z", "Size": , "SHA256TreeHash":"213cfb8e049cee88f988a61e48ebe699ff201f45d63f786d959a6b97b" }, { "ArchiveId":"GzDjZm4lGcOt73icVTmROC7BqsqPAym49sOYEHxJlGyxKtYv0hQ18keenxOVM", "ArchiveDescription":"my test archive2", "CreationDate":" T16:26:01Z", "Size": , "SHA256TreeHash":"213cfb8e049cee88f988a61e48ebe699ff201f45d663f786d959a6b97b" } } }

21 Glacier の機能 AWS Import / Export AWS のリージョンに対してデータが格納された HDD を送付いただくことで 直接 Glacier に対しデータのアップロードすることが可能 現在 Tokyo リージョンは未対応 AWS Import / Export

22 Amazon Glacier の利用

23 Amazon Glacier API & SDK Glacier の制御 AWS API AWS SDK REST Internet AWS SDK 入手先 Java SDK : SDK : メール HTTP SQS

24 Vault の作成 Management Console を利用した Vault 作成 1. Glacier の管理画面にて Vault を作成するリージョンを選択 2. Create Vault を押下 3. Vault 名の指定し Create Vault Now を押下

25 Vault 通知設定 Management Console を利用した Notification 設定 1. Glacierの管理画面より 対象のVaultを選択 2. Notificationタブにて 1. enableを選択 2. Amazon SNS Topic ARNを指定 3. 通知対象 (Archive / Inventory) を選択

26 アーカイブのアップロード アップロード 1 アーカイブ = 1 ファイル (ZIP, TAR 等も利用可能 ) 1 アップロードリクエストで転送できるファイルサイズ上限は 4GB 4GB 以上のアーカイブの場合は マルチアップロードを利用 戻り値より アーカイブ ID を取得 マルチアップロード ファイルを分割し 並列でアップロード処理を実施することで アップロード時間の短縮が可能 100MB 以上の場合は マルチアップロードの利用を推奨 分割時の各ファイルサイズは 1MB から 4GB まで

27 アーカイブのアップロード AWS SDK High Level API ファイルサイズを自動的に確認し 必要であればマルチアップロードを実施 Low Level API パラメータの個別設定が可能 (AccountID/ マルチアップロードサイズ等 ) マルチアップロードの場合は 個別に実装が必要 High Level API(Sample) client = new AmazonGlacierClient(credentials); //Endpoint 指定 client.setendpoint(" ArchiveTransferManager atm = new ArchiveTransferManager(client); // アップロード実行 UploadResult result = atm.upload(vault 名, Description, new File( アーカイブファイルパス )); // アーカイブ ID 取得 System.out.println("Archive ID: " + result.getarchiveid());

28 アーカイブの取得要求 Retrieve Job の実行 アーカイブIDを指定してRetrieve Jobを実行 JobParameterのTypeに "archive-retrieval を指定 SNS ARNを個別に指定可能 戻り値より JobIDを取得 API(Sample) // Job パラメータ指定 JobParameters jobparameters = new JobParameters().withArchiveId("*** provide an archive id ***").withtype("archive-retrieval"); // Job 実行 InitiateJobResult initiateretrievaljobresult = client.initiatejob(new InitiateJobRequest().withJobParameters(jobParameters).withVaultName(vaultName)); // JobID 取得 String jobid = initiateretrievaljobresult.getjobid();

29 Inventory の取得要求 Retrieve Job の実行 Vault 名もしくはアーカイブ ID を指定して Retrieve Job を実行 指定 Vault 内の一覧 固有アーカイブ JobParameter の Type に inventory-retrieval を指定 Format を CSV もしくは JSON を指定 ( デフォルトは JSON) SNS ARN を個別に指定可能 戻り値より JobID を取得 API(Sample) // Job パラメータ指定 JobParameters jobparameters = new JobParameters().withType( inventory-retrieval").withformat( JSON )

30 Job 実行状態確認 Job の状態確認 Retrieve Job の実行状態を取得可能 InProgress Succeeded Failed Vault 名と JobID を指定して実行 API(Sample) // DescribeJob パラメータ指定 DescribeJobRequest descjobrequest = new DescribeJobRequest().withJobId("*** provide a job ID ***").withvaultname("*** provide a vault name ****"); // Status Code 取得 descjobresult = client.describejob(descjobrequest); Status = descjobresult.getstatuscode();

31 Notification SNS の利用 SNS に指定した通知方式に基づき Retrieve Job 完了を通知 メール, メール (JSON), HTTP, HTTPS, AmazonSQS Mail JSON (Sample) {"Type" : "Notification", "MessageId" : "20bbe58b-40d ac7b-dba06b04394f", "TopicArn" : "arn:aws:sns:ap-northeast-1: :glacier_demovault", "Message" : "{ \"Action\":\"ArchiveRetrieval\", \"ArchiveId\":\"XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX\", \"ArchiveSizeInBytes\": , \"Completed\":true, \"CompletionDate\":\" T13:14:28.918Z\", \"CreationDate\":\" T09:14:26.033Z\", \"InventorySizeInBytes\":null, \"JobDescription\":null, \"JobId\":\"kOtRABgveW4uwefaVZCQrS_1L_XfMYCxfVZRZ0EPmwlDyLBS0ifwRpz0884t0KT1lgWQRQlpl_1gFVDk-wYD5yFkQWbh\", \"SHA256TreeHash\":\"213cfb8e049cee88f988a61e48ebe699ff201f45d6deb49463f786d959a6b97b\", \"SNSTopic\":null, \"StatusCode\":\"Succeeded\", \"StatusMessage\":\"Succeeded\", \"VaultARN\":\"arn:aws:glacier:ap-northeast-1: :vaults/DemoVault\"}", "Timestamp" : " T13:14:29.372Z", "SignatureVersion" : "1", "Signature" : "XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX", "SigningCertURL" : " "UnsubscribeURL" : " 1: :Glacier_DemoVault:042530f8-a04c-46d0-8d51-e5f265bacb60"}

32 Inventory/ アーカイブのダウンロード ダウンロード Retrieve Job 完了後 JobIDをもとに実施 JobIDの生存時間は24 時間 ダウンロード時にファイル名の指定 レンジ指定の分割ダウンロード可能 AWS SDK High-Level API Retrieve Job からファイルのダウンロードまで一括して実行 ( 同期型 ) ArchiveID のみで取得可能 Low-Level API Retrieve Job 要求完了後 JobIDをもとにダウンロード処理を実施 ( 非同期型 ) API(Sample) GetJobOutputRequest joboutputrequest = new GetJobOutputRequest().withJobId("*** provide a job ID ***").withvaultname("*** provide a vault name ****"); GetJobOutputResult joboutputresult = client.getjoboutput(joboutputrequest); // joboutputresult.getbody() provides the output stream.

33 IAM によるアクセス制御 アクセス制御 IAM(AWS Identity and Access Management) を利用した Vault に対するアクセス制御が可能 IAM ユーザもしくはグループのパーミッションポリシーを作成 特定の Vault に対して アーカイブのアップロード権限を付与 { "Statement": [{ "Effect": "Allow", "Resource": "arn:aws:glacier:ap-northeast-1: :vaults/demovault", "Action":[ "glacier:uploadarchive", "glacier:initiatemultipartupload", "glacier:uploadpart", "glacier:listparts", "glacier:listmultipartuploads", "glacier:completemultipartupload"] }]} 指定可能権限一覧 glacier:abortmultipartupload glacier:completemultipartupload glacier:createvault glacier:deletearchive glacier:deletevault glacier:deletevaultnotifications glacier:describejob glacier:describevault glacier:getjoboutput glacier:getvaultnotifications glacier:initiatemultipartupload glacier:initiatejob glacier:listjobs glacier:listmultipartuploads glacier:listparts glacier:listvaults glacier:setvaultnotifications glacier:uploadarchive glacier:uploadmultipartpart

34 システム構成例 お客様DC AWS SDK 制御サーバ 管理者 Internet AWS Import/Export Mail 送信 アップロード インデックス管理 IAMによる アクセス管理 ダウンロード Retrieve連携 アップロード AWS SDK 制御サーバ ダウンロード Retrieve 完了通知 データ連携 Mailサーバ Mail 送信 データ連携 データ 分析 etc. オンライン ストレージ HTTP Request Webサーバ 分散バッチ処理 Queue 登録 Amazon Web Service

35 Amazon S3 と Glacer の違い Amazon S3 Amazon Glacier Object (S3) VS Archive(Glacier) ファイル単位上書き更新可能リスト可能なインデックスオブジェクト名指定可能同期ダウンロードオブジェクトレベルでのアクセス管理スタンダード + 低冗長化ストレージ Server Side Encryption 選択可 LISTによるメタデータ情報参照 ファイルもしくはアーカイブされたファイル単位 (ZIP/TAR 等 ) WORM (Write Once Read Many) アーカイブの更新不可 インデックスなし システムが生成するアーカイブ ID 非同期ダウンロード アーカイブ単位でのアクセス管理なし スタンダードのみ 自動 Server Side Encryption Inventory によるダウンロード方式のみ Bucket (S3) VS Vault (Glacier) アクセスコントロール (IAM + Bucket Policy) アクセスコントロール (IAMのみ) SNSによる通知設定可 SNSによる通知設定可 ログ設定可 ログ設定不可 ライフサイクルポリシー指定可 ライフサイクルポリシー指定不可 データ格納 Web サイト機能 同期型 オブジェクト名指定可能 Web サイト機能なし 同期型 システムによるアーカイブ ID 自動生成 同期型非同期型データ取得 Jobによる処理要求 オブジェクト名でのアクセス アーカイブ ID でのアクセス

36 プライスモデル

37 プライスモデル 価格体系 ( 東京リージョンの場合 ) ストレージ リクエスト数 ( アップロード データ取出 ) アップロード データ取出 短期間での削除 (90 日以内に削除した場合 ) $0.012/GB/ 月 $0.06/1,000 リクエスト 無料 毎月総格納容量の 5% まで無料上記以上は $0.012/GB $0.036/GB AWS 外部へのダウンロード Simple Monthly Calculator 通常のダウンロード料金 ($0.201/GB から ) *AWS 内部からのダウンロードは無料

38 まとめ

39 まとめ 低コスト かつ非常に耐久性の高い長期保存用アーカイブストレージサービス 手間のかかる運用なしに いつでもアップロード / ダウンロード可能 容量無制限で 格納データもセキュアに保管 Amazon Glacier で簡単にアーカイブやバックアップデータの長期保管を!!

40 Appendix 参考資料 Amazon Glacier Developer Guide ntroduction.html Amazon Glacier FAQ Amazon Glaceir 価格