AWSストレージ関連サービスの正しい理解と使い方講座

Transcription

1 AWSストレージ関連サービスの正しい理解と使い方講座 アマゾンデータサービスジャパンソリューションアーキテクト小林正人

2 本セッションの目的 AWS が提供する様々なストレージ関連サービスの特徴についておさらいする サービス毎の機能概要やユースケースを正しく理解する ユースケースに応じて最適なストレージサービスを選択できるようにする

3 自己紹介

4 AWS のストレージ関連サービス

5 EBS S3 Glacier StorageGateway Zocalo 仮想サーバ (Amazon EC2) にマウントできるディスクサービス 安価かつ高い耐久性を持つオンラインストレージサービス 超安価かつ高い耐久性を持つコールドストレージサービス オンプレミス環境と連携したバックアップ & ストレージサービス マルチデバイス対応でフルマネージド型の文書保存 共有サービス

6 各サービスの機能と 正しい使い方

7 Amazon EBS (& Instance Store)

8 Amazon EBS とは? Amazon EBS Amazon S3 と並ぶ 最も基本的なストレージサービス EC2 インスタンス ( 仮想サーバ ) で利用するブロック型ストレージで OS やデータの領域として広く利用される 内部的に冗長化されており 更なる冗長化は原則不要 ネットワーク接続型だがそれを意識する必要は無い % の可用性を持つように設計されている (SLA としては 99.95% の可用性をコミット )

9 Amazon EBS の主な機能 Amazon EBS OS からは単純なディスクとして認識されるので フォーマットしてから利用する EC2 EBS 容量は 1GB~1TB EC2 インスタンスに複数アタッチできるので 大容量が必要なら複数の EBS を使う ディスクの暗号化をサポート EBS 作成時に有効にすれば自動的に暗号化される ( 起動ボリュームは不可 ) スナップショット機能によるバックアップ リストアをサポート 3 種類のボリュームタイプから用途にあわせて選択できる

10 snapshot によるバックアップ Amazon EBS Region Availability Zone - a EC2 Availability Zone - b EC2 任意のタイミングで EBS から snapshot を作成することができる 実運用においてはデータ整合性を保つため静止点を設けることを推奨 EBS EBS EBS EBS リストアは snapshot をベースとして新規の EBS を作成する形となる EBS Snapshot データは Amazon S3 に保存される 非常に堅牢性であるため バックアップとしての信頼性は高い Amazon Simple Storage Service (S3) 必要に応じて snapshot を他リージョンに転送することが可能であり DR 対策としても有益

11 ボリュームタイプ Amazon EBS Magnetic( 旧 Standard) 最も安価なボリュームタイプ コスト最優先の場合に利用 平均 100IOPS 状況によって数百 IOPSまでバーストできる 容量とI/Oリクエスト回数に対して課金 Provisioned IOPS(SSD) 最も高パフォーマンスを発揮する 性能最優先の場合に利用 I/O 性能保証があり 最大 4000IOPSまで設定可能 容量と設定したI/O 性能に対して課金 [NEW]General Purpose(SSD) コストと性能のバランスがよく 第一選択はこちら GBあたり3IOPSの性能を保障 3000IOPSまでバーストできる 容量に対してのみ課金

12 General Purpose(SSD) Amazon EBS 現在の最も標準的な EBS ボリューム システムの起動ボリュームや短期的に読み書きが集中する場合に適する 1GB あたり 3IOPS のベースパフォーマンスが保障される 100GB 時で 300IOPS 500GB なら 1,500IOPS ボリュームあたり 最大 3,000IOPS までバースト可能 バーストの持続時間は状況により異なる ( 後述 ) 容量ベースの課金のみであり シンプルな課金体系 東京リージョンで 1GB あたり 1 か月 0.12 ドル

13 バーストの持続時間 I/O Credit が残っている間はバースト 3000IOPS 出る Amazon EBS 再び負荷が発生すると I/O Credit の残高に応じてバースト 残高が 0 になるとバースト終了 ベースパフォーマンス (gp2 500GB 時 ) バースト中は I/O Credit の残高を取り崩していく I/O 負荷がベースパフォーマンスを下回ると Credit が貯金される

14 EBS 最適化インスタンス Amazon EBS 有効にすると通常のネットワーク帯域とは独立した EBS 通信用の帯域が確保される (500Mbps~2Gbps) I/O 性能保証のあるボリュームタイプ (Provisioned IOPS や General Purpose) を使う場合は有効化を推奨 通常のインスタンス EBS 最適化インスタンス EC2 normal ネットワーク PIOPS EBS PIOPS EBS EC2 EBS- Optimized EBS 通信用ネットワーク ネットワーク PIOPS EBS PIOPS EBS

15 Instance Store と EBS Amazon EBS EC2 Instance Store Instance Store サーバの内蔵ディスクに相当 インスタンスを Stop するとクリアされる 性能や容量はインスタンスタイプにより決まり変更できない インスタンスの利用料のみで使える 物理的にはネットワーク経由 EBS EBS 外部ストレージデバイスに相当 データは永続化され 常に保持される 性能 容量は自由に設定できる EBS の費用が発生

16 Instance Store の使いどころ Amazon EBS メリット 無料で利用できる! ローカルディスクなのでネットワーク帯域の心配が不要 最近のインスタンスタイプでは SSD ベースが主流のため高性能 考慮すべき事項 インスタンスが Stop されるとデータがクリアされるため 障害に備えた冗長化の考慮が必須 (Reboot では消えない ) snapshot 機能がなく 別のインスタンスへの付け替えも不可 ユースケース EBS では追い付かない I/O パフォーマンスが求められる場合 処理時の一時データやキャッシュの置き場所として 冗長性のある分散システムを構成するメンバサーバのストレージとして (GlusterFS や

17 Amazon Simple Storage Service(S3)

18 Amazon S3 とは? Amazon S3 AWS の主力サービスのひとつで 2006 年にサービスイン ユーザは データを安全にどこからでも保存可能 高い信頼性 堅牢性 スケーラビリティを備え セキュアで低価格なクラウドストレージ アクセスには API/CLI または Management Console を使用し オブジェクト ( ファイル ) 単位で各種操作を行う 2014 年 4 月から約 65% の値下げを行い 従来の 1/3 の価格で利用可能に

19 Amazon S3 の概要 Amazon S3 S3 世界中のリージョンから選択 データ置くだけ インフラ 電源 気にしない 容量無制限 各種ファイル 東京リージョン バケット データセンター A データセンター C 安価な従量課金例 :1GB/ 月 約 3 円 データセンター B 3 か所以上で自動複製 保存するデータは暗号化が可能 ユーザ鍵も利用できる 高い耐久性でデータ失わない : % バケット = オブジェクトの保存場所

20 Amazon S3 の主な機能 Amazon S3 PUT/DELETE Web サイト配信 Amazon S3 バケット EBS GET/LIST API/CLI や Management Console 以外に サードパーティツールによる FTP ライクなアクセスも可能 オブジェクトのバージョン管理機能を提供 ユーザによる誤削除を防止できる 様々な認証機構によるアクセス制限でセキュリティを確保 ユーザが管理する鍵を利用したサーバサイド暗号化にも対応 静的 Web サイトホスティング機能による Web ページの配信

21 ユースケース Amazon S3 大規模データ分析 分析対象となる生データの一時的な格納場所として 分析アプリケーションが利用するストレージとして バックアップデータの保存先 各サーバのバックアップデータの配置先として バックアップツールが生成するイメージの格納先として 個人的なデータのバックアップ先として メディアコンテンツの保存と配信 動画をはじめとする大容量データのストレージとして ソフトウェアやコンテンツの配信元として ( 静的 Web サイトホスティング )

22 バージョン管理 Amazon S3 バケット毎にバージョン管理の有効 無効を指定 有効にするとオブジェクトのバージョン管理が行われ 古いファイルや削除したファイルも保存される 重要なデータについてはバージョン管理の有効化を推奨 ( 古いデータの容量についても課金対象となる )

23 アクセス制御 Amazon S3 Amazon S3 に限らず AWS の全てのサービスにおいてセキュリティは最優先事項として扱われる アクセス権限のないユーザアクセスからは データは確実に保護される Amazon S3 においては 以下の 3 通りの方法でユーザアクセスを制御できる AWS Identity and Access Management(IAM) ポリシー バケットポリシー ACL(Access Control List)

24 サーバサイド暗号化 Amazon S3 サーバサイド暗号化を有効にすると AES-256 による暗号化を行った上でデータが保存される 暗号化鍵の管理は AWS に任せることも ユーザ管理の鍵を利用することもできる ユーザ管理の鍵によるサーバサイド暗号化 オブジェクトを PUT する前にクライアント側で暗号化を施す選択肢もある

25 静的 Web サイトホスティング Amazon S3 静的 Web サイトホスティングの機能を有効にすると サーバを構築することなくコンテンツを配信できる 画像や動画といった静的コンテンツを S3 から配信するようにすれば Web サーバの負荷が下がり運用が容易に 極めてアクセスが多い場合は CloudFront の利用を検討 Web DB 動的コンテンツ クライアント 静的コンテンツ ( 画像 動画など ) Amazon S3 Bucket

26 Amazon Glacier

27 Glacier = 氷河

28 Amazon Glacier とは? Amazon Glacier バックアップやアーカイブのために開発された セキュアかつ堅牢性の高いストレージ Amazon S3 と同等の % の耐久性を確保しつつ S3 の約 1/3 の費用で利用できる データの取り出し命令を発行してから実際にデータを取り出せる状態になるまで 通常 3~5 時間の時間が必要 オンプレミス環境ではテープライブラリに保存するような 各種ログやバックアップデータなどの大容量でアクセス頻度の低いデータの長期保存に最適

29 Glacier の主な機能 Amazon Glacier API やサードパーティツールを利用してアクセスする Glacier に移行 1 ファイルあたり最大 40TB までで 総容量の制限はなし AES-256 による暗号化が自動的に適用される API による保管 取得 EBS S3 に PUT ファイル取得の準備が整ったら SNS 経由で通知を受け取ることができる S3 連携機能を備える S3 に格納したオブジェクトを Lifecycle ポリシーに従って Glacier に待避する

30 ユースケース Amazon Glacier バックアップデータの保管 直近数世代のバックアップデータは S3 に保存し それよりも古いものは Glacier に待避する 使う予定のないメディアコンテンツのアーカイブ 映像コンテンツなど 残してはおきたいが頻繁に使うわけでもないデータのアーカイブ先として 監査 法令対応データのアーカイブ 取引明細データなどの法令でデータ保全が義務づけられている場合の保管先として 必要が無ければ参照されないような 監査対象データやログデータなどの保存先として

31 格納ファイルの取得 Amazon Glacier アーカイブしたデータの取得要求は Retrieve Job を実行する事によって行う Job の実行には通常 3-5 時間を要する これが完了すると ファイルをダウンロードできるようになる 実行時に SNS による通知を指定すると Job 完了時に通知が行われるので 処理の自動化が可能 メール (text/json) HTTP/HTTPS Amazon SQS 管理者端末 Glacier SNS Web サーバ

32 S3 連携機能 Amazon Glacier S3 Bucket に Lifecycle ポリシーを設定すると 一定期間が経過したファイルは自動的に Glacier に待避される Glacier に待避されたファイルは通常 3-5 時間の待ち時間で S3 上に復元される 待避されたファイルの格納コストは S3 と比較して約 1/3 容易に階層化ストレージを実現できる Bucket (Lifecycle 設定 ) Glacier 通常の手順でアップロード 指定時間経過で Glacier に待避

33 AWS Storage Gateway

34 AWS Storage Gateway とは? AWS Storage Gateway オンプレミス環境と連携可能な データバックアップおよびクラウドストレージを提供するゲートウェイ オンプレミス環境向けには仮想アプライアンスの形で提供 AWS 上で稼働させる場合は AMI として提供される iscsi で接続するストレージとして動作するため 利用する側での特別な対応は不要 データの保管先として 安価かつ耐久性の高い Amazon S3 を採用 データ喪失に対して高い耐性を持つ

35 AWS Storage Gateway の主な機能 AWS Storage Gateway Storage Gateway は iscsi のストレージとして動作するため サーバとは iscsi で接続する Internet データ連携 データ連携 Internet 書き込まれたデータは自動的に Amazon S3 に連携されるため データ耐久性が非常に高い データボリュームの snapshot の取得とリストアをサポート データ格納 データ格納 セキュリティの観点から データは AES-256 で暗号化して保存される ユースケースに合わせて 3 つの動作タイプから選択できる

36 ユースケース AWS Storage Gateway オンプレミス環境の災害対策 AWS 環境に自動的にレプリケーションされる災害対策ストレージとして バックアップイメージ格納領域 バックアップソフトウェアが生成するバックアップイメージの安全な保管先として オンプレミス環境ではバックアップしきれない大容量のコンテンツのバックアップ先として 大容量オンラインストレージ ファイルサーバのデータ領域として

37 3 つの Gateway タイプ AWS Storage Gateway Gateway-Stored Volumes Gateway-Cached Volumes Gateway-VTL

38 Gateway-Stored Volumes AWS Storage Gateway オンプレミス環境のディスクデータのバックアップを自動的に AWS 側に保存する 1 ボリュームあたり 1GB~1TB を指定でき 1Gateway で最大 12 個のボリュームを作成可能 更新データは Upload Buffer に一時保存され 非同期で AWS 側にアップロードされる オンプレミス環境で稼働する Storage Gateway のみで利用可能なタイプ

39 Gateway-Stored Volumes AWS Storage Gateway オンプレミス環境へのリストアと EBS へのリストアの双方をサポート 災害時に EBS へリストアすることで災害対策にも AWS Storage Gateway (Gateway-Stored Volumes) Disk Volume Volume Storage ( ローカル格納用 ) DAS/SAN ローカルストレージのバックアップ Internet Amazon S3 Snapshot リストア Snapshot Upload Buffer ( 転送一時格納用 ) Snapshot 災害時 AWS 側にリカバリ EBS EC2 リストア

40 Gateway-Cached Volumes AWS Storage Gateway Gateway-Cached Volumes は Amazon S3 をファイルシステムのように使うことを可能とする アクセス頻度の高いデータは Storage Gateway のローカルに保持し キャッシュとして利用 1 ボリュームあたり 1GB~32TB を指定でき 1Gateway あたり最大 20 個 最大 150TB を作成できる オンプレミス環境でも AWS 環境でも稼働する

41 Gateway-Cached Volumes AWS Storage Gateway オンプレミス環境へのリストアと EC2 インスタンスで稼働する Gateway へのリストアをサポート AWS Storage Gateway (Gateway-Cached Volumes) Disk Volume リストア Snapshot リストア データ転送 / データアクセス AWS Storage Gateway (Gateway-Cached Volumes) EC2 DAS/SAN データ転送 EBS Cache Storage ( ローカルキャッシュ用 ) Upload Buffer ( 転送一時格納用 ) Internet Amazon S3

42 Gateway-VTL AWS Storage Gateway Storage Gateway を仮想テープライブラリ (VTL) として利用し 物理テープライブラリ装置を置き換える 他の Gateway タイプ同様に実データは S3 に格納 バックアップソフトウェアでテープの取り出し操作を行うと データが S3 から Glacier に待避され コストを削減 仮想テープあたりの容量は最大 2.5TB 1Gateway あたり仮想テープは最大 1,500 本で最大 150TB まで管理可能 オンプレミス環境でも AWS 環境でも稼働する

43 Gateway-VTL AWS Storage Gateway Gateway は iscsi 接続の仮想テープドライブと仮想メディアチェンジャーを提供する AWS Storage Gateway (Gateway-VTL) AWS Storage Gateway (Gateway-VTL) 物理テープライブラリ装置の代替として Tape Drive Media Changer EBS EC2 バックアップデータ転送 仮想テープ 仮想テープ Amazon S3 Tape Drive アーカイブ / リトリーブ Backup サーバ Media Changer DAS/SAN バックアップデータ転送 仮想テープ アーカイブ Cache Storage ( ローカルキャッシュ用 ) Upload Buffer ( 転送一時格納用 ) Internet Amazon S3 仮想テープ リトリーブ Amazon Glacier (VTS) 仮想テープ

44 Amazon Zocalo

45 Amazon Zocalo とは? Amazon Zocalo フルマネージド型の企業向け文書保存 共有サービス PC はもちろん ipad や Android タブレットといったモバイルデバイスをサポート コラボレーション機能を備え 共有されたドキュメントに対してマークアップを行ったり フィードバックを投稿したりできる 必須ではないが 既存の Active Directory と連携が可能 普段使っているユーザ名とパスワードで利用できる 現在 Limited Preview を実施中

46 Amazon Zocalo の主な機能 Amazon Zocalo ユーザは端末のブラウザや モバイルアプリからインターネット経由でアクセス 保存されたデータは自動的に暗号化され バージョン管理の対象に ファイル共有とコラボレーション機能を備える ファイル共有に関するポリシー設定により無制限の共有を防止できる ユーザ認証には既存の Active Directory または AWS 側が用意する Cloud Directory を利用する

47 ファイル共有機能 Amazon Zocalo ディレクトリのユーザを共有先として指定 共有時にメッセージを付与できる 読み取りアクセスのみに制限も可能

48 コラボレーション機能 指摘箇所をマークアッ プしてフィードバック コメントはページ毎 に一覧で表示される Amazon Zocalo

49 課金体系 Amazon Zocalo Zocalo を単体で利用する場合 月額 5 ドル / ユーザで利用可能 ( 容量はユーザあたり 200GB) WorkSpaces ユーザが Zocalo を利用する場合 WorkSpacesユーザは無料で利用できる ( 容量は50GBまで ) 月額 2ドル / ユーザを追加すると200GBにアップグレード 容量の追加も可能 1GB あたり月額 0.03 ドルで容量を追加できる データ転送料金 Zocalo へのアップロード ダウンロードともに無料

50 まとめ

51 まとめ AWS が提供するストレージサービスは それぞれ機能も用途も大きく異なる 全ての機能を把握する必要は無いが 特徴と機能概要を覚えておくと役に立つケースが多い ストレージに求める要件と各サービスの特性を照らし合わせ 最適なサービスを選択することを推奨 Amazon Zocalo のようにフルマネージドなサービスも登場しているので 要件に合うようであれば積極的に利用するとよい