AWS の運用監視入門 (AWS CloudWatch)

Size: px

Start display at page:

Download "AWS の運用監視入門 (AWS CloudWatch)"

ちえこつなかわ
5 years ago
Views:

AWS の運用監視入門 Amazon CloudWatch 技術統括本部ソリューションアーキテクト藤倉和明 2017 年 6 月 2 日

2 本セッションの Feedback をお願いします受付でお配りしたアンケートに本セッションの満足度やご感想などをご記入くださいアンケートをご提出いただきました方にはもれなく素敵な AWS オリジナルグッズをプレゼントさせていただきますアンケートは受付パミール 3F の EXPO 展示会場内にて回収させて頂きます

3 自己紹介藤倉和明 ( ふじくらかずあき ) アマゾンウェブサービスジャパン株式会社エンタープライズソリューション部ソリューションアーキテクト好きな AWS サービス Amazon Virtual Private Cloud(VPC) Amazon CloudWatch

4 本日皆様にお持ち帰りして頂く内容運用をもっと簡単に夜ぐっすり眠れる運用体制へ hint 運用もスケーラブルに

5 本セッションについて想定するオーディエンスオンプレミスクラウド問わずシステム運用をしている人システム運用監視に課題を感じている人セッションの概要フルマネージド運用監視サービス Amazon CloudWatch を中心としたクラウドの運用についてご紹介

6 クラウドの運用

7 AWS のクラウド運用コスト最適化 Well Architected 監視ログ管理自動化標準化テンプレートクラウド運用 API 管理監査構成管理変更管理コンプライアンス強化

8 AWS のクラウド運用今日はここを中心にコスト最適化 Well Architected 監視ログ管理自動化標準化テンプレートクラウド運用 API 管理監査構成管理変更管理コンプライアンス強化

9 システム監視とは

10 システム監視とは正常異常

11 システム監視とは正常異常正常な状態を定義異常な状態を定義その状態の変化

12 障害対応 : 異常な状態を正常な状態へ予め決まっている対応不測の事態正常異常まずは落ち着いて一時復旧根本対応障害対応は重要な運用再発防止

13 クラウドにおける正常異常とは? Serverless? スケールアウト? ビッグデータ? データレイク? マネージドサービス?

14 AWS クラウドにおけるシステム運用監視は CloudWatch が最適! CloudWatch

15 Amazon CloudWatch とは AWS の各種リソースを監視するマネージドサービスセットアップ不要正常な状態を継続的に監視異常な状態の検知と自動的な復旧をサポート各メトリックスをベースとしたアラーム ( 通知 ) アクションの設定が可能多くの AWS サービスの監視が可能 Amazon EC2 Amazon EBS Amazon RDS Elastic Load Balancing など

16 Amazon CloudWatch のできる事 CloudWatch システム監視サービス死活監視 / 性能監視 / キャパシティ監視 CloudWatch Logs ログ管理プラットフォームサービス EC2 上の OS, APP のログ AWS マネージドサービスのログ CloudWatch CloudWatch Events AWS 上リソースの状態監視サービス AWS リソースに対するイベントをトリガーにアクションを実行する機能

17 CloudWatch 利用イメージリソースの状況を視覚的に確認する事ができる

18 CloudWatch のメトリックス標準メトリックス (EC2) CPUUtilization CPUCreditBalance CPUCreditUsage DiskReadBytes DiskWriteBytes DiskReadOps DiskWriteOps NetworkOut NetworkIn NetworkPacketsIn NetworkPacketsOut StatusCheckFailed_Instance StatusCheckFailed StatusCheckFailed_System BurstBalance カスタムメトリックス標準メトリックスでは収集できないメトリックス PutMetricData

Amazon CloudWatch のアクション機能モニタリングアクションカスタムメトリックス Memory Free / Filesystem Free StatusCheckFailed_Instance StatusCheckFailed_System 標準メトリックス

19 Amazon CloudWatch のアクション機能モニタリングアクションカスタムメトリックス Memory Free / Filesystem Free StatusCheckFailed_Instance StatusCheckFailed_System 標準メトリックス閾値などをトリガーに Notification EC2 CPUUtilization DiskReadBytes / DiskReadOps DiskWriteBytes / DiskWriteOps NetworkIn / NetworkOut CloudWatch EC2 Action AutoScaling

20 CloudWatch Logs 利用イメージ Log Agent Log Agent 各種ログを収集通知 : CloudWatch Alarm Amazon Linux Ubuntu Log Agent Log Agent Windows Red Hat Linux エクスポート : Amazon Kinesis Firehose VPC Flow Log CloudTrail Lambda RDS CloudWatch Logs 可視化 : Amazon Elasticsearh Service (Kibana)

21 ログモニタリングイメージログ内容はタイムスタンプとログメッセージ (UTF-8) で構成フィルター ( 検索 ) タイムスタンプログメッセージ

22 CloudWatch Events 利用イメージ CloudTrail AWS 上の各種イベントをトリガーにアクションを実行 Amazon SQS Amazon EC2 AWS Lambda Schedule AWS Support Events Auto Scaling Event Source CloudWatch Events Event Rule EC2 Systems Manager Target Amazon SNS AWS Step Functions

23 例 : コンソールサインイン時にアラートを飛ばす CloudTrail Amazon SNS サインインイベント SNS トピックログインアラート

24 Amazon CloudWatch のできる事 CloudWatch システム監視サービス死活監視 / 性能監視 / キャパシティ監視 CloudWatch Logs ログ管理プラットフォームサービス EC2 上の OS, APP のログ AWS マネージドサービスのログ CloudWatch CloudWatch Events AWS 上リソースの状態監視サービス AWS リソースに対するイベントをトリガーにアクションを実行する機能

25 Why CloudWatch 1. Polling モデルから Push モデルへ 2. サーバ中心の監視からサービスの監視へ 3. AWS サービスとの連携

26 Why CloudWatch 1. Polling モデルから Push モデルへ 2. サーバ中心の監視からサービスの監視へ 3. AWS サービスとの連携

27 Polling / Push Before Cloud Amazon CloudWatch

28 Polling / Push クライアントの設定クライアントの設定モニタリングシステムで監視対象サーバの追加モニタリングシステムで監視対象サーバの追加 Before Cloud 監視を始めるまでに必要な作業 Amazon CloudWatch CloudWatch を利用すると省略できる作業

29 その監視オートスケールに対応していますか? Availability Zone ダイナミックに変化するサーバの監視は従来の Polling モデルは難しかった Push モデルの監視ソリューションではオートスケール等のダイナミックに増減するサーバにも対応可能 Availability Zone

30 Why CloudWatch 1. Polling モデルから Push モデルへ 2. サーバ中心の監視からサービスの監視へ 3. AWS サービスとの連携

31 従来のモニタリングシステムサーバが上位にあり各リソースをモニタリング

32 従来のモニタリングシステム Amazon RDS Elastic Load Balancing AWS WAF Amazon CloudFront マネージドサービスのモニタリングは?

33 マネージドサービスの場合アプリケーション最適化アプリケーション最適化アプリケーション最適化スケール高可用性バックアップスケール高可用性バックアップスケール高可用性バックアップ MW パッチ適用 MW パッチ適用 MW パッチ適用 MW インストール OS パッチ適用 MW インストール OS パッチ適用 MW インストール OS パッチ適用 OS インストール OS インストール OS インストールサーバー管理サーバー管理サーバー管理ラッキングラッキングラッキング電源, 空調, ネットワーク電源, 空調, ネットワーク電源, 空調, ネットワークオンプレミス On EC2 マネージドサービス

34 マネージドサービスの場合アプリケーション最適化アプリケーション最適化アプリケーション最適化スケールスケールスケール高可用性高可用性高可用性パッチ適用バックアップ/ バックアップ / スケールまでお任せのバックアップ DB パッチ適用 DB パッチ適用 DB パッチ適用マネージドサービスを活用する事で DB インストール DB インストール DB インストールより付加価値の高い仕事に集中できる OS パッチ適用 OS パッチ適用 OS パッチ適用クラウドの運用にマネージドサービスの利用は不可欠 OS インストール OS インストール OS インストールサーバー管理サーバー管理サーバー管理ラッキングラッキングラッキング電源, 空調, ネットワーク電源, 空調, ネットワーク電源, 空調, ネットワークオンプレミス On EC2 マネージドサービス

35 マネージドサービスの活用にはCloudWatch 40を超えるマネージドサービスが追加の設定無くメトリクスの収集が可能サーバ中心の監視からサービス中心の監視へシフトする事で運用もスケーラブルに

36 CloudWatchに対応するAWSサービス AWS サービス Amazon API Gateway Auto Scaling AWS Billing Amazon CloudFront Amazon CloudSearch 名前空間 AWS/ApiGateway AWS/AutoScaling AWS/Billing AWS/CloudFront AWS/CloudSearch Amazon CloudWatch Events AWS/Events Amazon CloudWatch Logs AWS/Logs AWS Database Migration Service Amazon DynamoDB Amazon EC2 AWS/DMS AWS/DynamoDB AWS/EC2 Amazon EC2 Container Service AWS/ECS AWS Elastic Beanstalk AWS/ElasticBeanstalk Amazon Elastic Block Store AWS/EBS Amazon Elastic File System AWS/EFS Elastic Load Balancing Elastic Load Balancing AWS/ELB (Classic Load Balancers) AWS/ApplicationELB (Application Load Balancers) Amazon Elastic Transcoder AWS/ElasticTranscoder Amazon ElastiCache Amazon Elasticsearch Service AWS/ElastiCache AWS/ES AWS サービス Amazon EMR AWS IoT AWS Key Management Service Amazon Kinesis Analytics Amazon Kinesis Firehose Amazon Kinesis Streams AWS Lambda Amazon Machine Learning AWS OpsWorks Amazon Polly Amazon Redshift Amazon Relational Database Service Amazon Route 53 AWS Shield Advanced Amazon Simple Service Amazon Simple Notification Service Amazon Simple Queue Service Amazon Simple Storage Service Amazon Simple Workflow Service AWS Storage Gateway AWS WAF Amazon WorkSpaces 名前空間 AWS/ElasticMapReduce AWS/IoT AWS/KMS AWS/KinesisAnalytics AWS/Firehose AWS/Kinesis AWS/Lambda AWS/ML AWS/OpsWorks AWS/Polly AWS/Redshift AWS/RDS AWS/Route53 AWS/DDoSProtection AWS/SES AWS/SNS AWS/SQS AWS/S3 AWS/SWF AWS/StorageGateway AWS/WAF AWS/WorkSpaces

37 Why CloudWatch 1. Polling モデルから Push モデルへ 2. サーバ中心の監視からサービスの監視へ 3. AWS サービスとの連携

AWS サービスとの連携 Any Services 予め定めてある障害対応手順は

38 AWS サービスとの連携 Any Services 予め定めてある障害対応手順はサービス連携により運用の自動化が可能 Notification EC2 Action AutoScaling Amazon S3 Export Kinesis Amazon Elasticsearch Service Amazon SQS Amazon SNS Lambda EC2 Systems Manager AWS Step Functions CloudWatch CloudWatch Logs CloudWatch Events

39 クラウドならではの監視も Billing アラーム設定課金状況を CloudWatch 監視一定金額を超えるとアラームメール通知が可能アラームの設定は Virginia リージョンから設定

40 ( 再掲 )Why CloudWatch 1. Polling モデルから Push モデルへ 2. サーバ中心の監視からサービスの監視へ 3. AWS サービスとの連携

41 Dive Deep CloudWatch

42 ( 再掲 )Amazon CloudWatch のできる事 CloudWatch システム監視サービス死活監視 / 性能監視 / キャパシティ監視 CloudWatch Logs ログ管理プラットフォームサービス EC2 上の OS, APP のログ AWS マネージドサービスのログ CloudWatch CloudWatch Events AWS 上リソースの状態監視サービス AWS リソースに対するイベントをトリガーにアクションを実行する機能

43 Amazon CloudWatch CloudWatch システム監視サービス死活監視 / 性能監視 / キャパシティ監視 CloudWatch Logs ログ管理プラットフォームサービス EC2 上の OS, APP のログ AWS マネジドサービスのログ CloudWatch CloudWatch Events AWS 上リソースの状態監視サービス AWS リソースに対するイベントをトリガーにアクションを実行する機能

Amazon CloudWatch の概念 Metrics Namespace Dimension Name Space (AWS/EC2) Metrics Name (CPUUtiliization) Dimension (InstanaceId) Dimension (InstanaceId) Name Space

44 Amazon CloudWatch の概念 Metrics Namespace Dimension Name Space (AWS/EC2) Metrics Name (CPUUtiliization) Dimension (InstanaceId) Dimension (InstanaceId) Name Space (AWS/RDS) Metrics Name (CPUUtiliization) Dimension (InstanaceId) Name Space (AWS/ELB) Metrics Name (HealthyHostCount) Statistic Sum Max Min Average Simple Count Percentile

45 CloudWatch 利用イメージ標準メトリックス監視グラフ表示期間設定対象インスタンス検索ウィンドウディメンション標準メトリクス一覧

46 CloudWatch 利用イメージ標準メトリックス監視統計データ参照グラフ毎のカラー選択統計情報 ( 単位 )

47 CloudWatch のメトリックス値 CloudWatch で取得される情報は統計情報メトリックスデータを指定した期間で集約したものそれぞれのメトリックスについて適切な統計情報を見る必要があるメトリックスデータの保管は 15 ヶ月まで 15 ヶ月以上保存する場合は API でデータを取得し別の場所に保管しておく ( サードパーティ製ツールとの連携も検討 ) データの粒度によって遡って参照できる期間が異なる 1 分毎のデータポイント : 15 日間 5 分毎のデータポイント : 63 日間 1 時間毎のデータポイント : 15 ヶ月間

48 Amazon CloudWatch を使ったアラーム設定 OK アラーム (Alarm) 不足 (INSUFFICIENT) 定義された閾値を下回っている ( 正常値 ) 定義された閾値を上回っている ( 異常値 ) データが不足のため状態を判定できない ( 判定不能 )

49 Amazon CloudWatch を使ったアラーム設定 OK アラーム (Alarm) 不足 (INSUFFICIENT) 定義された閾値を下回っている ( 正常値 ) 定義された閾値を上回っている ( 異常値 ) データが不足のため状態を判定できない ( 判定不能 ) CloudWatch 特有のステータス

50 INSUFFICIENT_DATA の考え方 CloudWatch はデータポイントを基準にステータスを判断データポイントとは CloudWatch に送信される値 (CPU 値など ) OK / アラーム時は入力されたデータポイントを基準に状態評価 INSUFFIENT 時は CloudWatch にテータポイントの入力が無い状態 INSUFFICIENT は必ずしも障害を表すステータスではない OK / ALARM INSUFFICIENT データポイント自体が存在しない EC2 CloudWatch EC2 CloudWatch

51 Amazon CloudWatch Logs CloudWatch AWS 上で稼働するシステム監視サービス死活監視 / 性能監視 / キャパシティ監視 CloudWatch Logs ログ管理プラットフォームサービス EC2 上の OS, APP のログ AWS マネジドサービスのログ CloudWatch CloudWatch Events AWS 上リソースの状態監視サービス AWS リソースに対するイベントをトリガーにアクションを実行する機能

52 CloudWatch Logs Log Agent Log Agent 各種ログを収集通知 : CloudWatch Alarm Amazon Linux Ubuntu Log Agent Log Agent Windows Red Hat Linux エクスポート : Amazon Kinesis Firehose VPC Flow Log CloudTrail Lambda RDS CloudWatch Logs 可視化 : Amazon Elasticsearh Service (Kibana)

53 Use cases ログの長期保存ストレージの容量削減 HTTP responses のエラー例外性能の監視ホストにログインせずに障害調査セキュリティインシデント対応用の証跡ログとして

54 CloudWatch Logs のログ管理 Log Group Log Stream Log Event Web Server web001.ap-northeast-1 web002.ap-northeast-1 web003.ap-northeast-1

55 ログの保存期間 CloudWatch Logs はログの保存期間を設定可能

56 ログモニタリングイメージログ内容はタイムスタンプとログメッセージ (UTF-8) で構成フィルター ( 検索 ) タイムスタンプログメッセージ

57 CloudWatch Logs Metric Filter ログイベントから特定の文字列のフィルタリングが可能 Metric Filter からアラーム作成 SNS 連携が可能

58 CloudWatch Logs Metric filter syntax 文字列の一致 Common log format JSON

59 Metric filters 文字列の一致 Filter examples Error Invalid user NullReferenceException main( Notes AND 検索文字列のグループ化英数字以外の検索は囲む Metric は出現回数で評価される

60 Metric filters Common log format Log examples [11/Nov/2014:02:00: ] "GET HTTP/1.1" "S3Console/ user-identifier frank [10/Oct/2000:13:55: ] "GET /apache_pb.gif HTTP/1.0" Filter example [Timestamp, IPAddress, Header, HTTPCode=4*, ] Notes か [ ] で囲まれていない限り空白文字が区切り文字となる値の抽出が可能

61 Metric filters JSON Filter examples {$.errorcode = AccessDenied $.errorcode = UnauthorizedOperation } { $.eventtype = "UpdateTrail" } { $.sourceipadress!= * } { $.arraykey[0] = "value" } { $.objectlist[1].id = 2 }` Notes { } で囲むと JSON として評価される

62 AWS サービスとの連携 S3 へのエクスポート VPC Flow Logs Elasticsearch ECS Kinesis RDS 拡張モニタリング

63 Amazon CloudWatch Events CloudWatch AWS 上で稼働するシステム監視サービス死活監視 / 性能監視 / キャパシティ監視 CloudWatch Logs ログ管理プラットフォームサービス EC2 上の OS, APP のログ AWS マネジドサービスのログ CloudWatch CloudWatch Events AWS 上リソースの状態監視サービス AWS リソースに対するイベントをトリガーにアクションを実行する機能

64 CloudWatch Events CloudTrail Amazon SQS Amazon EC2 AWS Lambda Schedule CloudWatch Events Amazon SNS Auto Scaling EC2 Systems Manager AWS Support Events Event Source Event Rule Target AWS Step Functions

イベントソースの選択 EC2 Instance states change notification Pending/Running/Shutting down/stopped/stopping/terminated Schedule 間隔 : 分 (Minites)/ 時間 (Hours)/ 日 (Days) クーロン表記 AWS API

65 イベントソースの選択 EC2 Instance states change notification Pending/Running/Shutting down/stopped/stopping/terminated Schedule 間隔 : 分 (Minites)/ 時間 (Hours)/ 日 (Days) クーロン表記 AWS API call AWS CloudTrail により発行されたイベント AWS console sign-in AWS Support への Case 作成 Auto Scaling Launch Successful / Launch Unsuccessful Terminate Successful / Terminate Unsuccessful

66 ターゲットの選択 Lambda Function SNS Topic SQS Queue SSM Run Command Step Function StateMachine Kinesis Stream Built-in target - EC2 インスタンスの再起動 - EC2 インスタンスの削除 - EC2 インスタンスの停止 - EBS ボリュームのスナップショット作成

67 ( 再々掲 )Amazon CloudWatch のできる事 CloudWatch システム監視サービス死活監視 / 性能監視 / キャパシティ監視 CloudWatch Logs ログ管理プラットフォームサービス EC2 上の OS, APP のログ AWS マネージドサービスのログ CloudWatch CloudWatch Events AWS 上リソースの状態監視サービス AWS リソースに対するイベントをトリガーにアクションを実行する機能

68 まとめクラウドシステムの正常異常を監視する事ができるマネージドサービスサービス間の連携により各種サービスアプリケーションの運用の自動化が可能 CloudWatch AWS クラウドにおける運用監視は CloudWatch が最適!

69 本セッションの Feedback をお願いします受付でお配りしたアンケートに本セッションの満足度やご感想などをご記入くださいアンケートをご提出いただきました方にはもれなく素敵な AWS オリジナルグッズをプレゼントさせていただきますアンケートは受付パミール 3F の EXPO 展示会場内にて回収させて頂きます

70 Thank you!

Presentation Title Here

Presentation Title Here Amazon CloudWatch / CloudWatch Logs 2015/07/01 AWS Black Belt Tech Webinar 2015 アマゾンデータサービスジャパン株式会社プロフェッショナルサービス山本教仁パートナーソリューションアーキテクト酒徳知明 Agenda Amazon CloudWatch Amazon CloudWatch Logs AWS での運用監視 2