PowerPoint プレゼンテーション

Size: px

Start display at page:

Download "PowerPoint プレゼンテーション"

かずしいせき
7 years ago
Views:

1 Tokyo

2 AWS System Operation Deep Dive Monitoring / Logging / Configuration TA-09: Tech Deep Dive by Amazon

3 Gold Sponsors Global Sponsors Silver Sponsors

4 Bronze Sponsors Global Tech Sponsors Logo Sponsors

5 ハッシュタグ #AWSSummit で皆さんのツイートが展示エリアの大画面に表示されますをフォローするとロゴ入りコースターをプレゼントコースター配布場所メイン展示会場メイン会場 1F 受付デベロッパーカンファレンス会場

6 AWS System Operation Deep Dive Monitoring / Logging / Configuration TA-09: Tech Deep Dive by Amazon

7 自己紹介酒徳知明 ( さかとくともあき ) エコシステムソリューション部パートナーソリューションアーキテクトエンタープライズ SI パートナー様のご支援 ISV パートナー様のご支援好きな AWS サービス Amazon CloudWatch, AWS CloudTrail, AWS Config

8 Agenda システム運用で考えるポイントシステム運用を支えるAWSサービス AWSサービスの利用例まとめ

9 システム基盤運用で考えるポイント Monitoring 監視 Logging ロギング Configuration 構成管理

10 システム基盤運用で考えるポイント Monitoring 監視 Logging ロギング Configuration 構成管理

11 Amazon CloudWatch の概要 AWS の各種リソースを監視するサービス AWS リソースの死活性能ログ監視 ( 監視 ) 取得メトリックスのグラフ化 ( 可視化 ) 各メトリックスをベースとしたアラーム ( 通知 ) アクションの設定が可能多くの AWS サービスの監視が可能 Amazon EC2 Amazon EBS Amazon RDS Elastic Load Balancing など AWS の課金情報の監視

12 Amazon CloudWatch のコンセプト

13 Amazon CloudWatch のコンセプト Metrics Metrics Name (CPUUtiliization) Metrics Name (HealthyHostCount)

14 Amazon CloudWatch のコンセプト Metrics Name Space (AWS/EC2) Name Space (AWS/RDS) Name Space (AWS/ELB) Namespace Metrics Name (CPUUtiliization) Metrics Name (CPUUtiliization) Metrics Name (HealthyHostCount)

15 Amazon CloudWatch のコンセプト Metrics Name Space (AWS/EC2) Name Space (AWS/RDS) Name Space (AWS/ELB) Namespace Dimension Metrics Name (CPUUtiliization) Metrics Name (CPUUtiliization) Metrics Name (HealthyHostCount) Dimension (InstanaceId) Dimension (InstanaceId) Dimension (InstanaceId)

16 Amazon CloudWatch のコンセプト Metrics Namespace Dimension Name Space (AWS/EC2) Metrics Name (CPUUtiliization) Dimension (InstanaceId) Name Space (AWS/RDS) Metrics Name (CPUUtiliization) Dimension (InstanaceId) Name Space (AWS/ELB) Metrics Name (HealthyHostCount) Statistic Sum Max Min Dimension (InstanaceId) Average Simple Count

17 Amazon CloudWatch に対応する AWS サービス AWS サービス名前空間 AWS の製品名前空間 Auto Scaling AWS/AutoScaling Amazon Route 53 AWS/Route53 AWS Billing AWS/Billing Amazon Simple Notification Service AWS/SNS Amazon CloudFront AWS/CloudFront Amazon Simple Queue Service AWS/SQS Amazon CloudSearch AWS/CloudSearch Amazon Simple Workflow Service AWS/SWF Amazon DynamoDB AWS/DynamoDB AWS Storage Gateway AWS/StorageGateway Amazon ElastiCache AWS/ElastiCache Amazon WorkSpaces AWS/WorkSpaces Amazon Elastic Block Store AWS/EBS Amazon Elastic Compute Cloud AWS/EC2 Elastic Load Balancing AWS/ELB Amazon Elastic MapReduce AWS/ElasticMapReduce Amazon Kinesis AWS/Kinesis AWS OpsWorks AWS/OpsWorks Amazon Redshift AWS/Redshift Amazon Relational Database Service AWS/RDS

Amazon CloudWatch を使ったモニタリング $ aws cloudwatch get-metric-statistics --metric-name CPUUtilization --start-time 2015-05- 19T13:00:00.000Z --end-time 2015-05-19T14:00:00.

18 Amazon CloudWatch を使ったモニタリング $ aws cloudwatch get-metric-statistics --metric-name CPUUtilization --start-time T13:00:00.000Z --end-time T14:00:00.000Z --period statistics "Av erage" --namespace "AWS/EC2" --dimensions Name=InstanceId,Value=i-1e02XXXX { "Datapoints": [ { "Timestamp": " T13:00:00Z", "Average": 0.033, "Unit": "Percent" }, { "Timestamp": " T13:50:00Z", "Average": 0.017, "Unit": "Percent" },

19 監視システムとの Amazon CloudWatch 連携 3 rd Party 監視ツール

20 監視システムとの Amazon CloudWatch 連携監視システム利用イメージサードパーティ監視ツールの確認ポイント AWS に対応しているか CloudWatch との連携機能の有無 CloudWatch カスタムメトリックスに対応しているか Auto Scaling 対応しているか EC2 インスタンス自動検出自動削除が可能か

21 Mackerel を使ったモニタリング

22 Sensu を使ったモニタリング

23 CloudWatch Logs CloudWatch Logs Amazon Linux Ubuntu Server api call to endpoint Windows Red Hat Enterprise Linux アラーム SNS

24 転送できるログメッセージの長さの制限 Agent が 1 回あたりプッシュできるログレコードサイズは最大 32KB 32KB を超えるとログがトランケートされる /var/log/awslogs/log :29:28,770 - cwlogs.push - WARNING Thread-6 Truncate event: {'source_id': '4c0bbd10e46d9c06707aada0cd3e2cd8', 'timestamp': None, 'start_position': L, 'end_position': L}, reason: single event exceeds 32KB limit.

25 対応しているログローテーション rename and re-create 元のログに suffix( 数値 ) をつけて rename し空のログファイルを再作成例 ) /var/log/syslog.log が /var/log/syslog.log.1 に変更される場合 copy and truncate 元のログファイルをコピーしてから TRUNCATE 例 ) /var/log/syslog.log が /var/log/syslog.log.1 に copy され /var/log/syslog.log が TRUNCATE される場合データを損失する恐れがあるためこのファイル更新機能の使用には注意が必要 create common-patterned file 共通のパターンを持つ新しいファイルを作成例 ) /var/log/syslog.log を残し /var/log/syslog.log が作成される場合 access_log_80, access_log_443 のような異なるファイルに交互に書き込まれるようなファイル監視は未対応

26 ログの転送設定 $ sudo cat /var/awslogs/etc/awslogs.conf [general] state_file = <value> [logstream1] log_group_name = <value> log_stream_name = <value> datetime_format = <value> time_zone = [LOCAL UTC] file = <value> file_fingerprint_lines = <integer> <integer-integer> multi_line_start_pattern = <regex> {datetime_format} initial_position = [start_of_file end_of_file] encoding = [ascii utf_8..] buffer_duration = <integer>... file = /var/log/system.log* のようにワイルドカードが利用可能圧縮ファイルは未サポート file_fingerprint_lines = ファイルを識別するために行範囲を指定デフォルトでは 1 行目のみを使いファイルを識別 multi_line_start_pattern = ログメッセージの開始を識別するパターンを指定

27 メトリックスフィルタ ( 一般的なログフォーマット ) frank [10/Oct/2000:13:25: ] "GET /apache_pb.gif HTTP/1.0" frank [10/Oct/2000:13:35: ] "GET /apache_pb.gif HTTP/1.0" frank [10/Oct/2000:13:50: ] "GET /apache_pb.gif HTTP/1.0" Filter example [ip, user, username, timestamp, request, status_code, bytes > 1000] [ip, user, username, timestamp, request, status_code = 200, bytes] [ip, user, username, timestamp, request, status_code = 4*, bytes] [ip, user, username, timestamp, request = *html*, status_code = 4*, bytes] Notes 角括弧 [] または 2 個の二重引用符 ("") で囲まれた文字は単一のフィールドとして扱われますメトリックスフィルタは大文字と小文字を区別します

28 Amazon CloudWatch のアクション機能モニタリングアクション Custom Metric Memory Free / Filesystem Free StatusCheckFailed_Instance StatusCheckFailed_System Filter EC2 Action EC2 CPUUtilization DiskReadBytes / DiskReadOps DiskWriteBytes / DiskWriteOps NetworkIn / NetworkOut CloudWatch Alarm AutoScaling Notification Logs OS / Application /

29 システム基盤運用で考えるポイント Monitoring 監視 Logging ロギング Configuration 構成管理

30 AWS CloudTrail ユーザによる API の発行各リージョンの AWS リソースの呼び出し CloudTrail が API コールをロギングユーザの操作を管理

31 AWS CloudTrail ログの利用ケース検知検索可視化

32 CloudWatch Logs Metric Filter の利用 CloudTrail と CloudWatch Logs の連携 CloudTrail のログを JSON 形式で CloudWatch Logs に転送アカウント内でコールされた特定の API を監視し呼ばれたときに電子メール通知を受けることが可能 CloudTrail CloudWatch Logs CloudWatch Logs Metric Filter

33 CloudWatch Logs Metric Filter の利用特定文字列のエントリ頻度によりアラーム作成が可能コンソールへのログインが失敗するとアラーム警告

CloudWatch アラーム CloudFormation テンプレート CloudFormation をつかったメトリックフィルタの自動作成 http://aws.

34 CloudWatch アラーム CloudFormation テンプレート CloudFormation をつかったメトリックフィルタの自動作成

35 CloudFormation テンプレート JSON サンプルコンソールログインの監視 "ConsoleSignInFailuresMetricFilter": { "Type": "AWS::Logs::MetricFilter", "Properties": { "LogGroupName": { "Ref" : "LogGroupName" }, "FilterPattern": "{ ($.eventname = ConsoleLogin) && ($.errormessage = \"Failed authentication\") }", "MetricTransformations": [ { "MetricNamespace": "CloudTrailMetrics", "MetricName": "ConsoleSignInFailureCount", "MetricValue": "1 } ]}},

36 AWS CloudTrail API Activity Lookup $ aws cloudtrail lookup-events --lookup-attributes AttributeKey=EventName,AttributeValue=RunInstances --start-time end-time

37 Amazon CloudSearch, Amazon Lambda 1 CloudTrail Amazon S3 Bucket 2 3 Amazon Lambda Amazon CloudSearch

38 ElasticSearch, Kibana, Amazon Lambda 3 4 CloudTrail Logstash ElasticSearch 1 2 Amazon S3 Backet Amazon Lambda

39 Splunk App for AWS

40 システム基盤運用で考えるポイント Monitoring 監視 Logging ロギング Configuration 構成管理

41 AWS Config 構成変更記録変更更新ヒストリ AWS Config スナップショット (ex )

42 AWS Config から見るリソースのリレーション $ aws configservice get-resource-config-history --resource-type AWS::EC2::Instance --resource-id i-cbe region us-east-1 { "configurationitems": [ { "configurationitemcapturetime": , "resourcecreationtime": , "availabilityzone": "us-east-1c", "tags": { "Name": "cwl-sqlserver" }, "resourcetype": "AWS::EC2::Instance", "resourceid": "i-cbe78721", "configurationstateid": "547", "relatedevents": [], "relationships": [ { "resourcetype": "AWS::EC2::EIP", "resourceid": "eipalloc-e6dc7283", "relationshipname": "Is attached to ElasticIp" }, { "resourcetype": "AWS::EC2::NetworkInterface", "resourceid": "eni f4", "relationshipname": "Contains NetworkInterface" }, { "resourcetype": "AWS::EC2::SecurityGroup", "resourceid": "sg-53f98236", "relationshipname": "Is associated with SecurityGroup" }, { "resourcetype": "AWS::EC2::Subnet", "resourceid": "subnet-a1db1cd6", "relationshipname": "Is contained in Subnet" }, { "resourcetype": "AWS::EC2::Volume", "resourceid": "vol-592a8313", "relationshipname": "Is attached to Volume" },

43 AWS Config リレーションシップ wfront-6171 cli/sdk/metadata AWS Config Security Group wfront-6172 cli/sdk/metadata wfront-6173 cli/sdk/metadata

44 AWS Config からのスナップショットの取得 $ aws configservice deliver-config-snapshot --delivery-channel-name default --region us-east-1 { "configsnapshotid": "5b a6e0-4d19-a d932178f" } $ aws configservice describe-delivery-channel-status --region us-east-1 { "DeliveryChannelsStatus": [ { "configstreamdeliveryinfo": { "laststatuschangetime": , "laststatus": "SUCCESS" }, "confighistorydeliveryinfo": { "lastsuccessfultime": , "laststatus": "SUCCESS", "lastattempttime": }, "configsnapshotdeliveryinfo": { "lastsuccessfultime": , "laststatus": "SUCCESS", "lastattempttime": }, "name": "default"

45 Logstorage による可視化

46 まとめモニタリング Amazon CloudWatch インフラ監査 AWS CloudTrail 構成管理 AWS Config

47 ESP(Ecosystem Solution Pattern) カタログ無料配布 2015 年度版 AWS 対応ソフトウェア /SaaS ガイド

48 AWS 運用コミュニティ ~ クラウドによるクラウドのためのクラウド運用管理 ~ AWS 06/aws-ops.html

Presentation Title Here

Presentation Title Here Amazon CloudWatch / CloudWatch Logs 2015/07/01 AWS Black Belt Tech Webinar 2015 アマゾンデータサービスジャパン株式会社プロフェッショナルサービス山本教仁パートナーソリューションアーキテクト酒徳知明 Agenda Amazon CloudWatch Amazon CloudWatch Logs AWS での運用監視 2