Submit Search
Upload
[Black Belt Online Seminar] AWS上でのログ管理
•
26 likes
•
15,715 views
Amazon Web Services Japan
Follow
[Black Belt Online Seminar] AWS上でのログ管理 2016/11/29
Read less
Read more
Technology
Report
Share
Report
Share
1 of 85
Download now
Download to read offline
Recommended
20200422 AWS Black Belt Online Seminar Amazon Elastic Container Service (Amaz...
20200422 AWS Black Belt Online Seminar Amazon Elastic Container Service (Amaz...
Amazon Web Services Japan
20191023 AWS Black Belt Online Seminar Amazon EMR
20191023 AWS Black Belt Online Seminar Amazon EMR
Amazon Web Services Japan
20200526 AWS Black Belt Online Seminar AWS X-Ray
20200526 AWS Black Belt Online Seminar AWS X-Ray
Amazon Web Services Japan
20200826 AWS Black Belt Online Seminar AWS CloudFormation
20200826 AWS Black Belt Online Seminar AWS CloudFormation
Amazon Web Services Japan
AWS Black Belt Tech シリーズ 2015 - AWS Data Pipeline
AWS Black Belt Tech シリーズ 2015 - AWS Data Pipeline
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
Amazon Web Services Japan
20210126 AWS Black Belt Online Seminar AWS CodeDeploy
20210126 AWS Black Belt Online Seminar AWS CodeDeploy
Amazon Web Services Japan
20210216 AWS Black Belt Online Seminar AWS Database Migration Service
20210216 AWS Black Belt Online Seminar AWS Database Migration Service
Amazon Web Services Japan
Recommended
20200422 AWS Black Belt Online Seminar Amazon Elastic Container Service (Amaz...
20200422 AWS Black Belt Online Seminar Amazon Elastic Container Service (Amaz...
Amazon Web Services Japan
20191023 AWS Black Belt Online Seminar Amazon EMR
20191023 AWS Black Belt Online Seminar Amazon EMR
Amazon Web Services Japan
20200526 AWS Black Belt Online Seminar AWS X-Ray
20200526 AWS Black Belt Online Seminar AWS X-Ray
Amazon Web Services Japan
20200826 AWS Black Belt Online Seminar AWS CloudFormation
20200826 AWS Black Belt Online Seminar AWS CloudFormation
Amazon Web Services Japan
AWS Black Belt Tech シリーズ 2015 - AWS Data Pipeline
AWS Black Belt Tech シリーズ 2015 - AWS Data Pipeline
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
AWS Black Belt Online Seminar 2017 Amazon ElastiCache
Amazon Web Services Japan
20210126 AWS Black Belt Online Seminar AWS CodeDeploy
20210126 AWS Black Belt Online Seminar AWS CodeDeploy
Amazon Web Services Japan
20210216 AWS Black Belt Online Seminar AWS Database Migration Service
20210216 AWS Black Belt Online Seminar AWS Database Migration Service
Amazon Web Services Japan
20190320 AWS Black Belt Online Seminar Amazon EBS
20190320 AWS Black Belt Online Seminar Amazon EBS
Amazon Web Services Japan
AWS Black Belt Online Seminar AWS Key Management Service (KMS)
AWS Black Belt Online Seminar AWS Key Management Service (KMS)
Amazon Web Services Japan
AWS EC2 Eメール制限解除 - 逆引き(rDNS)設定 申請手順
AWS EC2 Eメール制限解除 - 逆引き(rDNS)設定 申請手順
Amazon Web Services Japan
20180704 AWS Black Belt Online Seminar Amazon Elastic File System (Amazon EFS...
20180704 AWS Black Belt Online Seminar Amazon Elastic File System (Amazon EFS...
Amazon Web Services Japan
20190424 AWS Black Belt Online Seminar Amazon Aurora MySQL
20190424 AWS Black Belt Online Seminar Amazon Aurora MySQL
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 AWS Elastic Beanstalk
AWS Black Belt Online Seminar 2017 AWS Elastic Beanstalk
Amazon Web Services Japan
20200722 AWS Black Belt Online Seminar AWSアカウント シングルサインオンの設計と運用
20200722 AWS Black Belt Online Seminar AWSアカウント シングルサインオンの設計と運用
Amazon Web Services Japan
20201111 AWS Black Belt Online Seminar AWS CodeStar & AWS CodePipeline
20201111 AWS Black Belt Online Seminar AWS CodeStar & AWS CodePipeline
Amazon Web Services Japan
202110 AWS Black Belt Online Seminar AWS Site-to-Site VPN
202110 AWS Black Belt Online Seminar AWS Site-to-Site VPN
Amazon Web Services Japan
20210526 AWS Expert Online マルチアカウント管理の基本
20210526 AWS Expert Online マルチアカウント管理の基本
Amazon Web Services Japan
20191002 AWS Black Belt Online Seminar Amazon EC2 Auto Scaling and AWS Auto S...
20191002 AWS Black Belt Online Seminar Amazon EC2 Auto Scaling and AWS Auto S...
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 AWS OpsWorks
AWS Black Belt Online Seminar 2017 AWS OpsWorks
Amazon Web Services Japan
202205 AWS Black Belt Online Seminar Amazon VPC IP Address Manager (IPAM)
202205 AWS Black Belt Online Seminar Amazon VPC IP Address Manager (IPAM)
Amazon Web Services Japan
20210119 AWS Black Belt Online Seminar AWS CloudTrail
20210119 AWS Black Belt Online Seminar AWS CloudTrail
Amazon Web Services Japan
AWS Black Belt Online Seminar Amazon Redshift
AWS Black Belt Online Seminar Amazon Redshift
Amazon Web Services Japan
(SPOT301) AWS Innovation at Scale | AWS re:Invent 2014
(SPOT301) AWS Innovation at Scale | AWS re:Invent 2014
Amazon Web Services
20190806 AWS Black Belt Online Seminar AWS Glue
20190806 AWS Black Belt Online Seminar AWS Glue
Amazon Web Services Japan
AWS Black Belt Online Seminar Amazon Aurora
AWS Black Belt Online Seminar Amazon Aurora
Amazon Web Services Japan
20191029 AWS Black Belt Online Seminar Elastic Load Balancing (ELB)
20191029 AWS Black Belt Online Seminar Elastic Load Balancing (ELB)
Amazon Web Services Japan
20180509 AWS Black Belt Online Seminar Amazon GuardDuty
20180509 AWS Black Belt Online Seminar Amazon GuardDuty
Amazon Web Services Japan
Growing up serverless
Growing up serverless
Amazon Web Services Japan
Amazon Athena 初心者向けハンズオン
Amazon Athena 初心者向けハンズオン
Amazon Web Services Japan
More Related Content
What's hot
20190320 AWS Black Belt Online Seminar Amazon EBS
20190320 AWS Black Belt Online Seminar Amazon EBS
Amazon Web Services Japan
AWS Black Belt Online Seminar AWS Key Management Service (KMS)
AWS Black Belt Online Seminar AWS Key Management Service (KMS)
Amazon Web Services Japan
AWS EC2 Eメール制限解除 - 逆引き(rDNS)設定 申請手順
AWS EC2 Eメール制限解除 - 逆引き(rDNS)設定 申請手順
Amazon Web Services Japan
20180704 AWS Black Belt Online Seminar Amazon Elastic File System (Amazon EFS...
20180704 AWS Black Belt Online Seminar Amazon Elastic File System (Amazon EFS...
Amazon Web Services Japan
20190424 AWS Black Belt Online Seminar Amazon Aurora MySQL
20190424 AWS Black Belt Online Seminar Amazon Aurora MySQL
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 AWS Elastic Beanstalk
AWS Black Belt Online Seminar 2017 AWS Elastic Beanstalk
Amazon Web Services Japan
20200722 AWS Black Belt Online Seminar AWSアカウント シングルサインオンの設計と運用
20200722 AWS Black Belt Online Seminar AWSアカウント シングルサインオンの設計と運用
Amazon Web Services Japan
20201111 AWS Black Belt Online Seminar AWS CodeStar & AWS CodePipeline
20201111 AWS Black Belt Online Seminar AWS CodeStar & AWS CodePipeline
Amazon Web Services Japan
202110 AWS Black Belt Online Seminar AWS Site-to-Site VPN
202110 AWS Black Belt Online Seminar AWS Site-to-Site VPN
Amazon Web Services Japan
20210526 AWS Expert Online マルチアカウント管理の基本
20210526 AWS Expert Online マルチアカウント管理の基本
Amazon Web Services Japan
20191002 AWS Black Belt Online Seminar Amazon EC2 Auto Scaling and AWS Auto S...
20191002 AWS Black Belt Online Seminar Amazon EC2 Auto Scaling and AWS Auto S...
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 AWS OpsWorks
AWS Black Belt Online Seminar 2017 AWS OpsWorks
Amazon Web Services Japan
202205 AWS Black Belt Online Seminar Amazon VPC IP Address Manager (IPAM)
202205 AWS Black Belt Online Seminar Amazon VPC IP Address Manager (IPAM)
Amazon Web Services Japan
20210119 AWS Black Belt Online Seminar AWS CloudTrail
20210119 AWS Black Belt Online Seminar AWS CloudTrail
Amazon Web Services Japan
AWS Black Belt Online Seminar Amazon Redshift
AWS Black Belt Online Seminar Amazon Redshift
Amazon Web Services Japan
(SPOT301) AWS Innovation at Scale | AWS re:Invent 2014
(SPOT301) AWS Innovation at Scale | AWS re:Invent 2014
Amazon Web Services
20190806 AWS Black Belt Online Seminar AWS Glue
20190806 AWS Black Belt Online Seminar AWS Glue
Amazon Web Services Japan
AWS Black Belt Online Seminar Amazon Aurora
AWS Black Belt Online Seminar Amazon Aurora
Amazon Web Services Japan
20191029 AWS Black Belt Online Seminar Elastic Load Balancing (ELB)
20191029 AWS Black Belt Online Seminar Elastic Load Balancing (ELB)
Amazon Web Services Japan
20180509 AWS Black Belt Online Seminar Amazon GuardDuty
20180509 AWS Black Belt Online Seminar Amazon GuardDuty
Amazon Web Services Japan
What's hot
(20)
20190320 AWS Black Belt Online Seminar Amazon EBS
20190320 AWS Black Belt Online Seminar Amazon EBS
AWS Black Belt Online Seminar AWS Key Management Service (KMS)
AWS Black Belt Online Seminar AWS Key Management Service (KMS)
AWS EC2 Eメール制限解除 - 逆引き(rDNS)設定 申請手順
AWS EC2 Eメール制限解除 - 逆引き(rDNS)設定 申請手順
20180704 AWS Black Belt Online Seminar Amazon Elastic File System (Amazon EFS...
20180704 AWS Black Belt Online Seminar Amazon Elastic File System (Amazon EFS...
20190424 AWS Black Belt Online Seminar Amazon Aurora MySQL
20190424 AWS Black Belt Online Seminar Amazon Aurora MySQL
AWS Black Belt Online Seminar 2017 AWS Elastic Beanstalk
AWS Black Belt Online Seminar 2017 AWS Elastic Beanstalk
20200722 AWS Black Belt Online Seminar AWSアカウント シングルサインオンの設計と運用
20200722 AWS Black Belt Online Seminar AWSアカウント シングルサインオンの設計と運用
20201111 AWS Black Belt Online Seminar AWS CodeStar & AWS CodePipeline
20201111 AWS Black Belt Online Seminar AWS CodeStar & AWS CodePipeline
202110 AWS Black Belt Online Seminar AWS Site-to-Site VPN
202110 AWS Black Belt Online Seminar AWS Site-to-Site VPN
20210526 AWS Expert Online マルチアカウント管理の基本
20210526 AWS Expert Online マルチアカウント管理の基本
20191002 AWS Black Belt Online Seminar Amazon EC2 Auto Scaling and AWS Auto S...
20191002 AWS Black Belt Online Seminar Amazon EC2 Auto Scaling and AWS Auto S...
AWS Black Belt Online Seminar 2017 AWS OpsWorks
AWS Black Belt Online Seminar 2017 AWS OpsWorks
202205 AWS Black Belt Online Seminar Amazon VPC IP Address Manager (IPAM)
202205 AWS Black Belt Online Seminar Amazon VPC IP Address Manager (IPAM)
20210119 AWS Black Belt Online Seminar AWS CloudTrail
20210119 AWS Black Belt Online Seminar AWS CloudTrail
AWS Black Belt Online Seminar Amazon Redshift
AWS Black Belt Online Seminar Amazon Redshift
(SPOT301) AWS Innovation at Scale | AWS re:Invent 2014
(SPOT301) AWS Innovation at Scale | AWS re:Invent 2014
20190806 AWS Black Belt Online Seminar AWS Glue
20190806 AWS Black Belt Online Seminar AWS Glue
AWS Black Belt Online Seminar Amazon Aurora
AWS Black Belt Online Seminar Amazon Aurora
20191029 AWS Black Belt Online Seminar Elastic Load Balancing (ELB)
20191029 AWS Black Belt Online Seminar Elastic Load Balancing (ELB)
20180509 AWS Black Belt Online Seminar Amazon GuardDuty
20180509 AWS Black Belt Online Seminar Amazon GuardDuty
Viewers also liked
Growing up serverless
Growing up serverless
Amazon Web Services Japan
Amazon Athena 初心者向けハンズオン
Amazon Athena 初心者向けハンズオン
Amazon Web Services Japan
AWS EC2の自動リブート
AWS EC2の自動リブート
Eiji Kamiya
ログ管理のベストプラクティス
ログ管理のベストプラクティス
Akihiro Kuwano
Application Lifecycle Management in a Serverless World
Application Lifecycle Management in a Serverless World
Keisuke Nishitani
[serverlessconf2017]FaaSで簡単に実現する数十万RPSスパイク負荷試験
[serverlessconf2017]FaaSで簡単に実現する数十万RPSスパイク負荷試験
Takahiro Moteki
Software Productivity and Serverless
Software Productivity and Serverless
Nick Gottlieb
now
now
Hiroyuki Hara
Serverlessconf Tokyo 2017 Biz serverless お客様のビジネスを支えるサーバーレスアーキテクチャーと開発としてのビジ...
Serverlessconf Tokyo 2017 Biz serverless お客様のビジネスを支えるサーバーレスアーキテクチャーと開発としてのビジ...
Hiroyuki Hiki
BluetoothメッシュによるIoTシステムを支えるサーバーレス技術 #serverlesstokyo
BluetoothメッシュによるIoTシステムを支えるサーバーレス技術 #serverlesstokyo
Masahiro NAKAYAMA
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Yu Yamada
AWS Lambdaによるサーバレスアーキテクチャの基本に触れてみよう!【kintone & AWS ハンズオン祭り2015秋 B-2】
AWS Lambdaによるサーバレスアーキテクチャの基本に触れてみよう!【kintone & AWS ハンズオン祭り2015秋 B-2】
JOYZO
AWS Black Belt Online Seminar 2017 AWS体験ハンズオン~Amazon S3 バックアップ~
AWS Black Belt Online Seminar 2017 AWS体験ハンズオン~Amazon S3 バックアップ~
Amazon Web Services Japan
AWSデータベースアップデート2017
AWSデータベースアップデート2017
Amazon Web Services Japan
AWS Black Belt Online Seminar AWS 体験ハンズオン 〜 Amazon DynamoDB テーブル作成編 〜
AWS Black Belt Online Seminar AWS 体験ハンズオン 〜 Amazon DynamoDB テーブル作成編 〜
Amazon Web Services Japan
Machine Learning on AWS
Machine Learning on AWS
Amazon Web Services Japan
Amazon S3を中心とするデータ分析のベストプラクティス
Amazon S3を中心とするデータ分析のベストプラクティス
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 初心者向け クラウドコンピューティング はじめの一歩
AWS Black Belt Online Seminar 2017 初心者向け クラウドコンピューティング はじめの一歩
Amazon Web Services Japan
2015/04/01 AWS Blackbelt EC2
2015/04/01 AWS Blackbelt EC2
Amazon Web Services Japan
AWS Black Belt Techシリーズ Amazon SNS / Amazon SQS
AWS Black Belt Techシリーズ Amazon SNS / Amazon SQS
Amazon Web Services Japan
Viewers also liked
(20)
Growing up serverless
Growing up serverless
Amazon Athena 初心者向けハンズオン
Amazon Athena 初心者向けハンズオン
AWS EC2の自動リブート
AWS EC2の自動リブート
ログ管理のベストプラクティス
ログ管理のベストプラクティス
Application Lifecycle Management in a Serverless World
Application Lifecycle Management in a Serverless World
[serverlessconf2017]FaaSで簡単に実現する数十万RPSスパイク負荷試験
[serverlessconf2017]FaaSで簡単に実現する数十万RPSスパイク負荷試験
Software Productivity and Serverless
Software Productivity and Serverless
now
now
Serverlessconf Tokyo 2017 Biz serverless お客様のビジネスを支えるサーバーレスアーキテクチャーと開発としてのビジ...
Serverlessconf Tokyo 2017 Biz serverless お客様のビジネスを支えるサーバーレスアーキテクチャーと開発としてのビジ...
BluetoothメッシュによるIoTシステムを支えるサーバーレス技術 #serverlesstokyo
BluetoothメッシュによるIoTシステムを支えるサーバーレス技術 #serverlesstokyo
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
Step functionsとaws batchでオーケストレートするイベントドリブンな機械学習基盤
AWS Lambdaによるサーバレスアーキテクチャの基本に触れてみよう!【kintone & AWS ハンズオン祭り2015秋 B-2】
AWS Lambdaによるサーバレスアーキテクチャの基本に触れてみよう!【kintone & AWS ハンズオン祭り2015秋 B-2】
AWS Black Belt Online Seminar 2017 AWS体験ハンズオン~Amazon S3 バックアップ~
AWS Black Belt Online Seminar 2017 AWS体験ハンズオン~Amazon S3 バックアップ~
AWSデータベースアップデート2017
AWSデータベースアップデート2017
AWS Black Belt Online Seminar AWS 体験ハンズオン 〜 Amazon DynamoDB テーブル作成編 〜
AWS Black Belt Online Seminar AWS 体験ハンズオン 〜 Amazon DynamoDB テーブル作成編 〜
Machine Learning on AWS
Machine Learning on AWS
Amazon S3を中心とするデータ分析のベストプラクティス
Amazon S3を中心とするデータ分析のベストプラクティス
AWS Black Belt Online Seminar 2017 初心者向け クラウドコンピューティング はじめの一歩
AWS Black Belt Online Seminar 2017 初心者向け クラウドコンピューティング はじめの一歩
2015/04/01 AWS Blackbelt EC2
2015/04/01 AWS Blackbelt EC2
AWS Black Belt Techシリーズ Amazon SNS / Amazon SQS
AWS Black Belt Techシリーズ Amazon SNS / Amazon SQS
Similar to [Black Belt Online Seminar] AWS上でのログ管理
AWSのログ管理ベストプラクティス
AWSのログ管理ベストプラクティス
Akihiro Kuwano
ネットワーク構成から考える AWS IaaS 管理
ネットワーク構成から考える AWS IaaS 管理
Hideaki Aoyagi
AWS Black Belt Online Seminar 2017 IoT向け最新アーキテクチャパターン
AWS Black Belt Online Seminar 2017 IoT向け最新アーキテクチャパターン
Amazon Web Services Japan
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)
Shinichiro Isago
AWS Blackbelt 2015シリーズ Amazon CloudWatch & Amazon CloudWatch Logs
AWS Blackbelt 2015シリーズ Amazon CloudWatch & Amazon CloudWatch Logs
Amazon Web Services Japan
AWS Black Belt Tech シリーズ 2016 - Amazon CloudFront
AWS Black Belt Tech シリーズ 2016 - Amazon CloudFront
Amazon Web Services Japan
AWS Black Belt Online Seminar 2017 Deployment on AWS
AWS Black Belt Online Seminar 2017 Deployment on AWS
Amazon Web Services Japan
AWS IoTを使った双方向通信システムの実装と注意点
AWS IoTを使った双方向通信システムの実装と注意点
Kohei MATSUSHITA
Programming AWS with Perl at YAPC::Asia 2013
Programming AWS with Perl at YAPC::Asia 2013
Yasuhiro Horiuchi
[Sumo Logic x AWS 共催セミナー_20190829] Sumo Logic on AWS -AWS を活用したログ分析とセキュリティモニ...
[Sumo Logic x AWS 共催セミナー_20190829] Sumo Logic on AWS -AWS を活用したログ分析とセキュリティモニ...
Takanori Ohba
ServerlessConf Tokyo2018 サーバーレスなシステムのがんばらない運用監視
ServerlessConf Tokyo2018 サーバーレスなシステムのがんばらない運用監視
Takanori Suzuki
シスコ装置を使い倒す!組込み機能による可視化からセキュリティ強化
シスコ装置を使い倒す!組込み機能による可視化からセキュリティ強化
シスコシステムズ合同会社
AWS は形式手法の夢を見るか? - モデル検査器 Alloy によるインフラ設計
AWS は形式手法の夢を見るか? - モデル検査器 Alloy によるインフラ設計
y_taka_23
AWS Black Belt Online Seminar AWSで実現するDisaster Recovery
AWS Black Belt Online Seminar AWSで実現するDisaster Recovery
Amazon Web Services Japan
The road of Apache CloudStack Contributor (Translation and Patch)
The road of Apache CloudStack Contributor (Translation and Patch)
Kimihiko Kitase
【第21回Elasticsearch勉強会】aws環境に合わせてelastic stackをログ分析基盤として構築した話
【第21回Elasticsearch勉強会】aws環境に合わせてelastic stackをログ分析基盤として構築した話
Hibino Hisashi
[ウェビナー] Build 2018 アップデート ~ データ プラットフォーム/IoT編 ~
[ウェビナー] Build 2018 アップデート ~ データ プラットフォーム/IoT編 ~
Naoki (Neo) SATO
Sourcecode Reading Workshop2010
Sourcecode Reading Workshop2010
Hiro Yoshioka
Azure Monitor Logで実現するモダンな管理手法
Azure Monitor Logで実現するモダンな管理手法
Takeshi Fukuhara
[Japan Tech summit 2017] DEP 005
[Japan Tech summit 2017] DEP 005
Microsoft Tech Summit 2017
Similar to [Black Belt Online Seminar] AWS上でのログ管理
(20)
AWSのログ管理ベストプラクティス
AWSのログ管理ベストプラクティス
ネットワーク構成から考える AWS IaaS 管理
ネットワーク構成から考える AWS IaaS 管理
AWS Black Belt Online Seminar 2017 IoT向け最新アーキテクチャパターン
AWS Black Belt Online Seminar 2017 IoT向け最新アーキテクチャパターン
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)
AWS Blackbelt 2015シリーズ Amazon CloudWatch & Amazon CloudWatch Logs
AWS Blackbelt 2015シリーズ Amazon CloudWatch & Amazon CloudWatch Logs
AWS Black Belt Tech シリーズ 2016 - Amazon CloudFront
AWS Black Belt Tech シリーズ 2016 - Amazon CloudFront
AWS Black Belt Online Seminar 2017 Deployment on AWS
AWS Black Belt Online Seminar 2017 Deployment on AWS
AWS IoTを使った双方向通信システムの実装と注意点
AWS IoTを使った双方向通信システムの実装と注意点
Programming AWS with Perl at YAPC::Asia 2013
Programming AWS with Perl at YAPC::Asia 2013
[Sumo Logic x AWS 共催セミナー_20190829] Sumo Logic on AWS -AWS を活用したログ分析とセキュリティモニ...
[Sumo Logic x AWS 共催セミナー_20190829] Sumo Logic on AWS -AWS を活用したログ分析とセキュリティモニ...
ServerlessConf Tokyo2018 サーバーレスなシステムのがんばらない運用監視
ServerlessConf Tokyo2018 サーバーレスなシステムのがんばらない運用監視
シスコ装置を使い倒す!組込み機能による可視化からセキュリティ強化
シスコ装置を使い倒す!組込み機能による可視化からセキュリティ強化
AWS は形式手法の夢を見るか? - モデル検査器 Alloy によるインフラ設計
AWS は形式手法の夢を見るか? - モデル検査器 Alloy によるインフラ設計
AWS Black Belt Online Seminar AWSで実現するDisaster Recovery
AWS Black Belt Online Seminar AWSで実現するDisaster Recovery
The road of Apache CloudStack Contributor (Translation and Patch)
The road of Apache CloudStack Contributor (Translation and Patch)
【第21回Elasticsearch勉強会】aws環境に合わせてelastic stackをログ分析基盤として構築した話
【第21回Elasticsearch勉強会】aws環境に合わせてelastic stackをログ分析基盤として構築した話
[ウェビナー] Build 2018 アップデート ~ データ プラットフォーム/IoT編 ~
[ウェビナー] Build 2018 アップデート ~ データ プラットフォーム/IoT編 ~
Sourcecode Reading Workshop2010
Sourcecode Reading Workshop2010
Azure Monitor Logで実現するモダンな管理手法
Azure Monitor Logで実現するモダンな管理手法
[Japan Tech summit 2017] DEP 005
[Japan Tech summit 2017] DEP 005
More from Amazon Web Services Japan
202205 AWS Black Belt Online Seminar Amazon FSx for OpenZFS
202205 AWS Black Belt Online Seminar Amazon FSx for OpenZFS
Amazon Web Services Japan
202204 AWS Black Belt Online Seminar AWS IoT Device Defender
202204 AWS Black Belt Online Seminar AWS IoT Device Defender
Amazon Web Services Japan
Infrastructure as Code (IaC) 談義 2022
Infrastructure as Code (IaC) 談義 2022
Amazon Web Services Japan
202204 AWS Black Belt Online Seminar Amazon Connect を活用したオンコール対応の実現
202204 AWS Black Belt Online Seminar Amazon Connect を活用したオンコール対応の実現
Amazon Web Services Japan
202204 AWS Black Belt Online Seminar Amazon Connect Salesforce連携(第1回 CTI Adap...
202204 AWS Black Belt Online Seminar Amazon Connect Salesforce連携(第1回 CTI Adap...
Amazon Web Services Japan
Amazon Game Tech Night #25 ゲーム業界向け機械学習最新状況アップデート
Amazon Game Tech Night #25 ゲーム業界向け機械学習最新状況アップデート
Amazon Web Services Japan
20220409 AWS BLEA 開発にあたって検討したこと
20220409 AWS BLEA 開発にあたって検討したこと
Amazon Web Services Japan
202202 AWS Black Belt Online Seminar AWS Managed Rules for AWS WAF の活用
202202 AWS Black Belt Online Seminar AWS Managed Rules for AWS WAF の活用
Amazon Web Services Japan
202203 AWS Black Belt Online Seminar Amazon Connect Tasks.pdf
202203 AWS Black Belt Online Seminar Amazon Connect Tasks.pdf
Amazon Web Services Japan
SaaS テナント毎のコストを把握するための「AWS Application Cost Profiler」のご紹介
SaaS テナント毎のコストを把握するための「AWS Application Cost Profiler」のご紹介
Amazon Web Services Japan
Amazon QuickSight の組み込み方法をちょっぴりDD
Amazon QuickSight の組み込み方法をちょっぴりDD
Amazon Web Services Japan
マルチテナント化で知っておきたいデータベースのこと
マルチテナント化で知っておきたいデータベースのこと
Amazon Web Services Japan
機密データとSaaSは共存しうるのか!?セキュリティー重視のユーザー層を取り込む為のネットワーク通信のアプローチ
機密データとSaaSは共存しうるのか!?セキュリティー重視のユーザー層を取り込む為のネットワーク通信のアプローチ
Amazon Web Services Japan
パッケージソフトウェアを簡単にSaaS化!?既存の資産を使ったSaaS化手法のご紹介
パッケージソフトウェアを簡単にSaaS化!?既存の資産を使ったSaaS化手法のご紹介
Amazon Web Services Japan
202202 AWS Black Belt Online Seminar Amazon Connect Customer Profiles
202202 AWS Black Belt Online Seminar Amazon Connect Customer Profiles
Amazon Web Services Japan
Amazon Game Tech Night #24 KPIダッシュボードを最速で用意するために
Amazon Game Tech Night #24 KPIダッシュボードを最速で用意するために
Amazon Web Services Japan
202202 AWS Black Belt Online Seminar AWS SaaS Boost で始めるSaaS開発⼊⾨
202202 AWS Black Belt Online Seminar AWS SaaS Boost で始めるSaaS開発⼊⾨
Amazon Web Services Japan
[20220126] JAWS-UG 2022初頭までに葬ったAWSアンチパターン大紹介
[20220126] JAWS-UG 2022初頭までに葬ったAWSアンチパターン大紹介
Amazon Web Services Japan
202111 AWS Black Belt Online Seminar AWSで構築するSmart Mirrorのご紹介
202111 AWS Black Belt Online Seminar AWSで構築するSmart Mirrorのご紹介
Amazon Web Services Japan
202201 AWS Black Belt Online Seminar Apache Spark Performnace Tuning for AWS ...
202201 AWS Black Belt Online Seminar Apache Spark Performnace Tuning for AWS ...
Amazon Web Services Japan
More from Amazon Web Services Japan
(20)
202205 AWS Black Belt Online Seminar Amazon FSx for OpenZFS
202205 AWS Black Belt Online Seminar Amazon FSx for OpenZFS
202204 AWS Black Belt Online Seminar AWS IoT Device Defender
202204 AWS Black Belt Online Seminar AWS IoT Device Defender
Infrastructure as Code (IaC) 談義 2022
Infrastructure as Code (IaC) 談義 2022
202204 AWS Black Belt Online Seminar Amazon Connect を活用したオンコール対応の実現
202204 AWS Black Belt Online Seminar Amazon Connect を活用したオンコール対応の実現
202204 AWS Black Belt Online Seminar Amazon Connect Salesforce連携(第1回 CTI Adap...
202204 AWS Black Belt Online Seminar Amazon Connect Salesforce連携(第1回 CTI Adap...
Amazon Game Tech Night #25 ゲーム業界向け機械学習最新状況アップデート
Amazon Game Tech Night #25 ゲーム業界向け機械学習最新状況アップデート
20220409 AWS BLEA 開発にあたって検討したこと
20220409 AWS BLEA 開発にあたって検討したこと
202202 AWS Black Belt Online Seminar AWS Managed Rules for AWS WAF の活用
202202 AWS Black Belt Online Seminar AWS Managed Rules for AWS WAF の活用
202203 AWS Black Belt Online Seminar Amazon Connect Tasks.pdf
202203 AWS Black Belt Online Seminar Amazon Connect Tasks.pdf
SaaS テナント毎のコストを把握するための「AWS Application Cost Profiler」のご紹介
SaaS テナント毎のコストを把握するための「AWS Application Cost Profiler」のご紹介
Amazon QuickSight の組み込み方法をちょっぴりDD
Amazon QuickSight の組み込み方法をちょっぴりDD
マルチテナント化で知っておきたいデータベースのこと
マルチテナント化で知っておきたいデータベースのこと
機密データとSaaSは共存しうるのか!?セキュリティー重視のユーザー層を取り込む為のネットワーク通信のアプローチ
機密データとSaaSは共存しうるのか!?セキュリティー重視のユーザー層を取り込む為のネットワーク通信のアプローチ
パッケージソフトウェアを簡単にSaaS化!?既存の資産を使ったSaaS化手法のご紹介
パッケージソフトウェアを簡単にSaaS化!?既存の資産を使ったSaaS化手法のご紹介
202202 AWS Black Belt Online Seminar Amazon Connect Customer Profiles
202202 AWS Black Belt Online Seminar Amazon Connect Customer Profiles
Amazon Game Tech Night #24 KPIダッシュボードを最速で用意するために
Amazon Game Tech Night #24 KPIダッシュボードを最速で用意するために
202202 AWS Black Belt Online Seminar AWS SaaS Boost で始めるSaaS開発⼊⾨
202202 AWS Black Belt Online Seminar AWS SaaS Boost で始めるSaaS開発⼊⾨
[20220126] JAWS-UG 2022初頭までに葬ったAWSアンチパターン大紹介
[20220126] JAWS-UG 2022初頭までに葬ったAWSアンチパターン大紹介
202111 AWS Black Belt Online Seminar AWSで構築するSmart Mirrorのご紹介
202111 AWS Black Belt Online Seminar AWSで構築するSmart Mirrorのご紹介
202201 AWS Black Belt Online Seminar Apache Spark Performnace Tuning for AWS ...
202201 AWS Black Belt Online Seminar Apache Spark Performnace Tuning for AWS ...
Recently uploaded
PHP-Conference-Odawara-2024-04-000000000
PHP-Conference-Odawara-2024-04-000000000
Shota Ito
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。
iPride Co., Ltd.
20240412_HCCJP での Windows Server 2025 Active Directory
20240412_HCCJP での Windows Server 2025 Active Directory
osamut
Postman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By Daniel
danielhu54
IoT in the era of generative AI, Thanks IoT ALGYAN.pptx
IoT in the era of generative AI, Thanks IoT ALGYAN.pptx
Atomu Hidaka
プレイマットのパターン生成支援ツール
プレイマットのパターン生成支援ツール
sugiuralab
新人研修のまとめ 2024/04/12の勉強会で発表されたものです。
新人研修のまとめ 2024/04/12の勉強会で発表されたものです。
iPride Co., Ltd.
プレイマットのパターン生成支援ツールの評価
プレイマットのパターン生成支援ツールの評価
sugiuralab
Recently uploaded
(8)
PHP-Conference-Odawara-2024-04-000000000
PHP-Conference-Odawara-2024-04-000000000
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。
20240412_HCCJP での Windows Server 2025 Active Directory
20240412_HCCJP での Windows Server 2025 Active Directory
Postman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By Daniel
IoT in the era of generative AI, Thanks IoT ALGYAN.pptx
IoT in the era of generative AI, Thanks IoT ALGYAN.pptx
プレイマットのパターン生成支援ツール
プレイマットのパターン生成支援ツール
新人研修のまとめ 2024/04/12の勉強会で発表されたものです。
新人研修のまとめ 2024/04/12の勉強会で発表されたものです。
プレイマットのパターン生成支援ツールの評価
プレイマットのパターン生成支援ツールの評価
[Black Belt Online Seminar] AWS上でのログ管理
1.
1 【Black Belt Online
Seminar】 AWS上でのログ管理 2016/11/29 アマゾン ウェブ サービス ジャパン株式会社 ソリューションアーキテクト 桑野 章弘
2.
22 自己紹介 桑野 章弘(くわの あきひろ) ソリューションアーキテクト •
主にメディア系のお客様を担当しております。 • 渋谷のインフラエンジニア(仮)しておりました • 好きなAWSのサービス:ElastiCache • 好きなデータストア:MongoDB
3.
33 AWS Black Belt
Online Seminar とは • AWSJのTechメンバがAWSに関する様々な事を紹介するオンラインセミナーです 【火曜 12:00~13:00】 主にAWSのソリューションや 業界カットでの使いどころなどを紹介 (例:IoT、金融業界向け etc.) 【水曜 18:00~19:00】 主にAWSサービスの紹介や アップデートの解説 (例:EC2、RDS、Lambda etc.) ※最新の情報は下記をご確認下さい。 オンラインセミナーのスケジュール&申し込みサイト – http://aws.amazon.com/jp/about-aws/events/#webinar
4.
4 本資料では2016年11月29日時点のサービス内容および価格についてご説明しています。 最新の情報はAWS公式ウェブサイト(http://aws.amazon.com/ )にてご確認ください。 資料作成には十分注意しておりますが、資料内の価格とAWS公式ウェブサイト記載の価 格に相違があった場合、AWS公式ウェブサイトの価格を優先とさせていただきます。 内容についての注意点 AWS does
not offer binding price quotes. AWS pricing is publicly available and is subject to change in accordance with the AWS Customer Agreement available at http://aws.amazon.com/agreement/. Any pricing information included in this document is provided only as an estimate of usage charges for AWS services based on certain information that you have provided. Monthly charges will be based on your actual use of AWS services, and may vary from the estimates provided. 価格は税抜表記となっています。日本居住者のお客様が東京リージョンを使用する場合、 別途消費税をご請求させていただきます。
5.
アジェンダ Introduction ログについて ログの収集 ログの保存 ログの活用 まとめ
6.
6 Introduction
7.
Introduction サービスやユーザの状況を確認するためにログ は大事なファクタとなりますが、管理手法には 様々な物があり、インスタンスの改廃が多く行 われるクラウド上で効率よく管理する方法を知 る必要があります AWS上でログを管理するため、そして活用する ための手法について確認していきます
8.
8 ログについて
9.
ログの種別 ログといっても全部同じではなく種類によって 用途、目的が異なる アプリケーションログ アクティビティログ セキュリティログ その他 これらのログはサービスの生命線かつ宝 サービスを改善するためには現状の把握と分析が絶対的に必要
10.
収集 処理 分析 保存 データ収集と 保存 データ処理イベント処理
データ分析 データ 答え 分析前の前処理等、 いわゆるETL (抽出、変換、挿 入 )的な処理 各サーバや、サー ビスからのログを 収集する ログに対して各種 分析をかける 収集したログを サーバやデータス トアに保存する ログ処理の全体像
11.
収集 処理 分析 保存 データ収集と 保存 データ処理イベント処理
データ分析 データ 答え ログ処理の全体像 Amazon S3 Amazon Kinesis Amazon DynamoDB Amazon RDS (Aurora) AWS Lambda KCL Apps Amazon EMR Amazon Redshift Amazon Machine Learning
12.
収集 処理 分析 保存 データ収集と 保存 データ処理イベント処理
データ分析 データ 答え ログ処理の全体像 Amazon S3 Amazon Kinesis Amazon DynamoDB Amazon RDS (Aurora) AWS Lambda KCL Apps Amazon EMR Amazon Redshift Amazon Machine Learning
13.
13 ログの収集
14.
AWS 上のログのオーバービュー CloudWatch Logs S3 CloudTrail S3
Access Logs ELB VPC Flow Logs OS / APP Kinesis Lambda チャット 電話 通知 アラート アクション Config Cloudfront Detailed Billing Redshift DMSRDS 他ツール連携 エクスポート API Gateway 可視化 ※一部サービスを抜粋
15.
取得する必要のあるログ AWSのサービスから出力されるログ 各サービスで出力されるログ CloudWatch Logs経由や直接S3にアップロードする場合が多い OSやアプリケーション等各環境固有のログ アプリケーションログ等必要なログ セルフサービス
16.
AWSのサービスから出力されるログ
17.
AWSのサービスから出力されるログ CloudWatch Logs CloudTrail ELB VPCフローログ S3のバケットログ CloudFrontのアクセスログ etc…etc...
18.
CloudWatch Logs Amazon Linux
Ubuntu Windows Red Hat Linux CloudWatch Logs 通知: CloudWatch Alarm Log Agent Log Agent Log Agent Log Agent VPC Flow Logs 可視化: Amazon Elasticsearh Service (Kibana) エクスポート: Amazon S3 CloudTrail Lambda RDS
19.
CloudWatch Logsのディレクトリ階層 Web Server web001.ap-northeast-1 Log
Group Log Stream Log Event web002.ap-northeast-1 web003.ap-northeast-1
20.
ログモニタリングイメージ ログ内容はタイムスタンプとログメッセージ (UTF-8)で構成
21.
AWS CloudTrail AWSアカウントの操作をロギン グするサービス 管理コンソール、コマンドライ ン、3rd party等APIコールされ る全てのイベントが対象 S3にロギングデータをJSONで 保存 AWS
CloudTrail自体の料金は無 料 AWS上のAPI操作を記録するサービス AWS CloudTrail サポートサービス一覧 http://docs.aws.amazon.com/ja_jp/awscloudtrail/latest/userguide/w hat_is_cloud_trail_supported_services.html
22.
VPC Flow Logs VPC内のネットワークのログが取得可能 Network
ACLとSecurity Groupでの許可と禁止についてのトラ フィックログをCloudWatch Logsへ出力する ネットワークインタフェース(ENI)ごとに取得(ENIがログス トリーム)
23.
Flow Logs レコードの項目 フィールド
説明 version VPC Flow Logsのバージョン account-id Flow Logsを取得したAWSアカウント interface-id ログストリームが適用されているネットワークインタフェースのID srcaddr 送信元アドレス(※) dsraddr 送信先アドレス(※) srcport 送信元ポート dsrport 送信先ポート protocol IANAで定義されたプロトコル番号 packets キャプチャウインドウの中で取得したパケット数 bytes キャプチャウインドウの中で取得したバイト数 start キャプチャウインドウ開始時のUNIX時間 end キャプチャウインドウ終了時のUNIX時間 action トラフィックのアクション(ACCEPT/REJECT) log-status ログステータス(OK/NODATA/SKIPDATA) Flow Logs レコード: http://docs.aws.amazon.com/AmazonVPC/latest/UserGuide/flow-logs.html#flow-log-records
24.
S3バケットログ バケット単位でバケットに対するアクセスログ の出力設定が可能 出力先としてS3バケットを指定 ログフォーマット 主要な項目としては「Remote IP」「HTTP Status」 「Request-URI」等様々 参照:http://docs.aws.amazon.com/ja_jp/AmazonS3/latest/dev/LogFormat.html
25.
S3バケットログの項目 項目 説明 Bucket Owner
ソースバケット所有者の正規ユーザー ID バケット リクエストの処理対象のバケット名 時間 リクエストを受け取った時刻 Remote IP リクエストしてきたインターネットアドレス リクエスタ IAMユーザ等のID リクエスト ID 各リクエストを一意に識別するための文字列 オペレーション 実行したオペレーション内容 キー リクエストの URL エンコードされた「key」 部分 Request-URI HTTP リクエストメッセージの Request-URI 部分 HTTP status レスポンスの HTTP ステータス 項目 説明 エラーコード Amazon S3 エラーコード Bytes Sent 送信されたレスポンスのバイト数 Object Size 該当するオブジェクトの合計サイズ Total Time サーバーから見た、リクエストの転送中の時間数(ミリ秒) Turn-Around Time Amazon S3 でリクエストの処理に要した時間数(ミリ秒) Referrer リファラ User-Agent ユーザーエージェント Version Id リクエストのバージョン ID
26.
CloudFrontログ & レポート CloudFront クライアント S3 Management
Console アクセスログ アクセスや利用状況傾向の 確認及び分析 Cache Statistics Popular Objects Top Referrers Usage Viewers Cloudwatch Monitoring and Alarming 障害/異常検知や現状の利用確認 Access Log 複雑なアクセスや利用傾向分析 データの可視化と詳細な障害分析 リアルタイム モニター レポーティング Redshift ElasticSearch 参照:http://docs.aws.amazon.com/ja_jp/AmazonCloudFront/latest/DeveloperGuide/AccessLogs.html
27.
CloudFrontアクセスログの項目 任意のS3 Bucketに出力可能 項目 説明 date
アクセス日(UTC) time アクセス時間(UTC) x-edge-location エッジロケーションID sc-bytes 配信Byte数(ヘッダー含む) c-ip クライアントIPアドレス cs-method HTTPアクセスMethod cs(Host) CloudFront Distributinドメイン名 cs-uri-stem リクエストURI sc-status レスポンスコード cs(Referer) リファラ cs(User-Agent) クライアントユーザエージェント cs-uri-query リクエストQuery Strings cs(Cookie) リクエストCookieヘッダー 項目 説明 x-edge-result-type Hit:キャッシュヒット RefreshHit:キャッシュがExpireされていた Miss:キャッシュミス LimitExceeded: CloudFrontのリミットオーバ CapacityExceeeded: エッジのキャパシティ不足 Error:クライアントもしくはオリジンによるエラー x-edge-request-id CloudFrontのリクエストID x-host-header リクエストHost Header cs-protocol リクエストプロトコル(http / https) cs-bytes リクエストByte数(ヘッダー含む) time-taken CloudFrontエッジがリクエストを受けて、オリジンからLastByte を取得するまでにかかった秒数 x-forwarded-for ViewerがHTTPプロキシなどを利用した場合の元Viewr IP ssl-protocol クライアントとHTTPS通信をした際の利用したプロトコル ssl-cipher クライアントとHTTPS通信した際の利用した暗号化方式 x-edge-response- result-type Viewerにレスポンスを返す直前の処理分類 ※分類はx-edge-result-typeと同様
28.
ELBのアクセスログの項目 ELBのアクセスログをS3に自 動保管 簡単にログのS3保管が実現で きる 集約とかを考えなくて良くなる 参照 http://docs.aws.amazon.com/ja_jp/ElasticLoadBalancing/latest/DeveloperGuide/access- log-collection.html S3
29.
ELBのアクセスログの項目 ロードバランサのアクセスログをS3へ保存 項目 説明 timestamp クライアントからリクエストを受け取った時 刻 elb
ロードバランサー名 client:port リクエストを送信したクライアントの IP ア ドレスとポート backend:port このリクエストを処理した登録済みインスタ ンスの IP アドレスとポート request_processing_t ime ロードバランサーがリクエストを受け取った 時点から登録済みインスタンスに送信するま での合計経過時間(秒) backend_processing_ time ロードバランサーが登録済みインスタンスに リクエストを送信した時点から、そのインス タンスが応答ヘッダーの送信を開始した時点 までの合計経過時間(秒) 項目 説明 response_processing_ time ロードバランサーが登録済みインスタンスから応答ヘッダーを受 け取った時点から、クライアントへの応答の送信を開始した時点 までの合計経過時間(秒) elb_status_code ロードバランサーからの応答のステータスコード backend_status_code 登録済みインスタンスからの応答のステータスコード received_bytes クライアントから受け取ったリクエストのサイズ(バイト) sent_bytes クライアント(リクエスタ)に返される応答のサイズ(バイト) user_agent ユーザーエージェント ssl_cipher SSL 暗号。正常なネゴシエーションの後に受信 SSL/TLS 接続が 確立した場合にのみ、この値が記録されます ssl_protocol SSL プロトコル。正常なネゴシエーションの後に受信 SSL/TLS 接続が確立した場合にのみ、この値が記録されます
30.
OSやアプリケーション等各環境固有のログ取得
31.
ログの取得 アプリケーションの種別によっても最適なもの は異なる 例えばリアルタイムに処理をしなくてもいいな らバッチ取得 受け取ったログを元にリアルタイムな処理を行 う必要があるのであればストリーム取得
32.
ログ転送の手法 ログ転送の方法も様々な方法がある ログ収集サーバがサーバからログファイル転送 syslogエージェント等を使用してログを集約 ミドルウェアの利用 マネージドサービスの利用
33.
ログ収集サーバがサーバからログファイル転送 トラディショナルな運用 各サーバからログをscp等で取得 保存先をS3にすることでログ収集サーバのストレージ容量を削 減可能 APP ログ収集サーバ scp等で収集
34.
ログ収集サーバがサーバからログファイル転送 基本的には非推奨 ログ収集サーバからscp等で各サーバのログを取得(Pull)する やり方ではログ収集サーバのスペックや、収集対象の数などに よって収集速度がスケールしない ログ収集サーバがSPOFになる APP ログ収集サーバ S3に アップロード Amazon S3 scp等でログを 収集
35.
各サーバからログファイルの転送 各サーバから直接S3に送るというパターン リトライ等の考慮事項が増える cron等でAPPサーバから送る必要あり APP Amazon S3 各サーバから 直接S3へアッ プロード
36.
syslogエージェント等で集約 syslog-ngやrsyslogといったソフトウェアを 使ってログを転送する APP ログ収集サーバ rsyslog/syslog-ng等 でログ送信 S3に アップロードす る場合も同様 Amazon S3
37.
syslogエージェント等で集約 ログ収集をPull型からPush型にする事が可能 設定ファイルの配布はAMIやAnsible等のデプロイツールを使用 ログ収集サーバの構成は複雑化する やはりログ収集サーバのスケールは難しい APP ログ収集サーバ rsyslog/syslog-ng等 でログ送信 S3に アップロードす る場合も同様 Amazon S3
38.
ミドルウェアアプリケーションの利用 Push型を推し進める方向性 ログ送信のためのミドルウェアを使用すること で柔軟な運用が可能
39.
fluentd Treasure Data 社を中心としたOSS
として開発 ログ収集管理ツール Rubyを使用した柔軟性の高い入出力プラグイン S3 Kinesis DynamoDB Elasticsearch service バッファリング機能をデフォルトで持つ File Buffer Memory Buffer ログのルーティングが非常にやりやすい
40.
fluentd単体構成 fluentdでログ収集サーバはいらなくなる 直接サーバS3へ送信する場合はファイル単位でのPutだったが、この構成は自 動的に順次ファイルへと書くことができるためよりリアルタイムなログ収集が 可能 S3だけではなく同時にDynamoDB等のサービスにも同時に送ることが可能 APP fluentdでログをS3や DynamoDBに転送 Amazon S3 Amazon DynamoDB
41.
fluentd集約構成 APPサーバ直送だと台数に応じリソース増大/運用コスト大 途中にAggregateServerを経由し安定性向上/運用コスト削 減 リソース確保と冗長性に考慮が必要 APP Aggregate ServerからS3 やDynamoDB に転送 APPサーバのfluentd からfluend aggregate serverへ の単純な転送 aggregate server Amazon S3 Amazon DynamoDB
42.
マネージドサービスの利用 Kinesis Streams Firehose CloudWatch Logs ログ管理を容易に行うことが可能 Mobile Analytics
43.
Kinesis Streams 生成されるデータをリアルタイムに近い状況でデータ処理部に伝送 AWSのサービスとの簡単インテグレーション 目的に応じた処理を並列処理することが可能 KinesisStreams エ ン ド ポ イ ン ト シャード 0 シャード
1 シャード ..N ストリーム データ送信側 データ処理側 Amazon S3 DynamoDB Amazon Redshift Amazon EMR データ レコード フルマネージド型リアルタイム大規模ストリーミング処理 Lambda EC2
44.
Kinesis Firehose ストリーミングデータを Amazon
S3, Amazon Redshift, Amazon ES へ 簡単にロード 管理不要 アプリケーションの実装やインフラストラクチャーの管理を一切行わずに Amazon S3 / Amazon Redshift / Amazon ES にデータを配信可能 データストアとダイレクトに統合 シンプルな設定でストリーミングデータのバッチ化・圧縮・暗号化が可能。最短 60 秒でデータを 配信 シームレスにスケール データのスループットに応じて自動的にスケール
45.
Fluent plugin for
Amazon Kinesis fluentdからKinesisに ログを直接送信するた めのプラグイン 3つのoutputサポート Kinesis Streams用 kinesis_streams kinesis_producer(KPL対応) Kinesis Firehose用 kinesis_Firehose https://github.com/awslabs/aws-fluent-plugin-kinesis # Kinesis Streams用設定例 <match your_tag> @type kinesis_streams region us-east-1 stream_name your_stream partition_key key </match> # Kinesis Firehose用設定例 <match your_tag> @type kinesis_Firehose region us-east-1 delivery_stream_name your_stream </match>
46.
Kinesis Streams を使った構成 fluentd
Aggregateサーバをやめ、Kinesis Streamsに直接ログを送る スケールアウトの構成が簡単に組めるようになる ログを取得して各サービスと連携するためにはLambdaやEC2が 必要 APP Kinesis Streamsか らLambdaやEC2ア プリケーションでロ グを取得してS3や DynamoDBに格納 APPサーバのfluentdは fluent-plugin-kinesisを 使用してKinesis Streamsへ転送 Amazon S3 Amazon DynamoDB Kinesis Streams AWS Lambda ログ収集サーバ (KCL動作) OR
47.
Kinesis Firehoseを使った構成 Kinesis Firehoseを使用 他サービスへの連携にEC2やLambdaを使う必要がなくなる APP
Amazon S3 AWS Lambda ログ収集サーバ (KCL動作) または Kinesis Firehose 各アプリケーショ ンはKinesis Streams と同様 にfluentd経由で ログ送信 Kinesis Firehoseを使 用することでアプリ ケーションを介在する こと無く他サービスと 連携可能 Elasticsearch Service
48.
CloudWatch Logs EC2のログ転送もCloudWatch Logsで行う ログの転送時に複雑なことをしたい場合には向かな いが、単純にログを転送したい場合は非常に簡単に ログ送信が可能 APP
Amazon S3 Amazon CloudWatch Logs 各インスタンスに インストールした CloudWatch Logsエージェント 経由でログ送信 Batch処理的にS3に 送信する事も可能
49.
Amazon Mobile Analytics 特徴
(http://aws.amazon.com/jp/mobileanalytics/) モバイルアプリの利用状況データを大規模に 収集、可視化して把握することが可能 高速、スケーラブルでクロスプラットフォー ム S3、Redshiftへ生データを自動エクスポート モバイルのためのスケーラブルなデータ収集と可視化 Amazon Mobile Analytics Amazon Redshift Amazon S3 参照 収集 自動エクスポート
50.
Mobile Analytics モバイルアプリの行動ログをMobile Analytics を使用して取得しS3への自動エクスポートする、 そこからRedshift、EMR等でクエリも可 mobile
client Amazon Cognito 行動ログ Amazon Redshift Amazon Mobile Analytics Amazon S3 一時的な 認証情報を 取得
51.
各方式の比較 耐久性 コス ト スケール 作業工数 サービス連 携 バッチサーバからscpでの転送 ×
× × △ △ 直接S3へ送信 × ◯ △ × △ syslogエージェントを使用 △ △ △ △ △ fluentd(Aggregate サーバも使用) ◯ △ ◯ ◯ ◯ fluentd + マネージド・サービス ◯ ◯ ◎ ◎ ◎ マネージド・サービス ◎ ◎ ◎ ◎ ◯
52.
クックパッド社事例 Kinesisを活用した秒間数万のログを送信するた めのログ周りの変遷について 参照:https://speakerdeck.com/kanny/miao-jian-shu-mo-falseroguwoiigan-zinisuruakitekutiya
53.
クックパッド社事例 参照:https://speakerdeck.com/kanny/miao-jian-shu-mo-falseroguwoiigan-zinisuruakitekutiya
54.
クックパッド社事例 参照:https://speakerdeck.com/kanny/miao-jian-shu-mo-falseroguwoiigan-zinisuruakitekutiya
55.
55 ログの保存
56.
全てのログはS3へ貯め続ける S3はAWSのデータのハブ(データレイク)とし て非常に重要な役割を担っている あとから自由に分析処理(ETL)を変更可能 S3の耐久性で安全に保存可能 消したログは二度と帰ってこない 非常に安価にデータを保存できる(Glacierや、 低頻度アクセスストレージも併用可能)
57.
データレイク on AWS あらゆるデータが集まる ストレージ 構造化も非構造化も 様々なデータを跨いで、 分析ができる Amazon
S3が最適 EMR/Redshift等で活用 低頻度アクセスストレージ /GlacierでTiered DB 各種クライアント メディア ファイル 多様な データベース サーバ Amazon Kinesis Amazon S3 Amazon Glacier Amazon EMR Amazon Redshift Amazon Machine Learning
58.
58 ログの活用
59.
59 システム構成例 APP AWS Lambda バッチサーバ Kinesis Firehose Elasticsearch Service RedShift クラスタ Amazon S3 Amazon S3 ETL EMR クラスタ Kinesis Analytics CloudWatch Logs ログ監視 Slack ユーザ Aurora アプリ側から使う 集計バッチ DynamoDB Kinesis Firehose
60.
6060 Kibana Dashboard
61.
61 利用例: Elasticsearch + kibanaによるVPC
Flow Logsの可視化 VPC CloudWatch Logs AWS Lambda kibana APIでイベントを 取り出す 整形して Elasticsearchへ PUT Amazon ElasticSearch service
62.
Kinesis Analytics ストリーミングデータを標準的な SQL
クエリーで簡単に分析 SQL をストリームに適用 簡単にデータストリームへ接続し、標準的な SQL を適用可能 リアルタイムアプリケーションを構築 秒以下のレイテンシーでストリーミングデータを連続的に処理 弾力的にスケール データのスループットに応じて弾力的にスケール。オペレーションの介入不要
63.
東京リージョンに来ていないんだけど? Kinesis FirehoseとAnalyticsは東京リージョンに来てない(2016/11/29 現在) FirehoseはGlobalにEndpointを持っており、S3はリージョン間レプリ ケーションを持っているため地域の違いは吸収できる、ログ解析基盤を バージニア等のリージョンに作るという方向性はある アプリ基盤そのものを持っていくパターンもあり、その場合はCDN活用も 視野に APP Amazon S3 Kinesis Firehose Kinesis Analytics バージニアリージョン東京リージョン
64.
Gunosy社事例 64 参照: http://data.gunosy.io/entry/dashboard-with-kinesis-analytics
65.
Splunk Dashboard マーケットプレイスのソリューションを利用可能
66.
まとめ ログの取得や集約はクラウド上でも既存環境と 同等、更にAWSのサービスを使用する事で堅牢 かつ便利にそしてスケーラブルにできる S3からログを解析する手段は非常に多く用意さ れており、データレイクとしてのS3を上手く活 用することでビジネスの精度を上げるための道 具とする
67.
6767 参考資料 • Amazon CloudWatch
Logs Document http://docs.aws.amazon.com/ja_jp/elasticbeanstalk/latest/dg/AWSHowTo.cloudw atchlogs.html • Amazon CloudWatch Logs FAQ https://aws.amazon.com/jp/cloudwatch/faqs/ • Amazon Kinesis Document http://docs.aws.amazon.com/ja_jp/streams/latest/dev/introduction.html • Amazon Kinesis FAQ https://aws.amazon.com/jp/kinesis/streams/faqs/ • fluentd http://www.fluentd.org/
68.
6868 Q&A 68
69.
6969 オンラインセミナー資料の配置場所 • AWS クラウドサービス活用資料集 –
http://aws.amazon.com/jp/aws-jp-introduction/ • AWS Solutions Architect ブログ – 最新の情報、セミナー中のQ&A等が掲載されています – http://aws.typepad.com/sajp/ 69
70.
7070 公式Twitter/Facebook AWSの最新情報をお届けします @awscloud_jp 検索 最新技術情報、イベント情報、お役立ち情報、 お得なキャンペーン情報などを日々更新しています! もしくは http://on.fb.me/1vR8yWm 70
71.
71 AWSの導入、お問い合わせのご相談 • AWSクラウド導入に関するご質問、お見積り、資料請 求をご希望のお客様は、以下のリンクよりお気軽にご相 談ください https://aws.amazon.com/jp/contact-us/aws-sales/ ※「AWS 問い合わせ」で検索してください71
72.
7272 AWS Black Belt
Online Seminar • 12月の配信予定 – 12月02日(金) 12:00-13:00 AWS re:Invent 2016 Report ※AWSの最大イベントre:Inventを現地のラスベガスから生配信 イベントで発表された新サービス/新機能などの最新情報をお届け。 その他の12月のBlackBeltの配信スケジュールと お申し込みは下記サイトにて近日公開予定 https://aws.amazon.com/jp/about-aws/events/webinars/ (もしくは「AWS イベント」で検索)
73.
73 ご参加ありがとうございました 73
74.
7474
75.
75 東京リージョン Amazon Virtual Private
Cloud (VPC) • 特徴 (http://aws.amazon.com/jp/vpc/) – AWS上にプライベートネットワークを構築 – AWSと既存環境のハイブリッド構成を実現 – きめ細かいネットワーク設定が可能 • 価格体系 (http://aws.amazon.com/jp/vpc/pricing/) – VPCの利用は無料 – VPNは1時間あたり$0.048/VPN接続(東京リージョン) 仮想プライベートクラウドサービス VPC ( 172.16.0.0/16) 既存システム プライベート サブネット パブリック サブネット インターネット VPN or 専用線 ネットワークを 要件に応じて設定 インターネット ゲートウェイ
76.
76 Amazon CloudWatch • 特徴
(http://aws.amazon.com/jp/cloudwatch/) – AWSリソースの死活、性能、ログ監視 – 取得メトリックスのグラフ化 – 各メトリックスに対してアラーム作成 • 価格体系 (http://aws.amazon.com/jp/cloudwatch/pricing/) – 基本モニタリング(5分間隔)は無料 – (利用する場合) 詳細モニタリング – (利用する場合)カスタムメトリックス、APIリ クエスト、アラーム、ログ等 AWSの各種リソースを監視するサービス
77.
77 Amazon Kinesis • 特徴
(http://aws.amazon.com/jp/kinesis/) – 生成されるデータをリアルタイムに近 い状況でデータ処理部に伝送 – 預かったデータは、3AZに24時間保存 – AWSのサービスとの簡単インテグレー ション – 目的に応じた処理を並列処理すること が可能 • 価格体系 (http://aws.amazon.com/jp/kinesis/pricing/) – シャード数 – Put APIコール数 フルマネージド型リアルタイム大規模ストリーミング処理 大量トランザク ション処理 複数データ処理の 容易なインテグ レーション
78.
7878 Amazon Simple Storage
Service (S3) • 特徴 (http://aws.amazon.com/jp/s3/) – 高い堅牢性 99.999999999% – 格納容量無制限。利用した分のみ課金 – 様々なAWSサービスと連携するセンター ストレージ • 価格体系 (http://aws.amazon.com/jp/s3/pricing/) – データ格納容量 – データ転送量(OUT) – APIリクエスト数 マネージドオンラインストレージサービス Amazon S3
79.
7979 Amazon Glacier • 特徴
(http://aws.amazon.com/jp/glacier/) – 高い堅牢性 99.999999999% – 格納容量無制限 – 取り出しリクエストから3-5時間後に可能 – 超安価なアーカイブ用ストレージ • 価格体系 (http://aws.amazon.com/jp/glacier/pricing/) – データ格納容量 – データ転送量(OUT) – APIリクエスト数 – データ取り出し マネージドアーカイブストレージサービス Amazon Glacier Amazon S3 連携 アーカイブ オンライン アーカイブ
80.
80 Amazon DynamoDB • 特徴
(http://aws.amazon.com/jp/dynamodb/) – 複数のデータセンターにデータをレプリケーションすること により、高い耐久性と可用性を提供。 – ユーザーは必要なスループットを決めるだけで利用可能。ス トレージ容量は事前に決める必要がなく、必要に応じてプロ ビジョンされる。 – データ容量やスループットが増えてきても低いレイテンシで 安定した性能を発揮する – DynamoDB Streamsによって更新情報をAPIで取得可能。 Lambda連携やクロスリージョンレプリケーションなどを実 現。 • 価格体系 (http://aws.amazon.com/jp/dynamodb/pricing/) – スループットキャパシティ • 書き込み: $0.00742/10ユニット/時間 • 読み込み: $0.00742/50ユニット/時間 – ストレージ: $0.285/GB Amazonが提供する高い信頼性、スケーラビリティ、低レイテ ンシで安定した性能を兼ね備えたNoSQLデータベースサービス DynamoDBの使いドコロ • ゲーム • 広告配信 • DMP • センサーデータ • モバイルアプリケーションの バックエンド いずれも、高いスループットと低 いレイテンシが求められ、更に扱 うデータ量が大きくなりやすいと いう共通の特徴を持つ
81.
81 Amazon Aurora • 特徴
(http://aws.amazon.com/jp/rds/aurora/) – MySQL5.6と互換性がある – 3AZに6本のディスクに書き込み2本のディスク障害で はRead/Write可能。3本のディスク障害でもRead可能 – キャシュとログをAuroraプロセスから分離することで Auroraプロセスのリスタートでもキャッシュが残る – レプリケーション遅延は10-20ms程 – 64TBまでディスクがシームレスにスケールする • 価格体系 (http://aws.amazon.com/jp/rds/aurora/pricing/) – インスタンスタイプによる – 実際に利用したディスク容量 (プロビジョニング不要) – バックアップストレージ容量 Amazonがクラウド時代に再設計したデータベース
82.
82 Amazon Elasticsearch Service •
特徴 ( https://aws.amazon.com/jp/elasticsearch-service/ ) – ElasticsearchのAPIをそのまま利用可能 – AWSのサービスと連携した構成を簡単に構築 例) • CloudWatch Logs -> Lambda -> Amazon ES • DynamoDB Streams -> Logstash -> Amazon ES – 検索ドメインを作成すると同時にKibanaが利用可能 – 日本語解析に対応 • Elasticsearch ICUプラグイン • Elasticsearch Kuromojiプラグイン • 価格体系 ( https://aws.amazon.com/jp/elasticsearch-service/pricing/ ) – Elasticsearchインスタンス時間 – Amazon EBSストレージ ELK(Elasticsearch, Logstash, Kibana)スタックをサポートした マネージドAnalyticsサービス Logstash Amazon ESData Source
83.
83 Amazon Elastic MapReduce
(EMR) • 特徴 (http://aws.amazon.com/jp/elasticmapreduce/) – フルマネージド:クラスタの構築から構成変更、破棄ま ですべてマネージしてくれる – 自動化:Amazon EMRのAPIを利用するとジョブに合わ せてクラスタを起動し、実行させ、終了したらクラスタ を破棄、というような自動化が容易 – AWS:Amazon S3やAmazon DynamoDBからデータ の入出力が可能 • 価格体系 (http://aws.amazon.com/jp/elasticmapreduce/pricing/) – EMRを使った全体費用考え方 • 時間あたりのEMR費用 + 時間あたりのEC2(EMRによって起動され るHadoopクラスタを構成するEC2)費用 – 例えば東京リージョンでc3.xlarge * 8のクラスタ • (EMR $0.053 + EC2 $0.255) * 8 / hour フルマネージドなHadoopを提供。利用者は運用を気にせずHadoop アプリケーションの開発や利用ができる。 Hadoop Hadoop Amazon EMRクラスタ AWSサービスとの連携
84.
84 Amazon Redshift • 特徴
(http://aws.amazon.com/jp/redshift/) – 160GBから最大1.6PBまで拡張可能 – 超並列(MPP)、カラムナ型DBエンジンによ る高速処理 – 他のAWSサービスとの高い親和性 – 従来のデータウェアハウスの1/10のコスト • 価格体系 (http://aws.amazon.com/jp/redshift/pricing/) – インスタンスタイプに応じ、1時間単位(イ ンスタンスにはストレージを内蔵) – バックアップストレージは利用量に応じて フルマネージドのデータウェアハウスサービス 10Gb Ether JDBC/ODBC Redshift 大規模分散処理 で分析SQLを 高速実行
85.
8585 イベントをトリガーに処理を実行可能。 AWS Lambda コードの持ち込み インフラ考慮が不要 AWSサービス /
API からのイベント呼び出し オリジナル画像 サムネイル画像 1 2 3 exports.handler_name = function(event, context) { console.log("value1 = " + event.key1); ... context.done(null, "some message"); } 実行100ms単位で課金 インフラはAWSが管理
Download now