s u m m i t - pages.awscloud.com · 可視化: amazon elasticsearh service (kibana)...

S U M M I TTokyo

© 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.S U M M I T

クラウド環境におけるモニタリングの重要性について

Takanori OhbaSolutions ArchitectAmazon Web Services Japan K.K.

C 3 - 0 4


Who am I ?名前

大場崇令 (オオバタカノリ)

RoleSolutions Architect

@Amazon Web Services Japan K.K.(Joined 2015/12)

BackgroundAWS テクニカルトレーナー@AWSJ K.K.

Web サービスのインフラエンジニア

国内クラウドベンダーにてテクニカルサポート

好きな AWS サービスAWS Systems Manager

AWS Server Migration Service

AWS Service Catalog

@takaohba


ゴール

対象者

クラウドでのモニタリングの重要性を理解して、目的に合わせたモニタリングソリューションを検討できるようになること

このセッションのゴールと対象者

• これから AWS の利用を検討されている方

• 現在、AWS を使っているがモニタリングの最適化に悩まれている方


今日お話しすること

• 継続的モニタリングサービスの改善を継続するためにはモニタリングが必須

• 適切なツールの選択目的に合わせて適切なモニタリングソリューションを選択する(選択肢は 1 つではない)


Agenda

• 企業システムの現状

• モニタリングの必要性

• 解決策

• まとめ


企業システムの現状


Software Moves Faster Today


企業の価値を最大化

• 企業にとって最も重要なことは？ビジネス価値の最大化

• 継続的な改善フィードバックを受けて迅速に改善俊敏性


俊敏さに必要な要素

顧客のニーズに機敏に対応し迅速にソフトウェアをリリースするために必要な要素とは？

• 要求の変化に柔軟に対応

• 自動化の推進

• フィードバックから、素早い意思決定

• DevOps を実現


開発者顧客

releasetestbuild

plan monitor

デリバリのパイプライン

フィードバックループ

ソフトウェア開発のライフサイクル

DevOps とは

ビジネス価値の向上DevOps とはソフトウェア開発者 (Dev) とシステム運用者 (Ops) が密に連携・協調してビジネスの価値を高めるための新しい考え方

DevOps の要素DevOps は文化、実践、ツールを組み合わせて、ソフトウェアのライフサイクルを効率良くすること

迅速に改善DevOps によりアプリケーションやサービスをより迅速に提供、改善できるようになる


モニタリングの必要性


とある Web サービスを提供する現場の声

・割り当てているリソース量に過不足がないか

・不正なアクセス/操作が発生していないか

・サービスは適切な応答ができているか

・アプリケーションの品質を改善したい

ウェブサーバー

ストレージ

ロードバランサー

データベースバックアップ

ロードバランサー

DNS

Internet ユーザー

システム運用者

開発者

アプリケーションサーバー

Operation

ウェブサーバー

Web サービス

(マスター) (スタンバイ)

経営者

・IT 投資の費用対効果を把握したい


何をモニタリングする必要があるのか？

1. カスタマーエクスペリエンス

2. パフォーマンス

3. 傾向分析

4. セキュリティ

5. コスト


例 :カスタマーエクスペリエンスを測定できていないと？

問題顧客からの信頼度が低下

サービスが使われなくなる

機会損失

ユーザー影響

測定すべき項目外形監視 (例 : レスポンスタイム、ステータスコード)


例：パフォーマンスモニタリングができていないと？

問題サーバーが過負荷で応答できない

サービスが使えない

良い顧客体験を提供できない

測定すべき項目リソース監視 (例 : CPU 使用率)

アプリケーション性能管理 (例 : アプリケーションの処理時間)


例：傾向分析ができていないと？

問題サービスの状況に合わせた迅速な改善ができない

ワークロードの課題を特定できない

測定すべき項目ログ監視 (例 :アクセスログからニーズの高いコンテンツの特定、

アプリケーションログからエラーメッセージの検出)


例 :セキュリティモニタリングができていないと？

問題悪意のある第三者による不正操作

機密データの流出

測定すべき項目クラウド上でのアクティビティ (例 : 不審な IPアドレスからの

API の呼び出し)

リソースの構成変更履歴 (例 : 逸脱する操作を検知)

サービスへの脅威状況 (例 : 悪意のあるポートスキャン)


例：コストモニタリングができていないと？

問題利用費用 (コスト) の変化を検出できない

想定外の費用 (コスト) が発生(例)：停止し忘れた EC2 インスタンス (仮想サーバー) により、

無駄なコストが発生してしまう

測定すべき項目クラウドサービスの利用料金


解決策


クラウドでチェックすべき代表的な監視項目

1.リソース監視

2.ログ監視

3.APM(アプリケーション性能管理)

4.外形監視 (シンセティック監視)

5.セキュリティ

6.コスト

※シンセティック監視

※



1.リソース監視パフォーマンス (例 : CPU 使用率)、

キャパシティ (例 : Disk 使用量)、死活監視 …etc

2.ログ監視




6.コスト

※シンセティック監視・・・リアルユーザーをシミュレートしたモニタリング手法

※


Amazon CloudWatch

• CloudWatch

• CloudWatch Logs

• CloudWatch Logs Insights

• CloudWatch Events

ログ監視

APM

セキュリティ

外形監視

コスト

Amazon CloudWatch


Amazon CloudWatch

• CloudWatch AWS 上で稼働するシステム監視サービス

死活監視 / 性能監視 / キャパシティ監視…etc

• CloudWatch Logs



Amazon CloudWatch

ログ監視

APM

セキュリティ

外形監視

コスト


CloudWatch Dashboards ログ監視

APM

セキュリティ

外形監視

コスト


Amazon CloudWatch のアクション機能 : CloudWatch Alarms

AutoScaling

EC2 ActionEC2 CloudWatch

カスタムメトリクス

Notification

閾値などをトリガーに

標準メトリクス

ログ監視

APM

セキュリティ

外形監視

コスト




2.ログ監視 AWS サービス、OS、

アプリケーション、ミドルウェア …etc



※



6.コスト


Amazon CloudWatch• CloudWatch

• CloudWatch Logs ログ管理プラットフォームサービス

EC2 上の OS, APP のログ

AWS マネージドサービスのログ

• CloudWatch Logs Insights• CloudWatch Events

Amazon CloudWatch

APM

セキュリティ

外形監視

コスト

リソース監視

ログ監視


CloudWatch LogsAPM

セキュリティ

外形監視

コスト

リソース監視

ログ監視


CloudWatch Logs

Amazon Linux Ubuntu

Windows Red Hat Enterprise Linux

CloudWatch Logs

通知:CloudWatch Alarms

VPC Flow Log

可視化:Amazon Elasticsearh Service(Kibana)

データ連携:Amazon Kinesis Data Firehose

CloudTrail Lambda RDS

各種ログを収集

APM

セキュリティ

外形監視

コスト

リソース監視

ログ監視



• CloudWatch Logs

• CloudWatch Logs Insights 高速でインタラクティブなログ分析


Amazon CloudWatch

APM

セキュリティ

外形監視

コスト

リソース監視

ログ監視


CloudWatch Logs InsightsAPM

セキュリティ

外形監視

コスト

リソース監視

ログ監視




※


2.ログ監視


リクエストの実行状況、アプリケーションの問題、処理ごとのレスポンス …etc



6.コスト


AWS X-Ray

アプリケーションやその基盤サービスの実行状況をプロダクション環境において可視化することにより

パフォーマンスの問題やエラーの根本原因を特定

セキュリティ

外形監視

コスト

リソース監視

ログ監視

APM


AWS X-Ray を利用するメリット

リクエスト実行状況の確認

アプリケーションの問題の検出

アプリケーションのパフォーマンス向上

AWS との連携

さまざまなアプリケーション向けの設計

セキュリティ

外形監視

コスト

リソース監視

ログ監視

APM


AWS X-Ray による分散アプリケーションの分析

セキュリティ

外形監視

コスト

リソース監視

ログ監視

APM


AWS X-Ray による分散アプリケーションの分析

API Gateway

Lambda

DynamoDB

RDSALB

ECS

EC2

ElasticBeanstalk

X-RayAPI

エンドポイント

セグメントデータ

X-Ray SDK/エージェント

トレースID付与

セキュリティ

外形監視

コスト

リソース監視

ログ監視

APM


サービスマップ

サービスのコールグラフを可視化

各ノードの呼び出しの結果を色で分類し、割合を円グラフに

• グリーン成功した呼び出し• レッド 5xx errors• イエロー 4xx errors• パープル 429 Too Many

Requests(スロットリングエラー)

平均レイテンシ (ms)トレース数 (trace/min)サービス名サービスの分類

セキュリティ

外形監視

コスト

リソース監視

ログ監視

APM


X-Ray による問題の検出セキュリティ

外形監視

コスト

リソース監視

ログ監視

APM



4.外形監視 (シンセティック監視) URL 監視、ステータスコード、

応答時間…etc


6.コスト


※


2.ログ監視



外形監視(シンセティックモニタリング)

シンセティックトラフィック

サービスエンドポイント

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視


Why 外形監視？

外形監視とはサービスが正しく動作しているかを確認するための監視

外部 (ユーザーと同じ環境) からの接続状況を監視

目的ユーザー影響の把握

システムの内側からは見えない挙動の理解

例： URL 監視、ステータスコードチェック、応答時間の測定

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視


外形監視のためのAWS Lambda とAmazon CloudWatch Events のご紹介

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視


AWS Lambda

AWS Lambda

イベントドリブンイベントをトリガーとするか、指定されたスケジュール間隔でステートレスコードを実行する (Node.js、Python、Java、Ruby、C#、Go、PowerShell)、完全マネージド型コンピューティングサービス

サーバーレス Amazon EC2 インスタンス (仮想サーバー) などのインフラストラクチャを管理することなくアプリケーションコードを実行できる

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視


AWS Lambda を活用したサーバーレスアプリケーションモデル

イベントソース

Amazon S3Amazon

APIGateway

Amazon SQS

Amazon Kinesis Data Analytics

イベント

Lambda 関数

Amazon S3

Amazon DynamoDB

AWS サービス等

• Node.js

• Python

• Java

• Ruby

• C#

• Go

• PowerShell

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視



• CloudWatch Logs


• CloudWatch Events AWS リソースの状態監視サービス

AWS リソースに対するイベントをトリガーにアクションを実行する機能

Amazon CloudWatch

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視


CloudWatch Events

CloudWatchEvents

Schedule

CloudTrail

AWS Support Events

Auto Scaling

Amazon EC2 AWSLambda

AmazonSQS

AmazonSNS

AWS Step Functions

AWS Systems Manager

Event Source Target

Event Rule

AWS上の各種イベントをトリガーにアクションを実行

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視


AWS Lambdaを活用したシンセティック監視例

CloudWatch

https://github.com/awslabs/aws-codepipeline-synthetic-tests

Webサーバー

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視




CloudWatch

Lambda Function(シンセティックトラフィック)

CloudWatchEvents

CloudWatch Events でLambda ファンクション

を定期実行


Webサーバー

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視

Lambda からサービスにアクセス




CloudWatch


CloudWatchEvents


を定期実行

サーバーサイドのメトリクスを

CloudWatch で監視



Webサーバー

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視




CloudWatch


CloudWatchEvents


を定期実行



リーチャビリティやレイテンシーはクライアントサイド (Lambda)から直接 CloudWatch に PUT



Webサーバー

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視




CloudWatch


CloudWatchEvents


を定期実行



リーチャビリティやレイテンシーはクライアントサイド (Lambda)から直接 CloudWatch に PUT


Alarms

クライアントサイドで問題を検知したら Alarm


Webサーバー

セキュリティ

コスト

リソース監視

ログ監視

APM

外形監視





5.セキュリティクラウド上のアクティビティ、

IT リソースへの不審なアクティビティ…etc

6.コスト


※


2.ログ監視



AWS CloudTrail

クラウド上のアクティビティを記録

• ユーザーのアクティビティをAPIレベルでトラッキング

安全• ログファイルは暗号化され、gz 形式で堅牢な S3 に保存

無料• 全てのアカウントで有効にすることを推奨• ログファイルの保存先となる S3 や

CloudWatch Logs の利用費用がかかるAWS CloudTrail

コスト

リソース監視

ログ監視

APM

外形監視

セキュリティ


AWS CloudTrailコスト

リソース監視

ログ監視

APM

外形監視

セキュリティ


AWS Config / Config Rules

構成変更を記録

• AWS リソースのレポジトリ情報から、リソースの変更履歴、構成変更を管理

• 構成情報は定期的にスナップショットとして S3 に保存

• 必要に応じ SNS を使った通知も可能

あるべき状態になっているかを評価• AWS マネージドルール• カスタムルール (Lambda Function)AWS Config

コスト

リソース監視

ログ監視

APM

外形監視

セキュリティ


AWS Config Rulesコスト

リソース監視

ログ監視

APM

外形監視

セキュリティ


Amazon GuardDuty

• 脅威検出• セキュリティの観点から

セキュリティリスクを可視化・検知するAWS マネージド・サービス

• 人的コストを削減• 分析のソースには下記を利用し、

メタデータの連続ストリームを分析

• VPC Flow Logs

• AWS CloudTrail Event Logs

• DNS Logs

• 既知と未知の振る舞い検知• 悪意のある IP アドレス、異常検出、

機械学習などの統合脅威インテリジェンスを使用して脅威を認識

Amazon GuardDuty

コスト

リソース監視

ログ監視

APM

外形監視

セキュリティ


GuardDuty による脅威の検知と通知

悪意のあるスキャン

AWS リソースへの脅威

アカウントへの脅威

Amazon GuardDuty

VPC flow logs

DNS Logs

CloudTrail

HIGH

MEDIUM

LOW

Findingsデータソース脅威の種類

コスト

リソース監視

ログ監視

APM

外形監視

セキュリティ


GuardDuty による脅威検出レポートコスト

リソース監視

ログ監視

APM

外形監視

セキュリティ


CloudWatch Eventsと連携したインシデントレスポンスの自動化コスト

リソース監視

ログ監視

APM

外形監視

セキュリティ


CloudWatch Eventsと連携したインシデントレスポンスの自動化

AWS Cloud

Amazon CloudWatch

CloudWatch Events

{"source": ["aws.guardduty"

]}

Lambda Function slack

GuardDuty Findings

コスト

リソース監視

ログ監視

APM

外形監視

セキュリティ





6.コスト変動する AWS サービスの利用費用


※


2.ログ監視



コストエクスプローラー

コストの可視化

グルーピング

エクスポート

リソース監視

ログ監視

APM

外形監視

セキュリティ

コスト


AWS Budgets

予算を管理

予算を超過しないようコスト (AWSサービス利用費用) やサービス利用量に閾値を設定可能

無料利用枠の制限にどれだけ近いかを評価できる

可視化

ダッシュボードで複数の予算を管理

アラート

通常のレベルを大幅に上回る支払いを検出

E メールや Amazon SNS で通知可能

リソース監視

ログ監視

APM

外形監視

セキュリティ

コスト


AWS Native Services

CloudMgmt.

AWSService Catalog

AWSCloudTrail

AWSConfig

AWS Trusted Advisor

AWS X-Ray

AWSOpsWorks

Amazon CloudWatch

AWSCloudFormation

AWS Snowball

AWS SMS

AWSSystems Manager

AWS KMS

IAM

AWS DMS

Amazon Inspector

Amazon Macie

Amazon GuardDuty

Servicerequest

Inventory andclassification

Monitoring and analytics

Packagingand delivery*

Provisioningand orchestration

Cost management andresource optimization

Cloud migration, backup, and DR

Identity, security,and compliance

AWS ConfigAWS CodeDeploy

AWS CodeCommitAWS CodePipeline

AWS CodeBuild

* Not part of Gartner representationSource: Gartner Evaluation Criteria for Cloud Management Platforms and Tools May 2018

Tools


サードパーティ &オープンソースソリューション

+ THOUSANDS MORE ON THE AWS MARKETPLACE


AWS Marketplace

• オンデマンドでソフトウェアをデプロイ可能

• 1,400 を超える ISV

• 4,500 以上の商品リスト

• 20 万人のアクティブなCustomer

• 毎月 6 億5 000 万時間を超えるEC2 インスタンスがデプロイ

• 17 のリージョンに展開

• 35 カテゴリー

• 柔軟な消費と契約モデル

• ほとんど瞬時に簡単で安全なデプロイ

• 一括請求書

• 常に進化


ESP Online

https://esp-online.com/

AWS 対応ソフトウェアを簡単検索(SaaS,PaaS)

https://esp-online.com/



1.リソース監視パフォーマンス (例 : CPU 使用率)、

キャパシティ (例 : Disk 使用量)、死活監視 …etc

2.ログ監視 AWS サービス、OS、

アプリケーション、ミドルウェア …etc


リクエストの実行状況、アプリケーションの問題、処理ごとのレスポンス …etc

4.外形監視 (シンセティック監視) URL 監視、ステータスコード、

応答時間…etc

5.セキュリティクラウド上のアクティビティ、

IT リソースへの不審なアクティビティ…etc

6.コスト変動する AWS サービスの利用費用

※シンセティック監視

※


クラウドでのモニタリングに必要な要素

タグを活用したリソース管理マネージドサービスを含む全てのレイヤーを監視

環境 =WebApp


クラウドで実現しやすくなること

収集した情報の可視化


まとめ


まとめ

監視ツールは目的ではなく手段ツールを使うことが目的ではなく、モニタリングが必要なメトリクスに対して、得意なツールを選択する

ワークロードの特性から必要なメトリクスを理解するワークロードや提供しているサービスの特性から優先すべきメトリクスを理解しておく

実験して改善する最初から理想を目指すのではなく、小さく成長を続ける

テストする


運用系 AWS セッション一覧A1-01 AWSでの Operational Excellence ～クラウドで回す監視と運用PDCA（再演： I1-06）

A1-04 AWS Systems Manager 徹底活用～エンタープライズのユースケースから～

C1-05【初級】AWS におけるシステム運用管理の自動化（再演： C1-07）

C1-06 【初級】AWS コスト管理徹底入門（再演： I2-01）

A1-06 クラウド運用管理の最前線～日米の最新状況から～（再演： J1-07）

A2-01 AWS で実現する攻めのシステムモニタリング（再演： I2-09）

B2-07 マルチアカウント運用での権限移譲と統制の両立

C3-04 【初級】クラウド環境におけるモニタリングの重要性について


Appendix


DevOps プラクティス


DevOps のプラクティス


マイクロサービス


モノリシックアーキテクチャ

システムの各コンポーネントが緊密に結合(密結合) している






マイクロサービスアーキテクチャ

各コンポーネントが小さなサービスとして独立しており、サービス同士は依存しあわない疎結合方式で結合している






マイクロサービスアーキテクチャ

各コンポーネントが小さなサービスとして独立しており、サービス同士は依存しあわない疎結合方式で結合している

Infrastructure as Code (IaC)

インフラをコードで管理


Monitor

DevOps のプラクティス継続的インテグレーション

継続的デリバリー & デプロイメント

ProvisionDeployTestBuildCode

継続的インテグレーション

継続的デプロイ継続的モニタリングと改善継続的デリバリー

モニタリングとロギング

メトリックスとログをトラックして分析

インフラストラクチャとアプリケーションのリアルタイムなパフォーマンスを理解する


AWS のサービスにより、インフラストラクチャのプロビジョニングと管理、アプリケーションコードのデプロイ、ソフトウェアリリースプロセスの自動化、アプリケーションとインフラストラクチャのパフォーマンスのモニタリングが簡素化される

•すぐに使用を開始可能•完全マネージド型サービス•スケーリングを考慮した構築•プログラム可能

•大規模なパートナーエコシステム

•従量課金制•安全•自動化

AWS が DevOps に適している理由


DevOps を構成する文化・実践・ツールについて


具体例 - Culture

• 壁を取り払う• Dev-Opsチーム間 / 中間プロセス

• 所有権と説明責任をチームに

• 個人に対する責任は小さく

• 素早く動ける小さなチーム

• 常に改善をして高みを目指し、Howには柔軟さを残す

文化Culture

文化Culture

ツールTools


具体例 - Practice• Agile開発プロセス

• 継続的インテグレーション (CI)• テストとQAはコミットごとに常に行う

• 継続的デリバリ (CD)• コードの自動ビルドとデプロイ

• Infrastructure as Code• インフラをコードで管理する

• 無停止のアプリケーションリリース

• セルフサービス• 調達ブロッカの除去

• 運用やセキュリティ対応の自動化

• すべての可視化

文化Culture

実践Practice

ツールTools


具体例 - Tools• クラウド

• 自動化とCI/CDのためのツール• ソースコード管理ツール

• テストフレームワーク/ツール

• コードレビュー/フィードバック

• コード静的解析

• パイプライン管理ツール

• デプロイツール

• Infrastructure Management

• モニタリングツール• 業務メトリクス / アプリメトリクス /

インフラメトリクス / ログ / 性能

• セキュリティ分析ツール

文化Culture

ツールTools

ツールTools

s u m m i t - pages.awscloud.com · 可視化: amazon elasticsearh service (kibana)...

Documents