aws black belt online seminar 2016 amazon ec2 spot instances(スポットインスタンス)

83
AWS Black Belt Online Seminar Amazon EC2 スススススススススス アアアア アアア アアアア アアアアアアアア アアアアアアアアアアアアア アア アア 2016.11.09 (2016.11.21 アア )

Upload: amazon-web-services-japan

Post on 07-Jan-2017

4.161 views

Category:

Technology


1 download

TRANSCRIPT

Page 1: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

【AWS Black Belt Online Seminar】  Amazon EC2 スポットインスタンス

アマゾン ウェブ サービス ジャパン株式会社ソリューションアーキテクト 塚田 朗弘2016.11.09 (2016.11.21 更新 )

Page 2: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

自己紹介

塚田 朗弘 – Akihiro Tsukadaスタートアップなお客様を担当するモバイルニンジャ 3 号機

Amazon CognitoAmazon SNS Mobile PushAWS Mobile Hub … 等々

スポットインスタンス好き

二児の父

2

Page 3: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

質問を投げることができます!Adobe Connect の Q&A ウィンドウから、質問を書き込んでください。(書き込んだ質問は、主催者にしか見えません)Twitter へツイートする際はハッシュタグ #awsblackbelt をご利用ください。サービスの開発ロードマップに関する質問にはお答えいたしかねます。何卒ご了承ください。

①Q&A ウィンドウ右下のフォームに質問を書き込んで

ください

② 吹き出しマークで送信してくださ

AWS Black Belt Online Seminar へようこそ!

3

Page 4: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

AWS Black Belt Online Seminar とはAWSJのTech メンバがAWSに関する様々な事を紹介するオンラインセミナーです

【火曜 12:00~13:00】主に AWSのソリューションや業界カットでの使いどころなどを紹介(例: IoT、金融業界向け etc.)

【水曜 18:00~19:00】主に AWSサービスの紹介やアップデートの解説(例:EC2 、RDS 、Lambda etc.)

※ 最新の情報は下記をご確認下さい。オンラインセミナーのスケジュール &申し込みサイトhttps://aws.amazon.com/jp/about-aws/events/webinars/

4

Page 5: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

本資料では 2016 年 11 月 21 日時点のサービス内容および価格についてご説明しています。最新の情報は AWS 公式ウェブサイト (http://aws.amazon.com) にてご確認ください。

資料作成には十分注意しておりますが、資料内の価格と AWS 公式ウェブサイト記載の価格に相違があった場合、 AWS 公式ウェブサイトの価格を優先とさせていただきます。

内容についての注意点

AWS does not offer binding price quotes. AWS pricing is publicly available and is subject to change in accordance with the AWS Customer Agreement available at http://aws.amazon.com/agreement/. Any pricing information included in this document is provided only as an estimate of usage charges for AWS services based on certain information that you have provided. Monthly charges will be based on your actual use of AWS services, and may vary from the estimates provided.

価格は税抜表記となっています。日本居住者のお客様が東京リージョンを使用する場合、別途消費税をご請求させていただきます。

5

Page 6: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

アジェンダ

Amazon Elastic Compute Cloud(EC2)スポットインスタンスの種類スポットフリートのターゲット容量スポットベストプラクティスまとめ

6

Page 7: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

アジェンダ

Amazon Elastic Compute Cloud(EC2)スポットインスタンスの種類スポットフリートのターゲット容量スポットベストプラクティスまとめ

7

Page 8: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

Amazon Elastic Compute Cloud (EC2)

特徴 (http://aws.amazon.com/jp/ec2/)

必要な時に必要なだけ 1 時間単位の従量課金で利用できる仮想サーバリソース世界 13 箇所のリージョンで利用可能様々なスペック・ OS を選択可能

価格体系 (http://aws.amazon.com/jp/ec2/pricing/)

インスタンス利用料 ($0.01/hour 〜 )データ転送量 (OUT $0.14/GB )

仮想クラウドサーバ

8

Page 9: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

Amazon EC2 の購入オプション

オンデマンドスタンダードな時間課金型インスタンス

リザーブドインスタンス1 年間または 3 年間の利用予約をすることで 25 〜 70%前後の割引

スポットインスタンス使われていない EC2 インスタンスに入札して格安利用

最大 90%程度の大幅コストカットが可能!

Dedicated Hostお客様専用の物理サーバを確保

※ リザーブドインスタンスについてはこちらを参照 :AWS BlackBelt AWS のコスト削減オプション http://www.slideshare.net/AmazonWebServicesJapan/aws-black-belt-online-seminar-aws-67269475 9

Page 10: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

Amazon EC2 購入オプション料金一部比較例

10

オンデマンド

スタンダードリザーブドインスタンス1 年間

スポットインスタンス

スポットブロック※

全部前払い 一部前払い 前払いなし

1h 6h

c4.large $0.133 $0.089(33%)

$0.091(31%)

$0.101(24%)

$0.0209(84%)

$0.077(42%)

$0.098(26%)

m4.large $0.174 $0.091(47%)

$0.094(46%)

$0.109(37%)

$0.0209(88%)

$0.101(42%)

$0.128(26%)

r3.xlarge $0.399 $0.255(36%)

$0.26(34%)

$0.298(25%)

$0.0438(89%)

$0.231(42%)

$0.294(26%)

2016 年 11 月 21 日 06:00現在 / 東京リージョン /Linux インスタンス。 () 内は On-Demand からの節約比率。

※ スポットインスタンス、スポットブロックの価格は需要と供給によって常に変動します。

Page 11: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

( Update ) EC2 の料金値下げについて

11

2016 年 12 月 01 日より、東京リージョンを含む全リージョンで EC2 の値下げ

東京リージョンでは C4…5% 、 M4…20% 、 T2…20%

※AWS の全サービスを含めると 53回目の値下げになります

Page 12: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

アジェンダ

Amazon Elastic Compute Cloud(EC2)スポットインスタンスの種類スポットフリートのターゲット容量スポットベストプラクティスまとめ

12

Page 13: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

スポットインスタンスの種類

リクエストタイプ

永続性リクエスト

単位容量変更 起動に用いる API

リクエスト有効期限を設定した場合の有効期限後の挙動

①スポット

インスタンスinstance

one-time(default)

orpersistent

instances 不可 request-spot-instances

リクエストがキャンセルされインスタンスは

ターミネートされる

②スポットブロック

block(** min) - instances 不可 request-spot-instances -

③スポットフリート

fleet

requestor

maintain(default)

Instancesor

vCPUs可 request-spot-fleet

起動時のTerminateInstances

WithExpiration(true or false)

の指定による

13※ スポットフリートの request/maintain はスポットインスタンスの one-time/persistent に似た挙動

Page 14: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

アジェンダ

Amazon Elastic Compute Cloud(EC2)スポットインスタンスの種類

スポットインスタンススポットブロックスポットフリート

スポットフリートのターゲット容量スポットベストプラクティスまとめ

14

Page 15: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

スポットインスタンスの種類

リクエストタイプ

永続性リクエスト

単位容量変更 起動に用いる API

リクエスト有効期限を設定した場合の有効期限後の挙動

①スポット

インスタンスinstance

one-time(default)

orpersistent

instances 不可 request-spot-instances

リクエストがキャンセルされインスタンスは

ターミネートされる

②スポットブロック

block(** min) - instances 不可 request-spot-instances -

③スポットフリート

fleet

requestor

maintain(default)

Instancesor

vCPUs可 request-spot-fleet

起動時のTerminateInstances

WithExpiration(true or false)

の指定による

15※ スポットフリートの request/maintain はスポットインスタンスの one-time/persistent に似た挙動

Page 16: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

①スポットインスタンス

単一のインスタンスタイプでスポットインスタンスを起動する最もシンプルなタイプスポット価格高騰あるいはスポットインスタンス枯渇による強制ターミネートを前提とした構成、アプリケーションにする必要があるご利用は EC2起動ウィザード、 Auto Scaling Group の起動設定、Amazon Elastic MapReduce(EMR) のクラスタ起動ウィザード、及びそれらに該当する API などから開発 / テスト環境、または EMR や Auto Scaling で大きな分散処理基盤を作るときなどに有効

16

Page 17: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

①スポットインスタンス概念図

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

17

Page 18: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

①スポットインスタンス概念図

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

18

Page 19: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

①スポットインスタンス概念図 - スポットプール

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

Region 、 Availability Zone (以下 AZ )、 OS 、インスタンスタイプごとの余ったインスタンスたち

19

Page 20: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

①スポットインスタンス概念図 - スポット価格

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

$0.0384 $0.0346$0.0346$0.0530$0.0209

スポットプール毎に需要と共有のバランスで変動する、その時点でのスポットインスタンス課金額

$3.66

20※ 資料中の価格は仮定のものです

Page 21: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

①スポットインスタンス概念図 - 入札価格

「最大でここまでなら支払ってもよい」という価格実際に課金されるのはスポット価格

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

通常使用中

通常使用中

通常使用中

$0.0384 $0.0346$0.0346$0.0530$0.0209

$3.66「東京リージョンの  1a にある c4.large を 最大$0.05 で使いたい!」

21

Page 22: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

①スポットインスタンス概念図 - 落札

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

通常使用中

通常使用中

通常使用中

$0.0384 $0.0346$0.0346$0.0530$0.0209

入札価格がスポット価格を上回り、スポットプールに空きがあった場合※、希望したスポットインスタンスを利用可能

$3.66「東京リージョンの  1a にある c4.large は 現在 $0.0346 なので、  $0.05 入札で起動できた!」

※詳しくは「スポットインスタンスのしくみ」参照http://docs.aws.amazon.com/ja_jp/AWSEC2/latest/UserGuide/how-spot-instances-work.html 22

Page 23: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

①スポットインスタンス概念図 - インスタンスの中断

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

通常使用中

通常使用中

通常使用中

$0.0384 $0.0346$0.051$0.0530$0.0209

スポット価格が変動し入札価格を上回ったとき、スポットインスタンスはターミネートされる。インスタンスからメタデータを GET すると、

2 分前から通知を取得できる。 5秒ごとのポーリングを推奨。※

$3.66「スポット価格が変動して 入札価格 $0.05 を上回って しまった。ターミネート前 に終了処理をしよう」

※詳しくは「スポットインスタンスの終了の通知」参照 http://docs.aws.amazon.com/ja_jp/AWSEC2/latest/UserGuide/spot-interruptions.html 23

Page 24: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

単価

時間

スポット価格入札額課金額

①ワンタイムリクエスト投入(type=one-time)

$0.01

$0.24

$0.30

1h 1h③1 時間

単位の課金

④入札額<スポット価格

になったのでインスタンス終了

①スポットインスタンスの挙動 - ワンタイムリクエスト②

入札額> スポット価格になったので

インスタンス起動

<1h

⑤強制終了時の 1 時間

未満の利用分は非課金

⑥ワンタイムリクエストはターミネート発生後に

自動キャンセルされるのでインスタンスは起動しない

24※ 課金はインスタンス起動した瞬間からスタート

Page 25: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

単価

時間

①永続リクエスト投入(type=persistent)

$0.01

$0.24

$0.30

1h 1h③1 時間

単位の課金

④入札額<スポット価格

になったのでインスタンス終了

①スポットインスタンスの挙動 - 永続リクエスト

②入札額> スポット価格

になったのでインスタンス起動

<1h

⑤強制終了時の 1 時間

未満の利用分は非課金

⑥永続スポットリクエストはキャンセルするまで、または有効期限が切れるまで有効

なので再度インスタンス起動25

スポット価格入札額課金額

Page 26: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

単価

時間

①リクエスト投入

(validUntil=3.5 時間後 )

$0.01

$0.24

$0.30

①スポットインスタンスの挙動 - 有効期限あり

②入札額> スポット価格

になったのでインスタンス起動

③有効期限が切れたらリクエストは自動で

キャンセルされインスタンスが終了する

26

リクエスト有効期限

3.5h

スポット価格入札額課金額

Page 27: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

①スポットインスタンス活用事例 - 株式会社ドリコム

27

AWS スポットインスタンスの真髄http://www.slideshare.net/GedowFather/gedow-style-aws-spot-instance

Page 28: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

①スポットインスタンス活用事例 - SmartNews Inc.

28

How SmartNews Built a Lambda Architecture on AWS to Analyze Customer Behavior and Recommend Contenthttps://aws.amazon.com/jp/blogs/big-data/how-smartnews-built-a-lambda-architecture-on-aws-to-analyze-customer-behavior-and-recommend-content/

※ 本文 Summary中で言及されている SmartNews 様の SlideShare はこちらBuilding a Sustainable Data Platform on AWS http://www.slideshare.net/smartnews/20160127-building-a-sustainable-data-platform-on-awsStream Processing in SmartNews http://www.slideshare.net/smartnews/stream-processing-in-smartnews-jawsdays

Page 29: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

①スポットインスタンス - EMR連携

29

クラスタ作成時に各ノードタイプのスポットリクエストが可能。タスクノードは後からでも追加時にリクエスト可能。

(EMR ドキュメント内 ) スポットインスタンスでコストを削減するhttp://docs.aws.amazon.com/ja_jp/ElasticMapReduce/latest/ManagementGuide/emr-plan-spot-instances.html

タスクノードとスポットインスタンスの相性はよく、大幅なコストカットが見込める

Page 30: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

①スポットインスタンス - EMR連携

30

マスター /コアのスポット化は可能だがユースケースに注意クラスタの安定性が必要なときはマスター /コアはオンデマンドで。

(EMR ドキュメント内 ) スポットインスタンスでコストを削減するhttp://docs.aws.amazon.com/ja_jp/ElasticMapReduce/latest/ManagementGuide/emr-plan-spot-instances.html

プロジェクト マスターインスタンスグループ

コアインスタンスグループ

タスクインスタンスグループ

長時間稼働クラスター オンデマンド オンデマンド スポットコスト主導の作業 スポット スポット スポットデータクリティカルな作業

オンデマンド オンデマンド スポット

アプリケーションのテスト

スポット スポット スポット

※EMR ドキュメントより抜粋。

Page 31: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

アジェンダ

Amazon Elastic Compute Cloud(EC2)スポットインスタンスの種類

スポットインスタンススポットブロックスポットフリート

スポットフリートのターゲット容量スポットベストプラクティスまとめ

31

Page 32: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

スポットインスタンスの種類

リクエストタイプ

永続性リクエスト

単位容量変更 起動に用いる API

リクエスト有効期限を設定した場合の有効期限後の挙動

①スポット

インスタンスinstance

one-time(default)

orpersistent

instances 不可 request-spot-instances

リクエストがキャンセルされインスタンスは

ターミネートされる

②スポットブロック

block(** min) - instances 不可 request-spot-instances -

③スポットフリート

fleet

requestor

maintain(default)

Instancesor

vCPUs可 request-spot-fleet

起動時のTerminateInstances

WithExpiration(true or false)

の指定による

32※ スポットフリートの request/maintain はスポットインスタンスの one-time/persistent に似た挙動

Page 33: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

② スポットブロック

スポットインスタンスのリクエスト時、 1 〜 6 時間の使用予定期間を指定する( BlockDurationMinutes パラメータ)一度落札に成功すれば、指定した時間内はスポットブロック価格が高騰してもターミネートされず、課金額は落札時のスポットブロック価格で維持されるオンデマンド価格から 20% 〜 50%程度の割引

33

Page 34: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

② スポットブロック

34

~ 21% 1 時間以内

~ 35% 2 時間以内

~ 40% 3 時間以内

およそ 50% のインスタンスが6 時間以内にターミネートされている

6 時間の妥当性

CloudHealth Technologies https://www.cloudhealthtech.com/

Page 35: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

② スポットブロック概念図 - スポットプール

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

35

Page 36: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

② スポットブロック概念図 - スポットブロック価格

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中 使用中

1h:$0.201/h6h:$0.256/h

1h:$0.077/h6h:$0.098/h

1h:$0.077/h6h:$0.098/h

1h:$0.201/h6h:$0.256/h

スポットインスタンスの価格とは別で、需要と共有のバランスで変動する、その時点でのスポットブロック課金額指定する継続時間( 60,120,180,240,300,360 )ごとに価格が存在

1h:$0.101/h6h:$0.128/h

36

使用中

1h:$0.101/h6h:$0.128/h

Page 37: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

② スポットブロック概念図 - 入札価格と継続時間

「最大でここまでなら支払ってもよい」という価格実際に課金されるのは落札時点でのスポットブロック価格であり、課金額は指定した時間中は固定される

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

通常使用中

通常使用中

通常使用中

$0.0384 $0.0346

$3.66「東京リージョンの  1a にある c4.large を 最大$0.09 で 60分 使いたい!」

37

1h:$0.077/h6h:$0.098/h

1h:$0.201/h6h:$0.256/h1h:$0.101/h

6h:$0.128/h

Page 38: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

② スポットブロック概念図 - 落札

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

通常使用中

通常使用中

通常使用中

$0.0384 $0.0346

入札価格がスポットブロック価格を上回り、スポットプールに空きがあった場合※、希望したインスタンスを指定した期間利用可能

$3.66「東京リージョンの  1a にある c4.large は 現在 60 分で $0.077 なので、  $0.09 入札で起動できた!」

※詳しくは「スポットインスタンスのしくみ」を参照http://docs.aws.amazon.com/ja_jp/AWSEC2/latest/UserGuide/how-spot-instances-work.html 38

1h:$0.077/h6h:$0.098/h

1h:$0.201/h6h:$0.256/h1h:$0.101/h

6h:$0.128/h

Page 39: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

② スポットブロック概念図 - 課金額とインスタンスの維持

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

通常使用中

通常使用中

通常使用中

$0.0384 $0.0346

もしスポットブロック価格が高騰しても、シンプルなスポットインスタンスとは違いターミネートされず、課金額も落札時のスポットブロック価格で固定されている

$3.66「スポットブロック価格が 変動して入札価格 $0.09を 上回ってしまった。でも 課金額は $0.077 で固定 されているし、指定時間 中はターミネートされない ので安心!」

39

1h:$0.097/h6h:$0.108/h

1h:$0.201/h6h:$0.256/h1h:$0.101/h

6h:$0.128/h

Page 40: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

② スポットブロック概念図 - インスタンスの終了

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

通常使用中

通常使用中

通常使用中

$0.0384 $0.0346

$3.66

40

「指定した 60 分が経過した  or 処理を終えてリクエストを 自分でキャンセルした

 のでインスタンス終了!」

1h:$0.097/h6h:$0.108/h

1h:$0.201/h6h:$0.256/h1h:$0.101/h

6h:$0.128/h

Page 41: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

② スポットブロックの挙動 - 時間経過パターン

単価

時間

ブロック価格入札額課金額

$0.24$0.30

6h

①リクエスト投入

(--block-duration-minutes 360)

②落札後は課金額固定

③指定した時間が経過し、

インスタンス終了 41

Page 42: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

② スポットブロックの挙動 - 手動終了パターン

単価

時間

$0.24$0.30

③リクエストをキャンセル

しインスタンス終了

6h

①リクエスト投入

(--block-duration-minutes 360)

①リクエスト投入

(--block-duration-minutes 360)

②落札後は課金額固定

42

ブロック価格入札額課金額

1h

④インスタンス終了後の残り時間は非課金

Page 43: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

アジェンダ

Amazon Elastic Compute Cloud(EC2)スポットインスタンスの種類

スポットインスタンススポットブロックスポットフリート

スポットフリートのターゲット容量スポットベストプラクティスまとめ

43

Page 44: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

スポットインスタンスの種類

リクエストタイプ

永続性リクエスト

単位容量変更 起動に用いる API

リクエスト有効期限を設定した場合の有効期限後の挙動

①スポット

インスタンスinstance

one-time(default)

orpersistent

instances 不可 request-spot-instances

リクエストがキャンセルされインスタンスは

ターミネートされる

②スポットブロック

block(** min) - instances 不可 request-spot-instances -

③スポットフリート

fleet

requestor

maintain(default)

instancesor

vCPUs可 request-spot-fleet

起動時のTerminateInstances

WithExpiration(true or false)

の指定による

44※ スポットフリートの request/maintain はスポットインスタンスの one-time/persistent に似た挙動

Page 45: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

③スポットフリート配分戦略に応じて複数のスポットプールを自動的に利用

Diversified戦略 : 選択したプールの内、できるだけ多くのプールに分散することで、個々のプールでスポット価格が高騰した時の影響を軽減Lowest Price戦略 : 選択したプールの内、最も安価なプールを優先的に使い、より高いコスト削減効果を得る

フリート全体でターゲット容量(インスタンス数 or vCPU数)を満たすApplication Auto Scaling にも対応

http://docs.aws.amazon.com/ja_jp/ApplicationAutoScaling/latest/APIReference/Welcome.html

ステートレスな Web/App/Batch サーバ、 CI サーバ、 Amazon EC2 Container Service(ECS) との組み合わせ等で活躍

Jenkins 用 Spot Fleet Plug-inも提供 https://aws.amazon.com/jp/about-aws/whats-new/2016/06/introducing-new-amazon-ec2-spot-jenkins-plug-in-save-up-to-90-percent-off-jenkins-infrastructure-costs/ 45

Page 46: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

③スポットフリート概念図 - スポットプールとスポット価格

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

46

$0.0209 $0.0530 $0.0346 $0.0384 $0.0246

Page 47: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

③スポットフリート概念図 - リクエストタイプを決める

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

47

$0.0209 $0.0530 $0.0346 $0.0384 $0.0246

「もしスポット価格高騰によるターミネートが起こったら、 その後再度スポットインスタンスが立ち上がって欲しいので、 ”リクエストと維持 (maintain)” でいこう。」

Page 48: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

③スポットフリート概念図 - ターゲット容量を決める

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

48

$0.0209 $0.0530 $0.0346 $0.0384 $0.0246

「“インスタンス数 :10” をターゲットにしよう。」

Page 49: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

③スポットフリート概念図 - インスタンスタイプを選ぶ

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

49

対象外対象外

$0.0209 $0.0530 $0.0346 $0.0384 $0.0246

「今回は vCPU が同じ 2 である“m4.large” と“ c4.large” を使おう。  AZ は指定なし。」

Page 50: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

③スポットフリート概念図 - 配分戦略を選ぶ

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

50

対象外対象外

$0.0209 $0.0530 $0.0346 $0.0384 $0.0246

「 Lowest Price戦略だとこうなる…。」 (※ 安価なスポットプールを優先して使う )

Page 51: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

m4.large

…m4.xlarge

③スポットフリート概念図 - 配分戦略を選ぶ

c4.large

ap-northeast-1c

m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

51

対象外対象外

$0.0209 $0.0530 $0.0346 $0.0384 $0.0246

「Diversified だとこうか。今回は Diversified戦略でいこう!」 (※ できるだけ多くのスポットプールに分散させる )

Page 52: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

③スポットフリート概念図 - 入札価格を決める

ap-northeast-1c

52

「それぞれのインスタンスタイプごとにオンデマンド価格と同額で 入札しよう。」

m4.large

…m4.xlarge c4.large m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

対象外対象外

$0.0209 $0.0530 $0.0346 $0.0384 $0.0246

Page 53: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

③スポットフリート概念図 - スポットフリートをリクエストする

ap-northeast-1c

53

「よし、落札に成功して想定通りのインスタンスが起動した!」

m4.large

…m4.xlarge c4.large m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中

使用中 使用中

対象外対象外

$0.0209 $0.0530 $0.0346 $0.0384 $0.0246

Page 54: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

③スポットフリート概念図 - スポット価格の高騰

ap-northeast-1c

54

「あ、 1a の m4.large が価格高騰してインスタンスが 終了してしまった!」

…m4.xlarge c4.large m4.large

…m4.xlarge c4.large

使用中使用中

使用中

使用中 使用中

対象外対象外

$0.0530 $0.0346 $0.0384 $0.0246

m4.large

使用中

$0.142

Page 55: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

③スポットフリート概念図 - 代替インスタンスの自動起動

ap-northeast-1c

55

「でも大丈夫、他の有効なスポットプールで自動的に インスタンスが起動して、フリート全体としては またターゲット容量の “インスタンス数 :10” を確保できたぞ。」

m4.large

…m4.xlarge c4.large m4.large

…m4.xlarge c4.large

使用中 使用中使用中

使用中

使用中 使用中

対象外対象外

$0.142 $0.0530 $0.0346 $0.0384 $0.0246

Page 56: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

③スポットフリート概念図 - Auto Scaling の設定

ap-northeast-1c

56

「 SQS のメッセージ数をトリガーにして Auto Scaling しよう。 メッセージが 1000件を超えたアラームを受け取ったら ターゲット容量を 2増やすように設定。」

m4.large

…m4.xlarge c4.large m4.large

…m4.xlarge c4.large

使用中 使用中使用中

使用中

使用中 使用中

対象外対象外

$0.142 $0.0530 $0.0346 $0.0384 $0.0246

Page 57: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ap-northeast-1a(Tokyo Region)

③スポットフリート概念図 - Auto Scaling の発動

ap-northeast-1c

57

「 SQS メッセージ 1000件超えのアラームが発報されて、 ターゲット容量が 2増えた。インスタンスも起動した!」

m4.large

…m4.xlarge c4.large m4.large

…m4.xlarge c4.large

使用中 使用中使用中

使用中

使用中 使用中

対象外対象外

$0.142 $0.0530 $0.0346 $0.0384 $0.0246

Page 58: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

③スポットフリート活用事例 - Actcat, Inc.

58

SpotFleet を使ったら EC2 のコストが 1/4 になった話http://tech.sideci.com/entry/2016/10/11/115605

Page 59: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

③スポットフリート活用事例 - Actcat, Inc.

59

SpotFleet を使ったら EC2 のコストが 1/4 になった話http://tech.sideci.com/entry/2016/10/11/115605

Page 60: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

アジェンダ

Amazon Elastic Compute Cloud(EC2)スポットインスタンスの種類スポットフリートのターゲット容量スポットベストプラクティスまとめ

60

Page 61: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

スポットフリートのターゲット容量

61

1. ターゲット容量とインスタンスの重み付けについて2. ターゲット容量 : インスタンス数が向くケース

代替可能な( = スペックの似た)インスタンスを選択し、処理能力を落とさないようコントロールする例えばステートレスな Web/App サーバなど

3. ターゲット容量 :vCPU数が向くケーススポットフリートをブラックボックスとして捉え、確保されたリソースの提供のみを要求する例えば Batch 、分散処理基盤、 Amazon ECS など

Page 62: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ターゲット容量とインスタンスの重み付けについて

62

ターゲット容量をインスタンスでなく vCPU にする場合、インスタンスタイプごとに”分量” (WeightedCapacity) の設定が必要

分量を指定しなければ 1 インスタンス時間あたりの入札価格、分量を指定すればユニット時間ごとの入札価格として解釈される とも言えるシンプルに考えたい場合、各インスタンスタイプの分量 = そのインスタンスタイプの vCPU数とすればよい(マネジメントコンソールから操作した場合、ターゲット容量を vCPU にするとそのように設定される)

インスタンスタイプによってパフォーマンスを調整したい、またはインスタンスタイプごとに入札価格を調整したい などの場合は分量を個別に編集することで実現可能

スポット群インスタンスの重み付けhttp://docs.aws.amazon.com/ja_jp/AWSEC2/latest/UserGuide/spot-fleet.html#spot-instance-weighting

Page 63: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ターゲット容量とインスタンスの重み付けについて

63

計算式 : インスタンスの起動数 = ターゲット容量 ÷ 分量 (小数点以下切り上げ )

1ユニット時間あたりの価格 = スポット価格 ÷ 分量 (小数点以下切り上げ )

ターゲット容量 “ vCPU数 : 10” の場合の例

スポット群インスタンスの重み付けhttp://docs.aws.amazon.com/ja_jp/AWSEC2/latest/UserGuide/spot-fleet.html#spot-instance-weighting

スタンスタイプ インスタンスの分量

インスタンス時間あたりのスポッ

ト価格

ユニット時間あたりのスポット価格

起動されるインスタンスの数

r3.xlarge 2 0.05 USD .025( .05 ÷ 2 ) 5( 10 ÷ 2 )r3.8xlarge 8 0.10 USD .0125( .10 ÷ 8 )

2( 10 ÷ 8 、結果切り上げ)

Page 64: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ターゲット容量とインスタンスの重み付けについて

64

実際の vCPU数より分量を小さくすると…インスタンスがより多くなるため全体の処理能力がアップするインスタンスがより多くなるため料金もより多くかかる

実際の vCPU数より分量を大きくすると…インスタンスがより少なくなるため全体の処理能力がダウンするインスタンスがより少なくなるため料金もより少なくなる

スポット群インスタンスの重み付けhttp://docs.aws.amazon.com/ja_jp/AWSEC2/latest/UserGuide/spot-fleet.html#spot-instance-weighting

Page 65: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ターゲット容量とインスタンスの重み付けについて

65

まずは、ターゲット容量としてインスタンス数を選ぶか、vCPU数を選んだときも vCPU数と同じ分量を設定してシンプルに使う分量を細かく使いこなしたい方は、チュートリアルを読んでいただくことをお勧めしますチュートリアル:スポットフリートを使ってインスタンスの分量を指定するhttp://docs.aws.amazon.com/ja_jp/AWSEC2/latest/UserGuide/spot-fleet.html#instance-weighting-walkthrough

スポット群インスタンスの重み付けhttp://docs.aws.amazon.com/ja_jp/AWSEC2/latest/UserGuide/spot-fleet.html#spot-instance-weighting

Page 66: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ターゲット容量 : インスタンス数が向くケース

66

インスタンスタイプ間の差異が少なく代替として使えるとき例 :m4.large 、 c4.large 、 r3.large は全て vCPU=2 であり、互いに似たパフォーマンスで同じ役割を果たせるユースケース :ステートレスな Web/App サーバなど

vCPU でなくインスタンス並列数が重要なとき例 :IP アドレスがたくさん欲しいため ENI を多く確保したいユースケース :メール配信ワーカー、クローラなど

Page 67: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ターゲット容量 :vCPU数が向くケース

67

個々のサーバでなく vCPU 単位で処理を行う場合例 :vCPUレベルで並列処理を行う構成になっており、m3.medium(vCPU=1) 、 r3.8xlarge(vCPU=32) が混在しても、r3.8xlarge が正しく m3.medium の 32倍の処理を実行できるユースケース :ECS のクラスタ、バッチワーカー、分散処理基盤など

Page 68: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

Spot Fleet で ECS クラスタを構成

c3.large:2 c3.xlarge:4c4.large:2 c4.xlarge:4m3.large:2 m3.xlarge:4m4.large:2 m4.xlarge:4r3.large:2 r3.xlarge:4

Weight

c3.xlarge*1= $0.04/h

c4.xlarge*2= $0.08/h

r3.large*1= $0.05/h

>> $0.17/h

vCPU <= $0.05/h

ターゲット容量 = 14 vCPUs

Max $0.7/h

Spot Fleet

Amazon ECS

走らせたいECS タスクと

タスクに必要なvCPU数↓ ↓ ↓ ↓

Page 69: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

アジェンダ

Amazon Elastic Compute Cloud(EC2)スポットインスタンスの種類スポットフリートのターゲット容量スポットベストプラクティスまとめ

69

Page 70: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

スポットインスタンスのベストプラクティス #11. インスタンスタイプに関して柔軟になる

複数のスポットプールに対応できるアプリケーション、システムを

2. 要件に合致する入札価格を設定するまずはオンデマンド価格前後での入札をお勧めその後コストカット重視であれば低い価格に、安定性重視であれば高めの価格に

3. 好ましい価格トレンドのプールを選択するスポット価格は需要に応じてスポットプールごとに変動需要が少ない旧世代インスタンスタイプなどが高騰しにくいなど

スポット入札アドバイザーを使うhttps://aws.amazon.com/jp/ec2/spot/bid-advisor/

70

※ Spot Best Practices   https://aws.amazon.com/jp/ec2/spot/getting-started/#bestpractices※ Amazon Web Services ブログ スポットインスタンスに注目 - ベストプラクティスについて   http://aws.typepad.com/aws_japan/2015/06/focusing-on-spot-instances-lets-talk-about-best-practices.html

Page 71: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

スポットインスタンスのベストプラクティス #1’スポット入札アドバイザー

71

リージョン、 OS 、入札価格(25%, 50%, 100%) を選ぶと、各スポットプールの過去データ(先週、先月)と照合して、価格高騰の可能性を表示してくれる。

vCPU やメモリ、 EMR サポート有無でフィルタリングも可能。

https://aws.amazon.com/jp/ec2/spot/bid-advisor/

Page 72: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

スポットインスタンスのベストプラクティス #2インスタンスをステートレスに保つ ≒ 個々のサーバに依存した情報を持たない→ どのインスタンスがいつ終了しても問題ない状態に

必読 1: クラウドのためのアーキテクチャ設計 - ベストプラクティス -http://www.slideshare.net/AmazonWebServicesJapan/aws-black-belt-online-seminar-2016/16

必読 2:Amazon EC2 Container Servicehttp://www.slideshare.net/AmazonWebServicesJapan/aws-black-belt-online-seminar-2016-amazon-ec2-container-service

必読 3:THE TWELVE-FACTOR APPhttps://12factor.net/ja/

72

Page 73: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

アジェンダ

Amazon Elastic Compute Cloud(EC2)スポットインスタンスの種類スポットフリートのターゲット容量スポットベストプラクティスまとめ

73

Page 74: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

まとめ

74

スポットインスタンスは大幅なコスト削減効果のある EC2 購入オプションの一つスポットインスタンス、スポットブロック、スポットフリートの三種類があるスポットフリートでより安価に、より安定したスポットインスタンスの利用が可能ベストプラクティスを踏まえて、ステートレスなスポットライフを!

Page 75: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

参考資料

スポットインスタンス ドキュメントhttp://docs.aws.amazon.com/ja_jp/AWSEC2/latest/UserGuide/using-spot-instances.html 

スポットインスタンスベストプラクティスhttps://aws.amazon.com/jp/ec2/spot/getting-started/#bestpractices

Application Auto Scalinghttp://docs.aws.amazon.com/ja_jp/ApplicationAutoScaling/latest/APIReference/Welcome.html

AWS クラウドサービス活用資料集https://aws.amazon.com/jp/aws-jp-introduction/

12-Factor Apphttps://12factor.net/ja/

75

Page 76: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

Q&A

76

Page 77: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

オンラインセミナー資料の配置場所AWS クラウドサービス活用資料集

http://aws.amazon.com/jp/aws-jp-introduction/

AWS Solutions Architect ブログ最新の情報、セミナー中の Q&A 等が掲載されていますhttp://aws.typepad.com/sajp/

77

Page 78: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

公式 Twitter/FacebookAWS の最新情報をお届けします

@awscloud_jp検索

最新技術情報、イベント情報、お役立ち情報、お得なキャンペーン情報などを日々更新しています!

もしくはhttp://on.fb.me/1vR8yWm

78

Page 79: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

AWS の導入、お問い合わせのご相談AWS クラウド導入に関するご質問、お見積り、資料請求をご希望のお客様は、以下のリンクよりお気軽にご相談くださいhttps://aws.amazon.com/jp/contact-us/aws-sales/

※「 AWS  問い合わせ」で検索してください79

Page 80: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

AWS Black Belt Online Seminar

11 月の配信予定11 月 22 日 ( 火 ) 12:00-13:00 HPC 分野での AWS 活用11 月 24 日 (木 ) 18:00-19:00 AWS CloudFormation11 月 29 日 ( 火 ) 12:00-13:00 AWS 上でのログ管理

申し込みサイト https://aws.amazon.com/jp/about-aws/events/webinars/

(もしくは「 AWS イベント」で検索 )

Page 81: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

簡単なアンケートにご協力ください。

画面に表示されるアンケートフォームに入力をお願いします。• 皆様のご意見は、今後の改善活動に活用させて頂きます。• コメント欄には 1行で自由な内容を書き込み下さい。

例 )- 本オンラインセミナーへのご意見- 今後オンラインセミナーで取り上げて欲しい題材- 発表者への激励 等々…

※Q&A同様に書き込んだ内容は主催者にしか見えません

81

Page 82: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

ご参加ありがとうございました

82

Page 83: AWS Black Belt Online Seminar 2016 Amazon EC2 Spot Instances(スポットインスタンス)

83