azure データサービスを使った アーキテクチャ設計...

101
Azure データ サービスを使った アーキテクチャ設計 ~「 Azure データ アーキテクチャ ガイド」を中心に ~ DA20

Upload: others

Post on 06-Jul-2020

3 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

Azure データ サービスを使ったアーキテクチャ設計~ 「Azure データアーキテクチャガイド」を中心に~

DA20

Page 2: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://twitter.com/satonaoki

https://satonaoki.wordpress.com

http://aka.ms/weeklyazure

スピーカー

Page 3: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

http://www.shuwasystem.co.jp/products/7980html/4573.html

https://www.oreilly.co.jp/books/9784873117140/

Page 4: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://www.microsoft.com/ja-jp/events/decode/2018/sessions.aspx#DA20

セッション概要

Page 5: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/

Page 6: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/data-guide/

Page 7: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/guide/technology-choices/data-store-overview

Page 8: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/guide/architecture-styles/event-driven

Page 9: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/guide/architecture-styles/big-data

Page 10: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/guide/design-principles/use-the-best-data-store

Page 11: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/patterns/category/data-management

Page 12: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/best-practices/data-partitioning

Page 13: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/antipatterns/

Page 14: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

Azure データ アーキテクチャ ガイド

Page 15: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/data-guide/

Page 16: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/data-guide/

Azure データ アーキテクチャ ガイド

Page 17: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

Azure データ アーキテクチャ ガイド

Page 18: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

従来の RDBMS ワークロード

Page 19: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

従来の RDBMS ワークロード

Page 20: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

オンライン トランザクション処理 (OLTP)

Page 21: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

トランザクション データの一般的な特徴要件 説明 要件 説明

正規化 高度に正規化 ワークロード 高負荷の書き込み。

中程度の読み取り

スキーマ 書き込み時のスキーマ。

厳密に適用

インデックス作成 プライマリ インデックスと

セカンダリ インデックス

整合性 強力な一貫性。ACID を保証 データ サイズ 小~中のサイズ

整合性 高い整合性 モデル リレーショナル

トランザクションの使用 はい データ シェイプ 表形式

ロック戦略 ペシミスティックまたは

オプティミスティック

クエリの柔軟性 高い柔軟性

更新可能 はい スケール 小 (MB) ~大 (数 TB)

追加可能 はい

Page 22: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

OLTPの課題

Page 23: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

Azureのおける OLTP

Page 24: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/data-guide/relational-

data/online-transaction-processing

Azure における OLTPの選択条件

Page 25: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

データ ウェアハウス

Page 26: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

データ ウェアハウスの課題

Page 27: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

Azure におけるデータ ウェアハウス

Page 28: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

Azure におけるデータ ウェアハウス

Page 29: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

Azure におけるデータ ウェアハウスの選択条件

Page 30: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/ja-jp/azure/architecture/data-

guide/relational-data/data-warehousing

Azure におけるデータ ウェアハウスの選択条件

Page 31: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

オンライン分析処理 (OLAP)

Page 32: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

セマンティック モデリングの一般的な特徴

要件 説明 要件 説明

スキーマ 書き込み時のスキーマ。

厳密に適用

インデックス

作成

多次元イン

デックスの作成

トランザクションの使用 いいえ データ サイズ 小~中のサイズ

ロック戦略 なし モデル 多次元

更新可能 いいえ (通常はコンピュー

ティング キューブが必要)

データの形 キューブまたは

スター/スノー

フレーク スキーマ

追加可能 いいえ (通常はコンピュー

ティング キューブが必要)

クエリの

柔軟性

高い柔軟性

ワークロード 読み取り量が多い。

読み取り専用

スケール: 大規模 (10 ~

100 GB)

Page 33: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

OLAP を使う状況

Page 34: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

OLAPの課題

Page 35: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

Azure における OLAP

Page 36: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/data-guide/relational-

data/online-analytical-processing

Azure における OLAPの選択条件

Page 37: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

抽出、変換、読み込み (ETL)

Page 38: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

抽出、読み込み、変換 (ELT)

Page 39: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

Azure における ETL/ELT

Page 40: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ビッグ データ アーキテクチャ

Page 41: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ビッグ データ アーキテクチャ

Page 42: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ビッグ データ アーキテクチャ

Page 43: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ビッグ データ アーキテクチャのコンポーネント

Page 44: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ビッグ データ アーキテクチャのコンポーネント

Page 45: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ビッグ データ アーキテクチャのコンポーネント

Page 46: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ビッグ データ アーキテクチャのコンポーネント

Page 47: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ビッグ データ アーキテクチャのコンポーネント

Page 48: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ラムダ アーキテクチャ

Page 49: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

カッパ アーキテクチャ

Page 50: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

IoT (Internet of Things)

Page 51: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

バッチ処理

Page 52: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

リアルタイム処理

Page 53: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

対話型データ探索

Page 54: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

大規模な機械学習

Page 55: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

大規模な機械学習

Page 56: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

大規模な機械学習

Page 57: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

適切なデータ ストアの選択

Page 58: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/guide/technology-choices/data-store-overview

Page 59: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://contenthost.blob.core.windows.net/infographic/Choosing%20a%20Data%20Store.pdf

Page 60: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

データ ストアの選択条件 -機能要件

Page 61: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

データ ストアの選択条件 -機能要件

Page 62: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

データ ストアの選択条件 –非機能要件

Page 63: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

データ ストアの選択条件 –管理とコスト

Page 64: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

データ ストアの選択条件 –セキュリティ

Page 65: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

データ ストアの選択条件 – DevOpsセキュリティ

Page 66: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://contenthost.blob.core.windows.net/infographic/Choosing%20a%20Data%20Store.pdf

Page 67: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

RDBMSのワークロード

Page 68: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

RDBMSのデータの種類

Page 69: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

RDBMSの使用例

Page 70: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

非リレーショナル データと NoSQL

Page 71: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

非リレーショナル データ ストア

Page 72: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

キー/値ストア

Page 73: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

キー/値ストアのワークロード

Page 74: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

キー/値ストアのデータの種類

Page 75: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

キー/値ストアの使用例

Page 76: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ドキュメント データベース

Page 77: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ドキュメント データベースのワークロード

Page 78: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ドキュメント データベースのデータの種類

Page 79: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

ドキュメント データベースの使用例

Page 80: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

列ファミリ データベース (カラムナ/列指向)

Page 81: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

列ファミリ データベースのワークロード

Page 82: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

列ファミリ データベースのデータの種類

Page 83: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

列ファミリ データベースの使用例

Page 84: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

グラフ データベース

Page 85: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

グラフ データベースのワークロード

Page 86: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

グラフ データベースのデータの種類

Page 87: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

グラフ データベースの使用例

Page 88: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

時系列データベース

Page 89: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

時系列データベースのワークロード

Page 90: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

時系列データベースのデータの種類

Page 91: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

時系列データベースの使用例

Page 92: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

オブジェクト ストレージ

Page 93: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

オブジェクト ストレージのワークロード

Page 94: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

オブジェクト ストレージのデータの種類

Page 95: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

オブジェクト ストレージの使用例

Page 96: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

NoSQL -外部インデックス データ ストア

Page 97: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

外部インデックス データ ストアの使用例

Page 98: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

まとめ

Page 99: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/data-guide/

Page 100: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

https://docs.microsoft.com/azure/architecture/guide/technology-choices/data-store-overview

Page 101: Azure データサービスを使った アーキテクチャ設計 …...トランザクションデータの一般的な特徴 要件 説明 要件 説明 正規化 高度に正規化

© 2018 Microsoft Corporation. All rights reserved.

本コンテンツの著作権、および本コンテンツ中に出てくる商標権、団体名、ロゴ、製品、サービスなどはそれぞれ、各権利保有者に帰属します。