big data diy

25
Big Data Do-It-Yourself mit Microsoft Olivia Klose Technical Evangelist, Microsoft Deutschland GmbH aka.ms/ oliviaklose, @oliviaklose

Upload: olivia-klose

Post on 06-Jul-2015

148 views

Category:

Technology


0 download

DESCRIPTION

Big Data DIY auf der Microsoft CeBIT Bühne. Big Data ist einer der großen IT-Trends und doch für viele noch Neuland. In dieser Session stellen wir vor, wie man Big Data selber mit Hilfe von Tweets bauen kann. Anhand einer Windows Azure Applikation für die Echtzeit-Analyse von Twitter-Daten schildern wir die Rolle der Microsoft Technologien und wie Open Source Technologien, wie Hadoop, in Windows Azure integriert ist. Unser Szenario kann leicht „nachgebaut“ werden und ist ein guter Ausgangspunkt für eigene Entwicklungen.

TRANSCRIPT

Page 1: Big Data DIY

Big Data Do-It-Yourself mit MicrosoftOlivia Klose

Technical Evangelist, Microsoft Deutschland GmbH

aka.ms/oliviaklose, @oliviaklose

Page 2: Big Data DIY

Die 3 Vs

MB

GB

TB

PB

batch

periodic

real

time

table

data

base

un-

struc-

tured

web

Big Data, Gesellschaft für Informatik, 2013,

http://www.gi.de/service/informatiklexikon/

detailansicht/article/big-data.html

Page 3: Big Data DIY

Daten

Page 4: Big Data DIY

Demo

DemoTweets extrahieren: Echtzeit-Dashboard

Page 5: Big Data DIY

StreamInsight

Page 6: Big Data DIY

Extract

StreamInsight

Azure SQL

Azure Blob

Storage

Real-Time

Dashboard

Twitter

Tweets extrahieren

Page 7: Big Data DIY

Demo

DemoTweets speichern im Windows Azure Blob Storage

Page 8: Big Data DIY

Hadoop

Page 9: Big Data DIY

Hadoop

Page 10: Big Data DIY

MapReduce

Page 11: Big Data DIY

MapReduce

Page 12: Big Data DIY

MapReduce: Map

Page 13: Big Data DIY

MapReduce: Reduce

Page 14: Big Data DIY

Analyze

Hive Tables

Azure Blob

Storage

Azure Blob

Storage

Mash Up &

Visualise

Tweets in HDInsight Analyze

Azure SQL

Real-Time

Dashboard

Twitter

Extract

StreamInsight

Page 15: Big Data DIY
Page 16: Big Data DIY

HDInsight auf PowerShell

Page 17: Big Data DIY

Analyze

Hive Tables

Azure Blob

Storage

Azure Blob

Storage

Mash Up &

Visualise

Hive in HDInsight Analyze

Hive Tables

Azure SQL

Real-Time

Dashboard

Twitter

Extract

StreamInsight

Page 18: Big Data DIY
Page 19: Big Data DIY

Mash Up &

VisualiseAzure SQL

Tweets visualisieren

Mash Up &

Visualise

Analyze

Hive Tables

Real-Time

Dashboard

Twitter

Extract

StreamInsight

Azure SQL

Azure Blob

Storage

Page 20: Big Data DIY

Demo

DemoTweets visualisieren

Page 21: Big Data DIY

Demo

DemoTweets visualisieren

Page 22: Big Data DIY

Extract

StreamInsight

Azure SQL

Azure Blob

Storage

Real-Time

Dashboard

Twitter

Big Data Twitter Infrastruktur

Mash Up &

Visualise

Analyze

Hive Tables

Page 23: Big Data DIY

Big Data DIY in der MVA

http://aka.ms/BigDataDIY

Page 24: Big Data DIY

Weitere Informationen

[email protected]

aka.ms/oliviaklose

Twitter:@oliviaklose

Big Data DIY Kurshttp://aka.ms/BigDataDIY

Windows Azure Trialhttp://aka.ms/azurenow

HDInsighthttp://tinyurl.com/hdinsight

Hortonworks for Windowshttp://aka.ms/hdp

Microsoft Big Data Supporthttp://aka.ms/bigdatasupport

Page 25: Big Data DIY