büyük veriye genel bakış, mimari ve...

38
Büyük veriye genel bakış, mimari ve çözümler Tansel Okay Kurumsal Mimar

Upload: others

Post on 09-Oct-2019

21 views

Category:

Documents


0 download

TRANSCRIPT

Büyük veriye genel bakış, mimari ve çözümler Tansel Okay Kurumsal Mimar

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 2

Gündem

 Neden “Büyük Veri” ?

 Farkı nedir ?

 Nasıl ? –  Oracle’ın önerdiği mimari yol haritası nedir ? –  Ne sağlıyorsunuz ?

 Örnek(ler)

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 3

Gündem

 Neden “Büyük Veri” ?

 Farkı nedir ?

 Nasıl ? –  Oracle’ın önerdiği mimari yol haritası nedir ? –  Ne sağlıyorsunuz ?

 Örnek(ler)

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 4

Neden “Büyük Veri” ?

Karar

EylemGözlem

/Olay

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 5

Neden “Büyük Veri” ?

İşlemsel Veri

Machina Research / Big Data in M2M Tipping Points and Subnets of Things / Whitepaper

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 6

Neden “Büyük Veri” ?

B2B

İşlemsel Veri

Machina Research / Big Data in M2M Tipping Points and Subnets of Things / Whitepaper

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 7

Neden “Büyük Veri” ?

P2P

B2B

İşlemsel Veri

Machina Research / Big Data in M2M Tipping Points and Subnets of Things / Whitepaper

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 8

Neden “Büyük Veri” ?

İşlemsel Veri

M2M

P2P

B2B

İşlemsel Veri

Machina Research / Big Data in M2M Tipping Points and Subnets of Things / Whitepaper

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 9

Neden “Büyük Veri” ?

İşlemsel Veri

M2M

P2P

B2B

İşlemsel Veri

İşlemek zorunda kaldığımız verinin ...

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 10

Neden “Büyük Veri” ?

İşlemsel Veri

M2M

P2P

B2B

İşlemsel Veri

İşlemek zorunda kaldığımız verinin ...

Hacmi...

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 11

Neden “Büyük Veri” ?

İşlemsel Veri

M2M

P2P

B2B

İşlemsel Veri

Kontrolümüz dışında artan çeşitliliği

Hacmi...

İşlemek zorunda kaldığımız verinin ...

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 12

Neden “Büyük Veri” ?

İşlemsel Veri

M2M

P2P

B2B

İşlemsel Veri

Kontrolümüz dışında artan çeşitliliği

Hacmi...

Azalan işlem süremiz...

İşlemek zorunda kaldığımız verinin ...

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 13

Gündem

 Neden “Büyük Veri” ?

 Farkı nedir ?

 Nasıl ? –  Oracle’ın önerdiği mimari yol haritası nedir ? –  Ne sağlıyorsunuz ?

 Örnek(ler)

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 14

Farkı Nedir ?

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 15

Farkı Nedir ?

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 16

Schema on Read

Name Node

Farkı Nedir ?

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 17

Sharding

Farkı Nedir ?

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 18

Farkı Nedir ?

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 19

Gündem

 Neden “Büyük Veri” ?

 Farkı nedir ?

 Nasıl ? –  Oracle’ın önerdiği mimari yol haritası nedir ? –  Ne sağlıyorsunuz ?

 Örnek(ler)

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 20

Nasıl ? / Mimari yol haritası

Mimarinizi Büyük Veriye doğru geliştirmek:  Adım 1: Mevcut Verinizi daha iyi analiz edin  Adım 2: Veri çeşitliliği ve hacmini yönetin  Adım 3: Veri hızını yönetin  Adım 4: Veri içindeki yeni örüntüleri (pattern) keşfedin

Arttırın İş Değeri

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 21

Adım 0: Temel Veri Ambarı mimarisi

Oracle Database

Oracle BI Enterprise

Edition

Acquire Organize Analyze Decide

High Density Data

• Dashboard • Ad-Hoc Query

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 22

Adım 1: Mevcut Verinizi daha iyi analiz edin

Oracle Database

Oracle BI Enterprise

Edition Spatial

and Graph

Advanced Analytics

Acquire Organize Analyze Decide

High Density Data

• Dashboard • Ad-Hoc Query

• Optimisations • Predictive Mnt.

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 23

Mavi Balina / Düşük yoğunluklu Veri

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 24

Adım 2: Veri çeşitliliği ve hacim için mimari

Oracle Database

Oracle BI Enterprise

Edition

Hadoop

Low Density variable Data

Acquire Organize Analyze Decide

Spatial and Graph

Advanced Analytics Aggregate

Pre-Analyze

• Dashboard • Ad-Hoc Query

• Optimisations • Predictive Mnt.

• Alarm & Performance

• M2M telemetry

High Density Data

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 25

Adım 3: Hız için mimari

Acquire Organize

High Density Data

Oracle Database

Oracle BI Enterprise

Edition Hadoop

Low Density

Batch Data

Analyze Decide

Aggregate Pre-Analyze

Streaming Data

Real Time Decisions

Event Processing

Act

Model

Spatial and Graph

Advanced Analytics

• Dashboard • Ad-Hoc Query

• Optimisations • Predictive Mnt.

• Alarm & Performance

• M2M telemetry

• Recommend • Act

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 26

Real Time Decisions

Adım 4: Yeni enformasyonu keşfedin

Acquire Organize

High Density Data

Oracle Database

Oracle BI Enterprise

Edition Hadoop

Low Density

Batch Data

Analyze Decide

Aggregate Pre-Analyze

Streaming Data

Event Processing

Act

Model

Spatial and Graph

Advanced Analytics

Endeca Information Discovery

• Dashboard • Ad-Hoc Query

• Optimisations • Predictive Mnt

• Alarm & Performance

• M2M telemetry

• Recommend • Act

• Discover

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 27

Gündem

 Neden “Büyük Veri” ?

 Farkı nedir ?

 Nasıl ? –  Oracle’ın önerdiği mimari yol haritası nedir ? –  Ne sağlıyorsunuz ?

 Örnek(ler)

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 28

Zaman

İş Değeri

Büyük Veri: Problemden fırsata İş Değeri elde etmek için Büyük Veri’yi kullanın

→  Yüksek Çeşitlilik →  Yüksek Hacim →  Yüksek Karmaşa →  Yüksek Hız

Büyük Veri

Bugün

→  Derin Analitik →  Yüksek Çeviklik →  Yüksek Ölçeklenme →  Gerçek Zamanlı

Yarın

Problemler

Büyük Veri Platformu

29 Copyright © 2011, Oracle and/or its affiliates. All rights reserved. Insert Information Protection Policy Classification from Slide 8

•  Derin Analitik •  Agile/Çevik geliştirme •  Yüksek ölçeklenme •  Gerçek Zamanlı Yanıt •  Yüksek işlem

•  Yerinde Veri hazırlığı •  Tüm veri yapıları

•  Düşük Gecikme •  Yüksek işlem sayısı •  Esnek veri yapısı

Büyük Veri: Altyapı Gereksinimleri

Acquire   Organize   Analyze  

30 Copyright © 2011, Oracle and/or its affiliates. All rights reserved. Insert Information Protection Policy Classification from Slide 8

Belirsizliği yönetmek Bir sonraki seçimleri ne olacak ? Yeni hizmetim başarılı olacak mı? Doğru maliyetlendirme yaptım mı? Kaynaklarımı doğru yönetiyor muyum?

Bla   Decide  

•  Veri odaklı •  Analitik uygulamalı •  Gerçek Zamanlı •  Operasyon üzerinde etkili

Acquire   Organize   Analyze  

31 Copyright © 2011, Oracle and/or its affiliates. All rights reserved. Insert Information Protection Policy Classification from Slide 8

Bölünmüş çözüm alanı

Acquire   Analyze  Organize  

MapReduce  Çözümleri  

DBMS    (DW)  

DBMS    (OLTP)  

Gelişkin  AnaliDk  

DağıGk  Dosya  Sistemleri  

İşlem  (Key-­‐Value)  Store’lar  

ETL  

NoSQL

Esnek, Özel,

Geliştirici Merkezli

SQL

Güvenilir, Güvenli, Yönetilen

Farklı  Veri  

“High  Density”  

Enformasyon  Yoğunluğu  

“Low  Density”  

32 Copyright © 2011, Oracle and/or its affiliates. All rights reserved. Insert Information Protection Policy Classification from Slide 8

Oracle Tasarlanmış Sistem Çözümleri

Acquire   Analyze  Organize  

 

 

 

     Oracle  Database  (DW)  

Oracle  Database  (OLTP)  

In-­‐DB  AnalyDcs  

“R”  Mining  Text  Graph  SpaDal  

Oracle  BI  

 Oracle  NoSQL  DB  

 HDFS    Hadoop  

Oracle  Data  Integrator  

OLH  

Data  Variety  

“High  Density”  

InformaDon  Density  

“Low  Density”  

Exadata  

Big  Data  Appliance  

Exaly2

cs  

33 Copyright © 2011, Oracle and/or its affiliates. All rights reserved. Insert Information Protection Policy Classification from Slide 8

Big Data Appliance

•  Hardware: Comparable to an Exadata Storage Expansion Rack •  18 Nodes

•  2 CPU’s •  12 x 3TB 3.5” 7200 RPM SAS disks per node

•  InfiniBand Networking with IB/10 GbE connectivity •  Software:

–  Hadoop Distribution –  Oracle NoSQL DB –  Oracle Data Integrator (Hadoop capabilities ) –  Oracle Loader for Hadoop –  Oracle JRockit –  Oracle Linux

34 Copyright © 2012, Oracle and/or its affiliates. All rights reserved.

Oracle  is  the  industry  leader  in  database  and  informa4on  management.    Oracle  provides  all  the  components  you  need  to  get  real  results  from  your  big  data  ini4a4ves  

Oracle Büyük Veri Platformu  

Stream   Acquire   Organize  /  Discover   Analyze   Visualize  /  

Decide  

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 35

Gündem

 Neden “Büyük Veri” ?

 Farkı nedir ?

 Nasıl ? –  Oracle’ın önerdiği mimari yol haritası nedir ? –  Ne sağlıyorsunuz ?

 Örnek(ler)

0101010101010101010101010101010101010101

0101010101010101010101010101010101010101

0101010101010101010101010101010101010101

Örnek(ler) Elektrik dağıtım şirketi

Ne Topluyorlar Smart Metering –Enerji tüketimini topluyor

Nasıl kullanıyorlar Daha iyi talep planlaması için Daha iyi pazarlama için Kişilerin kullanım alışkanlıklarına uygun çözümler sunmak için

Ev bazında tüketim tahmini yapabilmek Spot marketten alım ihtiyacını düşürebilmek …Demek…

Büyük Veri …

Nike Spor işinde mi…yoksa Veri işinde mi ?

Copyright © 2012, Oracle and/or its affiliates. All rights reserved. 38