entretiens jacques cartier : vers des technologies de … · 2012. 11. 22. · entretiens jacques...
TRANSCRIPT
![Page 1: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/1.jpg)
Entretiens Jacques Cartier : Vers des
Technologies de l'Information écologiques et
efficaces en consommation énergétique
Lyon, November 20th, 2012
Energy-efficient data centers with Millicomputing
opportunity and challenges
Pascal Bouvry, Frédéric Pinel
![Page 2: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/2.jpg)
Plan
- Context
- Energy optimisation for data center
- Introduction to millicomputing
- Benchmarking millicomputing for data centers
- Application choice
- Conclusion
![Page 3: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/3.jpg)
Luxembourg
3
ICT in Luxembourg:
- An European hub (Dark fiber)
- Large set of data centers (5 Tier 4)
- Specific Laws and Tax policies
- Fund management/Banking Center
- EU HQ of Amazon, iTunes, Paypal, Ebay,
AoL, Netflix, etc.
- Other: Skype, Goodyear, gaming, etc.
![Page 4: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/4.jpg)
University of Luxembourg
4
ICT – Security, Reliability, Trust is part of the country
strategic priorities at national and UL levels.
Systems Biomedicine is also part of the strategic
priorities.
FNR funded projects in the related to GreenIT:
- GreenIT (2009-2012)
- Green@cloud (2012-2015), joint funding with
CNRS (Polytech Lille)
- EcoCloud (2013-2015)
![Page 5: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/5.jpg)
Energy and cost of data centers
5
CAPEX:
Building
Racks
Machines
Software
OPEX:
Personnel
Electricity
Green is more than energy/cost savings,
but cost saving is the easiest way to buy corporates in.
![Page 6: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/6.jpg)
Energy Optimisation of Data Centers
6
1. Optimising the PUE (Power Usage Efficiency)
- Free cooling/heat reuse
- Fluid dynamics analysis
2. Optimising the dynamic allocation
- Virtualisation/Server consolidation
- Smart schedulers using
. On-Off
. DVFS (Dynamic Voltage and Frequency Scaling)
3. Modeling, simulation, testbed
. Holistic approach (computing, storage, communications)
. Greencloud
. Grid5000
![Page 7: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/7.jpg)
Millicomputing Proposal
Re-use low-power solutions from another industry
Smartphones
(http://blogs.norman.com/)
7
![Page 8: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/8.jpg)
A questionnable approach
“It’s a toy, not enterprise-ready”
“It can’t do big I/O”, “It doesn’t have big memory”
“Its more efficient to manage fewer bigger machines”
Miniaturization is on its way:
Mainframes replaced by Minicomputers
Minicomputers replaced by RISC servers
RISC servers replaced by PC servers
HPTS 2007
![Page 9: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/9.jpg)
Mass market
1 billion computers* shipped since 1975...
→ Over 2 billion ARM processors shipped last quarter !!!
Large market volumes trigger innovation
Large market volumes lower processor costs
Price/performance ratio favors clusters of commodity computers
ARM processors can be found in products ranging from the LG
Viewty, Nokia N95 and Sony Ericsson P1i smart phones; the iPhone
and the iPod; Garmin, Navman and Tom Tom portable navigation
systems; Kodak still cameras; Sony video cameras; and the
Nintendo DS handheld gaming device, up to Toshiba HD digital
televisions; hard disk drives from Samsung and Seagate;
automotive braking systems from Bosch; HP printers and wireless
routers from Linksys and Netgear.
![Page 10: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/10.jpg)
Paradigm shift
Millicomputing aims at
- Diminishing the CAPEX, cutting down machine expenditures
- Diminishing the OPEX, cutting down the electrical bill
10
![Page 11: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/11.jpg)
Smartphones/Tablets
ARM supplies majority of 32-bit processors
32-bit RISC
Low power components
ARM Cortex A9
0.4 – 1.9 W (2 GHz)
Common software stack,
Gnu/Linux environment
(http://www.usporedi.hr)
![Page 12: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/12.jpg)
ARM computer
Raspberry Pi (40 Euros)
ARM 11 (76JZFS) 700 MHz RAM 512 MB
Switched On Tech Design
(www.sotechdesign.com.au)
12
![Page 13: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/13.jpg)
ARM computer
Pandaboard (ES)
Open mobile software
development platform
TI OMAP 4460
Dual core A9
1.2 GHZ
RAM 1 GB DDR2
(low power)
10/100 Mb ethernet
5 W power supply
No cooling
Pandaboard.org
13
![Page 14: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/14.jpg)
Comparison
Processor CPU freq (GHz)
Cores Processor power (W)
Machine power (W)
A9 (pandaboard) 1.2 2 ~ 1 < 5 (1 CPU)
Xeon 7140 (2006)
3.4 2 < 212 < 1470 (4 CPU)
Xeon E5440 (2007)
2.83 4 < 133 146 - 220 (2 CPU)
Xeon L5640 (2011)
2.26 - 2.8 6 < 90
- (2 CPU)
14
![Page 15: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/15.jpg)
Sequential performance 1/2
String sort IDEA Assignment LU decomposition Neural net0
1
2
3
4
5
6
7
8
Nbench 2.2.3
A9 7140 L5640 E5440
rela
tive s
peed
15
![Page 16: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/16.jpg)
Sequential performance 2/2
Numeric sort Huffman Emulated FP Fourier0
0.5
1
1.5
2
2.5
3
3.5
4
4.5
5
Nbench 2.2.3
A9 7140 L5640 E5440
rela
tive s
peed
16
![Page 17: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/17.jpg)
Multicore performance
Objective
test multicore performance &
inter-thread communication
Phoenix Benchmark : http://mapreduce.stanford.edu/
• Enterprise computing (Word Count, Reverse Index, String
Match),
• Scientific computing (Matrix Multiply),
• Artificial intelligence (Kmeans, PCA, Linear Regression), and
• Image processing (Histogram).
![Page 18: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/18.jpg)
Multicore performance 1/4
1 2 4 8 12
0
20
40
60
80
100
120
Phoenix 2.0 - Matrix multiplication
A9
7140
L5640
E5440
cores
tim
e
18
![Page 19: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/19.jpg)
Multicore performance 2/4
1 2 4 8 12
0
10
20
30
40
50
60
Phoenix 2.0 - Kmeans
A9
7140
L5640
E5440
cores
tim
e
19
![Page 20: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/20.jpg)
Multicore performance 3/4
1 2 4 8 12
0
1
2
3
4
5
6
7
8
9
Phoenix 2.0 - String match
A9
7140
L5640
E5440
cores
tim
e
20
![Page 21: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/21.jpg)
Multicore performance 4/4
1 2 4 8 12
0
0.5
1
1.5
2
2.5
3
Phoenix 2.0 - Histogram
A9
7140
L5640
E5440
cores
tim
e
21
![Page 22: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/22.jpg)
Millicluster
Let’s cluster ARMs
Ex: 96 cores @ 1.2 GHz, 200 W Pandaboard-based at MITp owered by
solar panel.
http://www.phoronix.com
22
![Page 23: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/23.jpg)
Millicluster based on Calxeda
SoC:
Quadcore A9 @ 1.4 GHz
SIMD, FPU, 4MB L2
80 Gb/s crossbar switch
Latency 200 ns
Card: 4 SoC
Rack:
12 cards → 192 cores
2U rack
Max 300 W
http://boston.co.uk 23
![Page 24: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/24.jpg)
Millicluster
24
![Page 25: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/25.jpg)
Millicluster applications
25
What are millicomputing clusters good for ?
![Page 26: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/26.jpg)
Potential Application : Key - Value
“FAWN: A fast array of wimpy nodes”, Andersen et al. 2008
Distributed key-value storage service (with more reads)
Tiny nodes:
800Mhz XScale CPU Marvell PXA 320
Flash storage
Heterogeneous and balanced architecture
Load balancing of independent requests
→ Web applications, DNS service
26
![Page 27: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/27.jpg)
Potential Application : DBMS
“Wimpy Node Clusters: What about non-wimpy workloads?” Lang et al.
2010
Parallel DBMS (full fledge database including ACID properties, not just
key-value)
Atom vs Xeon, SSD vs HDD, single vs cluster
Raised question: scale-out improves performance?
→ Performance, price, energy are worse
Cause: parallel DBMS (startup, interference, skew)
Warning: simulation study only, Atom and not ARM, application specific
27
![Page 28: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/28.jpg)
Potential Application: Web server
Independent parallel requests:
→ multiple cores / multiple CPUs / multiple hosts
Independent processing across dimensions:
Storage:
Geographic distribution, caching (CDN)
Independent data (Facebook)
Networking:
balanced system design (match network performance)
Computing:
customers are independent (stateless components)
28
![Page 29: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/29.jpg)
Potential Application: Cloud Computing
Web considerations apply: independent tasks
Specific cloud services:
Virtualization ?
Storage (key/value), archives
CDN (latency based routing)
Database service (RDBMS ? NoSQL)
Messaging API
Map-reduce, e.g. companies like Heroku, Iron.io
29
![Page 30: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/30.jpg)
Potential application HPC: http://www.montblanc-project.eu/
30
Samsung Exynos 5 Dual is built on 32nm low-power HKMG (High-K
Metal Gate), and features a dual-core 1.7GHz mobile CPU built on
ARM® Cortex™-A15 architecture plus an integrated ARM Mali™-
T604 GPU for increased performance density and energy efficiency.
Millicomputing for HPC Exascale, Montblanc project
![Page 31: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/31.jpg)
Vision
31
Short/Medium terms:
- Millicomputing is a reality:
main manufacturers and some key customers are in
Long term/perspectives
- Hybrid architectures
- Convergence
- Software engineering needs to adapt
![Page 32: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/32.jpg)
Research perspectives
32
GreenIT:
Dynamic multi-agent energy efficient load balancing
Green@cloud:
Cloud brokers
Millicomputing and VMs
Evocloud:
Energy efficient communications
To come:
Hybrid architectures and opportunistic computing
Advert: greencloud.gforge.uni.lu
![Page 33: Entretiens Jacques Cartier : Vers des Technologies de … · 2012. 11. 22. · Entretiens Jacques Cartier : Vers des Technologies de l'Information écologiques et efficaces en consommation](https://reader033.vdocuments.net/reader033/viewer/2022051914/60059e1694a1197bb61d16d6/html5/thumbnails/33.jpg)
Thank you
(Questions)