metacentrum – gridy pod mrakem

EUNIS 4.6.2013MetaCentrum - gridy pod mrakem 1

MetaCentrum – gridy pod mrakemMetaCentrum – gridy pod mrakem

Jiří Sitera, Miroslav Ruda, Luděk Matyska

http://www.metacentrum.cz/

MetaCentrumMetaCentrum

►Česká akademická infrastruktura pro náročné výpočty►Od roku 1996, původně MU, UK, ZČU►Dnes součást e-Infrastruktury CESNET►Národní gridová infrastruktura (NGI)

Propojení kapacit různých projektů/univerzit/organizací napříč ČR

Propojení ČR do mezinárodních aktivit (EGI – European Grid Infrastructure) www.egi.eu

Cíl: zvýšení konkurenceschopnosti VaV týmů


MetaCentrum – dostupné zdrojeMetaCentrum – dostupné zdroje

►8500 CPU jader, HD uzly (2x4-8 jader) i SMP stroje (32-80 jader)

►550 TB datové prostory (plus řádově PB datová úložiště CESNET)

►Infiniband►GPGPU Tesla►Až 1,5 TB v uzlu►Rychlý scratch disk


Grid – co to vlastně je?Grid – co to vlastně je?


Grid - první pohledGrid - první pohled

► Dávkové zpracování úloh Zadání úlohy (odkaz na data, řídící skript, případný paralelismus) Čekání ve frontě, hledání odpovídajících zdrojů (plánovač) Přidělení zdrojů, spuštění v definovaném prostředí (OS,

knihovny, aplikace, autentizace, přístup k datům, atd.) Ukončení výpočtu, uvolnění zdrojů, oznámení uživateli


Plánovač

Job Job Job Job JobSoubor zdrojů

Fronta

Grid jako koncepce MetaCentraGrid jako koncepce MetaCentra

►Propojování zdrojů (analogie power grid) Výpočetní uzly, diskové systémy, experimentální přístroje Zdroje různých vlastníků, pořízené za různých podmínek Přelévání/slévání kapacit dle daných pravidel, organizace

výpočetních prostředí do vyššího celku

►HPC (high performance computing) prostředí Orientace na výkon, náročné a nadstandardní úlohy Software (180 instalovaných SW balíků)


Grid a jeho flexibilitaGrid a jeho flexibilita

►MetaCentrum propojuje Propojený systém zdrojů různých vlastníků Zdroje dostupné různými způsoby, vlastně různé gridy

►Virtuální organizace (VO) Nástroj pro zvládnutí různorodosti, princip „rozděl a panuj“ Delegace pravomocí, uvnitř VO mají správci vysokou autonomii Podpora různých potřeb komunit a týmů, např. možnost instalovat

vlastní aplikační SW, dedikovat HW, atd.

►Integrovaná infastruktura Společná národní AAI (uživatelé, jejich identity) Úzká integrace s datovými úložišti


A kde je ten cloud?A kde je ten cloud?


Cloudové rozhraní MetaCentraCloudové rozhraní MetaCentra

►Technická podstata – uživatelská virtualizace Namísto jobů (programů) uživatel zadá celý virtuální stroj

(včetně operačního systému) Koncepčně stejný přístup jako k jobům


Plánovač

Job VM VM Job VMSoubor zdrojů

Fronta

HPC cloudHPC cloud

►Zobecnění a větší flexibilita proti gridu Výpočet lze zadat včetně kompletního prostředí pro běh Uživatel dostane práva superuživatele (systémový SW,

knihovny, OS, vše v jeho kompetenci) Snížení vstupního prahu pro týmy (existující vlastní prostředí,

vlastní správce, speciální požadavky)

►HPC cloud Stejný přístup jako u výpočetních úloh – plánování, přidělení,

výpočet, ukončení Pro náročné výpočty, nikoli pro provoz permanentních služeb


Virtuální clusterVirtuální cluster

►Uživatel požádá o celý cluster Obdoba paralelního výpočtu Vlastní plně dedikovaný cluster ve své správě

►Síť jako nový zdroj (resource) Virtuální síť (L2 segment, VLAN) jako nový zdroj dostupný

uživatelům (přiděluje plánovač podobně jako třeba CPU) Díky schopnostem sítě CESNET může být rozprostřena přes ČR Důsledky: stroje mohou být uživatelské včetně uživatelské IP

adresy, privátní VLAN, celá síť uzlů různých rolí, atd.


VM VM VM VM

Dedikovaná VLAN

Use case: nové možnostiUse case: nové možnosti

► Potřebuji pro aplikaci jiný OS (typicky MS Windows) Vlastní vývoj, komerční aplikace, složitá nebo nemožná portace Žádné podmínky ze strany MetaCentra (autentizace, autorizace,

dávkový systém, bezpečné protokoly a SW, atd.)

► Vlastní nástroj pro řízení zpracování (workload manager) Vlastní vývoj, BOINC, jednoduché skripty na míru Příklady: průběžné testování vyvíjeného SW, genetické

programování

► Buduji celé prostředí Příklady: testovací polygon pro bezpečnostní výzkum sítě, simulace

distribuovaného systému (SmartGrids – sběr dat a řízení v energetice)


Use case: rozšíření lokálního clusteruUse case: rozšíření lokálního clusteru

►Postavíme virtuální cluster, který Má VLAN napojenu na místní síť uživatele (L2 segment, kde je

fyzický cluster) Jeho uzly jsou kopie uzlů fyzického clusteru (obrazy)

►Uživatel vidí známé prostředí rozšířené o nové uzly S MetaCentrem interaguje jen správce lokálního clusteru Prostředí je stejné do všech detailů, nové uzly jsou nerozlišitelné

od fyzických (dávkový systém, autentizace, SW, konfigurace)


1 2 3 4 5 6 7 8

Fyzická část Virtuální část

Domácí síť uživatele

Use case: nafukovací službyUse case: nafukovací služby

►Příklad: nafukovací databáze Poskytuje interface: ulož data, vyhledej Distribuovaná na několik uzlů (data, indexy, paralelizace dotazů) Umí automaticky měnit velikost (počet uzlů)

Interní servisní proces řídí replikaci dat, tvorbu indexů, optimalizaci dotazů Přidáváním/ubíráním uzlů se mění „jen“ kapacita, výkon

►Možný scénář: databáze běžící „v malém“ u uživatele se v případě potřeby experimentu „nafoukne“ do MetaCentra

►Příklady: ElasticSearch, MongoDB – viz následující přednáška


Naše mezinárodní spolupráce v cloudechNaše mezinárodní spolupráce v cloudech

►Federated clouds V rámci EGI (Evropské gridové infrastruktury) Mezinárodní kooperující skupina cloudů Propojení autentizace, bezpečnosti, accountingu, monitoringu,

informačních služeb Společná knihovna připravených obrazů virtuálních strojů Standardy pro cloudové rozhraní

OCCI Open Cloud Computing Interface CDMI Cloud Data Management Interface

Účast MetaCentra na vývoji a evropském testbedu


ReklamníReklamní vložkavložka


MetaCentrum je tu pro vásMetaCentrum je tu pro vás

►Pro výzkumné a výukové účely akademických institucí ČR, od jednotlivých studentů až po velké týmy

►„Platí“ se kvalitou a úspěšností vlastní práce Koncept: cílem infrastruktury je, aby její uživatelé měli kvalitní

výsledky Publikace s poděkováním, případně jiné reference na VaV

výsledky vzniklé díky MetaCentru Lepší výsledky = lepší priorita při přidělování zdrojů (motivační

systém, průběžný systém zadávání výsledků a nastavování priorit)

Počítat můžete začít ihned, na výsledky se ptáme až za rok


MetaCentrum je partnerMetaCentrum je partner

► Naším cílem je e-Infrastrukturou řešit potřeby VaV týmů Překonání dosavadních limitů – aplikací špičkové ICT

infrastruktury Nové možnosti – tam, kde dosud nebylo ICT třeba, nové přístroje,

nové objemy dat, nové zpracování existujících dat „Ambicí je nejen poskytovat služby, ale i posunout schopnost vědeckých

týmů využívat nové technologie a možnosti infrastruktury.“

► Konkrétní možnosti Semináře, cílené akce pro konkrétní skupiny Návrh a optimalizace algoritmů, modelů, nástrojů a prostředí Společné projekty – spolupráce informatiků a různých vědeckých

oborů


Národní akademická licence MatlabNárodní akademická licence Matlab

► Možnost získat skutečně národní plovoucí licenci Záměr je v souladu s EUNIS, Klubem ředitelů, CESNETem Máme podle našeho názoru přijatelnou nabídku Mathworks Jsou k dispozici finanční zdroje (VaVpI projekt eIGeR CESNET) Podle zkušeností z minulosti se jedná o výjimečnou příležitost

► Záměr rozvoje MetaCentra Poskytovat nákladný SW jako nový zdroj/službu dostupnou

samostatně Matlab je dobrý kandidát, nejužívanější placený SW v MetaCentru

(350 licencí, 150 simulink, 700 toolboxy) Provoz nové služby nejméně do roku 2020, k úspoře dojde na úrovni

institucí/projektů, nebudou potřebovat vlastní licence


Matlab – co je třeba k úspěchuMatlab – co je třeba k úspěchu

►Podpora institucí/týmů/projektů Deklarace zájmu, indikace dostatečného objemu uživatelů Do 15.6.2013 reakce institucí (deklarace zájmu, kontaktní

osoba) na dopis ředitele CESNETu rektorům

►Sestavení vhodné struktury licence Podklady do 30.6. https://www.surveymonkey.com/s/96THXBM Licence je strukturována (počet plovoucích licencí mezi toolboxy) Omezení ze strany Mathworks – min. 500 licencí na toolbox Během provozu nelze národní licenci jednoduše měnit (minimální

nákup opět 500 licencí); současné licence ale zůstanou platné a půjde dokupovat individuálně


ShrnutíShrnutí

►Cloudové rozhraní MetaCentra Flexibilita, kontrola prostředí uživatelem, speciální potřeby HPC Cloud – místo výpočtu celý obraz stroje, jinak jako grid

►Virtuální výpočetní cluster Komplexní abstrakce nad zdroji „v cloudu“ Nový zdroj dostupný uživatelům - síť

►Cíl: zlepšení pro uživatele Nové možnosti Odbourání některých bariér plného využití MetaCentra


Děkuji za pozornost

metacentrum – gridy pod mrakem

Documents