Vaše jednička mezi nulami
ITBiz.cz

M Computers nejen s Nvidia pro AI a ML

Richard Jan Voigts , 12. duben 2018 15:20 0 komentářů
Rubriky: Cloud, Telekomunikace, Ekomerce, Operační systémy, Technologie, Podnikový software, Security, Počítačové hry, Návody a průvodce, Linux, Rozhovory, Vývoj a HTML, Marketing, Internet, Hardware, České IT, Science, Byznys
M Computers nejen s Nvidia pro AI a ML

M Computers dodává servery vlastní výroby na platformě x86, ale i x86 servery Lenovo, Huawei a IBM Power. Nedávno ohlásili partnerství s Nvidia. Co to pro M Computers obnáší? Jsou to jediné novinky? Ptali jsme se Petra Plodíka, obchodního ředitele M Computers.

Partnerství se společností Nvidia se nám podařilo uzavřít v loňském roce 2017. Nvidia je lídrem na poli grafických karet pro akcelerované výpočty, oblast umělé inteligence (AI – artificial intelligence) a strojového učení (ML – machine learning). Stali jsme se jejím preferovaným oblastem pro dvě oblasti. Za prvé pro accelerated computing, což jsou právě ony grafické karty. Druhou oblastí, kde jsme pro Nvidia partnery, je oblast AI a ML, pro které má Nvidia svoje speciální řešení DGX-1, kdy zákazník od ní dostane v jednom boxu pro ML úplně všechno. Pro Nvidia jsme pro Českou republiku a Slovensko prvním a jediným partnerem. V podstatě tuto firmu zastupujeme pro region střední Evropy, včetně Maďarska, pokud by problematiku AI a ML řešili také a požádali nás o pomoc.

Proč jste uzavřeli další partnerství zrovna s Nvidia?

Petr Plodík, M Computers
Petr Plodík, M Computers
M Computers vnímá společnost Nvidia jako lídra mezi výrobci IT technologií. Jsme přesvědčeni, že jsou v oblasti AI a ML nejdál. Byl to pro nás logický krok, protože historicky dodáváme superpočítače do akademické sféry na univerzity a Akademii věd ČR, kde se AI a ML samozřejmě zabývají. Grafické akcelerátory (GPU – graphic processing unit) od Nvidia představují zajímavou, a hlavně rostoucí oblast a přes tyto aplikace jsme se dostali právě ke společnosti Nvidia. Osobně se mi na Nvidia líbí i to, jak je dravá. Má super technologie, skvělý tah na branku, jejich spoluzakladatel a generální ředitel Jensen Huang ví, kam firmu posouvat dopředu správným směrem. Jensen Huang dokonce tvrdí, že GPU výpočty budou v roce 2025 řádově tisíckrát rychlejší, než výpočty na tradičních CPU, a stále tak udrží krok s Moorovým zákonem. Cítíme také velkou podporu partnerům, aby mohli dobře obsloužit koncový trh.

Co tedy můžete jako preferovaný partner Nvidia nabídnou koncovým zákazníkům?

Především máme přístup ke zdrojům Nvidia, to znamená k technickým specialistům, testovacímu hardwaru i softwaru. Pokud tedy někde řešíme nějaký problém, máme přístup k lidem, kteří tyto technologie vyvíjejí a umějí s nimi zacházet. Znamená to tedy, že nám mohou pomoci s testováním, a pokud už někde něco nasazujeme, tak i zde.

Další je, že Nvidia vybudovala silný partnerský program, jak už jsem nastínil. Jeho součástí je přímá podpora koncovým zákazníkům, kdy jim může partner, jakým je M Computers, určitým skupinám zákazníků nebo na určité produkty poskytnout speciální ceny nad rámec toho, co jinak dostaneme schváleno od našich tradičních dodavatelů. Nvidia proti nim navíc nejde, protože kartami od Nvidia mohu osadit servery Lenovo, IBM, Huawei, SuperMicro, nebo i naše vlastní. Je to super mix a krásně tak naše portfolio doplňuje.

Promoceny jsou zajímavé zejména pro oblast vysokých škol a ostatní akademické sféry. Nvidia kromě toho hodně podporuje i startupy. Pokud některý zákazník spadá do kategorie startupů v oblasti AI nebo ML, dokážeme mu díky tomuto programu Nvidia nabídnou velmi speciální cenu.

Není tajemstvím, že s kartami GeForce byly problémy s licencováním, kdy se Nvidia stavěla na zadní ohledně jejich osazování do datacenter. Jak tato situace vypadá dnes?

Nvidia zavedla trochu překvapivě od prosince 2017 nový licenční model. Každý, kdo si stáhl software, resp. ovladače pro karty Nvidia GeForce, musel zároveň odsouhlasit, že tato karta, která se standardně používá do grafických stanic a herních počítačů, nebude nainstalována do datového centra. Co je to ale datové centrum, masové nasazení? Vysvětlením je, že pokud někdo má grafickou kartu Nvidia GeForce a dá ji do serveru, porušuje tím licenční podmínky Nvidia, která ji do této pozice Nvidia stavět nechce. Jenže prakticky celá akademická obec byla postavena právě na tom a osazovala svoje servery pro urychlování výpočtů kartami GeForce. Byla to běžná praxe a myslíme si, že nejen u nás, ale i jinde po světě. Nvidia proto chce tímto krokem zamezit používání GeForce v serverech a chce, aby se v nich používaly karty, které jsou pro ně určené, kterými jsou dnes karty Tesla, Volta, Pascal apod.

Není tento krok ze strany Nvidia také zaměřen proti těžbě kryptoměn servery?

Myslím ze ano, že to tak bylo primárně postaveno. Například v Nizozemí postavili velké cloudy, v nichž poskytovali levný výpočetní výkon právě na serverech s kartami GeForce. Jenže Nvidia má do datových center jiné karty, a ty tam také chce prodávat.

Druhou stranou mince ale samozřejmě je, že urychlovací karty GPU Nvidia typu V100, P60, P100 do datových center jsou několikanásobně dražší.

Co s tím ale bude akademická sféra dělat?

Právě pro ni jsou určeny podpůrné programy od Nvidia a jsou přístupné přes nás, M Computers, které pro ně vypsala. Univerzity a vysoké školy díky němu mohou nakupovat přes M Computers levněji. Bavíme se například o kartách V100, které dostanou za speciální cenu. Nemohou tedy v serverech používat GeForce, ale dostanou výraznou slevu na ty, které jsou pro servery určeny, aby jim tento krok kompenzovala.

Mohl byste tedy pro pořádek stručně vyjmenovat a kategorizovat grafické karty GPU od Nvidia?

Nvidia má tři skupiny grafických karet. GeForce se používají primárně do herních počítačů, a právě ty hojně využívali těžaři kryptoměn. Na konci loňského roku úplně vykoupili trh, byl vůbec problém je sehnat. Jde o karty GeForce 1060, 1070, 1080TI apod. Dále vyrábí karty Quadra do profesionálních pracovních stanic pro aplikace CAD/CAM/CAE, jako je například Autocad. Nakonec jsou to karty pro datová centra pro superpočítače, aplikace AI a ML. Jde o karty postavené na technologii Tesla; dříve se jmenovaly Pascal, aktuálně je k dispozici řada Volta – V100.

Jsou u vás některé další novinky?

Ohledně Nvidia určitě. Dvakrát do roka pořádají konferenci GTC – GPU Technology Conference, jednou v Americe, podruhé v Evropě. Právě před týdnem (druhý týden v dubnu 2018) skončila její americká verze. Jelikož je oblast GPU hodně živá, bylo také hodně novinek. Nvidia má přece jen nejvýkonnější akcelerátor pro servery, dnes už se 32 GB paměti. Umožňuje je to nasazovat pro učení větších modelů, ale i například pro virtualizaci pracovních stanic, protože pro ně mají větší paměť. Je to opravdu krásný kousek hardwaru pro vědce.

Druhým velkým oznámením bylo pokračování vlajkové lodi DGX-2, což je v podstatě superpočítač – server se dvěma procesory Intel Xeon a se 16 nejvýkonnějšími akcelerátory V100, propojených supervýkonnými přepínači NVSwitch s celkovou propustností 14,4 TB/s – pro představu přenese 1 400 filmů v HD kvalitě za sekundu! Hlavní keynote má vždy zakladatel a výkonný ředitel Jensen Huang a ten těch novinek vždy řekne opravdu hodně.

To se přece všechno ale stále točí jen okolo Nvidia?

Máte pravdu, máme i další. Například naše spolupráce s IBM také dostala nový rozměr. Opět se však týká spolupráce s Nvidia, protože IBM má společně s ní vyvinuté moc pěkné řešení, které se opírá o její novou procesorovou platformu Power 9. Jde o první procesory na trhu vůbec, které v sobě mají rychlé sběrnice. Tradiční architektura x86 už totiž má trochu problém s propustností sběrnic. IBM Power 9 má jednak PCI Gen4, jednak další rychlou sběrnici procesoru NVlink. Ta slouží pro rychlou komunikaci mezi GPU, ale i mezi GPU a CPU, a tedy pamětí serveru (RAM). Díky tomu lze podstatně rychleji přenášet data a celý výkon systému se tím podstatně urychlí. Spolupráce IBM a Nvidia je už dlouhodobá a probíhá v konsorciu OpenPower a toto je první reálný výsledek, opravdu moc pěkná věc.

Navíc se nám podařilo dostat od IBM do České republiky testovací server, který má dva procesory Power 9 a čtyři GPU V100. Je to to nejvýkonnější, co bychom si vůbec mohli pro AI a ML přát, prostě superpočítač za dva miliony. Půjčujeme ho zákazníkům na testování. V testování se ukazuje, že zrychlení je násobné, řádové.

Je toto zrychlení markantní i proti serverům s procesory Intel Xeon a GPU Nvidia?

Abychom nebyli nefér – jednou věcí jsou procesory Power 9, další záležitostí jsou GPU. Intel sice zatím nic se superrychlou sběrnicí NVlink nemá. Servery s Power 9 a GPU od Nvidia jsou sice rychlejší, zásadní však je, že vědci a startupy počítají na platformě Intel. Využívají standardní frameworky pro AI a ML, jakými jsou Tensorflow, Cafee, Theano apod. Ty ale fungují na platformě Power úplně stejně. Obě platformy také pracují na standardním Linuxu. Také servery s procesory IBM Power komunikují s těmito CPU přes operační systémy Ubuntu Linux nebo Red Hat Linux, které si CPU obslouží samy, včetně počtů vláken na procesorové jádro (Intel Xeon má dvě vlákna na jádro procesoru, IBM Power jich má osm). Programy pro AI a ML na těchto frameworcích běží na vyšších softwarových vrstvách, nekomunikují přímo s procesory, to je základ kouzla. Jestliže mají něco vyvinuté, a my jim půjčíme náš stroj, oni na něj ten svůj kód jen překlopí a vidí okamžitě zrychlení. Pro nás je hezké, že jim takový stroj můžeme půjčit, ukázat, předvést, aby si to vyzkoušeli. Opravdu pak stačí jen vzít stejná data a prohnat je přes takový server stejným způsobem a sledovat rozdíl.


Komentáře

Přidat komentář