Čeká nás další průmyslová revoluce? Umělá inteligence zařazuje druhý stupeň | Kapitola 4
Seznam kapitol
Čas od času probleskují informace o nových funkcích AI, jako jsou filmy generované nástrojem Sora. To ale není to opravdu podstatné: To podstatné je, že se dostupné technologie pro vývoj AI skokově zlepšují, ať už jde o nový superčip Cerebras WSE-3, inferenční akcelerátory Qualcomm anebo Nvidia H200 oznámená na GTC March 2024.
Samozřejmě, nemůžeme vynechat našeho oblíbeného titána a občasného dodavatele námi milovaných grafických karet, Nvidii. Ano, ve chvílích, kdy se svíjíme při pohledu na cenovky nových grafik, je patrně nemáme moc rádi, ale momentálně se jim v AI daří tak a jejich zisky stoupají takovým stylem, že můžeme být vůbec rádi, že se na nás něco dostane.
Pravda je totiž taková, že poptávka po AI akcelerátorech doslova drtí trh a ceny jsou naprosto šílené. U nás si například můžete na Supermicro můžete předobjednat kartu pro PCIe s H100 za lidových 885 483 Kč s DPH, takže jestli vám, holomci, přijde padesát litrů za grafiku málo, tak si nevážíte toho, co máte!!!
A navíc pro tyhle super duper produkty platí politika NCNR (Non-Cancellable, Non-Returnable) a musíte doložit, kdo je koncový zákazník, protože jde o embargované zboží. Chce po vás někdo, aby vám manželka doložila, že vám tu grafiku fakt schválila? Nechce! Tak šup, padesátku na stůl a jeď, veverko!
Je to tak, na trhu panuje absolutní hlad po AI akcelerátorech, takže se po vlastních AI akcelerátorech sápe AMD s jejich akcelerátory AMD Instinct MI 300, samozřejmě i Microsoft s jejich Microsoft Azure Maia 100, a svoje vlastní akcelerátory plánuje stavět i OpenAI.
Ale faktem je, že mainstreamové AI akceleraci vládne Nvidia – a nemíní s tím přestat, jak demonstroval na své prezentaci na GTC 2024 19. března Jensen Huang. Byla to veliká show, která „připomínala koncert“, jak šéf Nvidie zmínil – a věru mají co oslavovat, protože zatímco konkurence se snaží, oni mají nový procesor Nvidia H200 včetně desek a infrastruktury, která je kompatibilní s infrastrukturou pro H100, takže když na to máte love a umíte se u Nvidie nějak procpat frontou čekajících, můžete prostě vyměnit H100 Hopper za H200 Blackwell.
Jejich Blackwell je masivní věc, je to „AI superchip“, který vznikl fúzí dvou fyzických 5nm čipů tak, že z logického hlediska se chová jako jediný čip se 208 miliardami tranzistorů (2,5× větší než H100 Hopper) a 16896 jádry. Každý čip využívá až 141 GB RAM na paměťové sběrnici o šířce 5120 bitů. Vše je postavené s ohledem na škálovatelnost, která přes NVLink dovoluje propojit až 576 GPU obousměrným propojením s propustností až 900 GB/s.
Celá deska zahrnuje dva H200 a jeden řídící procesor Grace, který podle specifikací taky není žádné ořezávátko, ale má 72 jader ARM Neoverse V2 a slouží primárně k řízení činnosti obou GPU. Udávané TDP tohoto celku je „až 2700 W“, čili opět se bavíme o zařízení vyžadujícím datacenterové napájení i chlazení. Celé se to samozřejmě osazuje do racků – a celé to může být opravdu, opravdu veliké.
Komentáře naleznete na konci poslední kapitoly.
