Čekací doby na Nvidia Hopper dosáhly roku, cena $60 000, Naver přechází k Intelu
O AI akcelerátory Hopper je vysoký zájem, na druhou stranu ho Nvidia nestíhá pokrýt a přichází o (dosud) věrné zákazníky. Dalším je korejský Naver, který odmítl akceptovat čekací dobu 52 týdnů…
Díky kombinaci vysokého výkonu a podpory patří Nvidia Hopper k nejžádanějším AI akcelerátorům na trhu. Pro většinu odběratelů jsou však čím dál palčivějšími problémy vysoké ceny a problematická dostupnost. Čekací doba mezi objednávkou a dodání stoupla na 52 týdnů, což odpovídá celému roku. Pokud si tedy nějaká společnost hardware od Nvidie objedná, užije si ho na příští Vánoce.
Hopper GH100 (Nvidia)
To přestává být akceptovatelné pro čím dál více zákazníků, kteří jsou nuceni řešit situaci alternativními cestami. Minulý měsíc vyplynulo, že Oracle, který v březnu oznámil dohodu s Nvidií o koupi 32 768 AI GPU, na nichž postaví vlastní systém pro AI (OCI), nakonec nebude čekat a systém postaví na Instinct MI300X od AMD. Pokud se vrátí k Nvidii, nestane se tak dříve než v pololetí 2024.
Dalšími „zběhy“, byť zatím bez oficiálního puncu, mají být Microsoft, Amazon a Meta, kteří přinejmenším uvažují o MI300X a oficiálně IBM, která zvolila akcelerátory NeuReality NR1 AI postavené na FPGA Xilinx / AMD.
Další velkou firmou, která čekání na Hopper vzdala, je jihokorejský Naver. Společnost, která provozuje největší vyhledávací portál v zemi a aktuálně nakupuje hardware pro aktualizaci svých systémů, byla dlouhodobě věrná Nvidii. Současné ceny v kombinaci s roční čekací dobou však odmítla akceptovat a dohodla se s Intelem. Zatímco dříve v letošním roce nakupovala akcelerátory Nvidie za zhruba $30 tisíc za kus, aktuální cena dosahuje zhruba $60 tisíc za kus.
Xeon Emerald Rapids (Intel)
Naver používá AI model k rozlišování reálných a falešných dat pro zpracovávání dotazů zadaných uživateli do vyhledávače. Namísto dosud používaných AI akcelerátorů Nvidie nyní nasadí hardware Intelu, kupodivu Xeony. Intel sice u některých modelů Sapphire Rapids nabízí integrované akcelerátory různých úloh, ale jejich výkon není srovnatelný se samostatnými akcelerátory. Buďto Intel musel přijít s velmi zajímavou cenovou nabídkou, nebo část informace chybí a krom Xeonů jsou předmětem zakázky i nějaké akcelerátory. Je tu však i možnost, že předmětem smlouvy nebudou stávající Xeony Sapphire Rapids, ale na konec roku chystané Emerald Rapids, které by mohly posunout potenciál integrovaných akcelerátorů. To ukáže čas.
