Nvidii se v minulém roce podařilo vydělat velké množství peněz na prodejích AI akcelerátorů generace Hopper. Nezajistila si však výrobní kapacity, které by zvládly pokrýt poptávku, a tak doba dodávek dosáhla jednoho roku a z důvodu nedostupnosti cena vystoupila na několikanásobek původně avizované částky.

Struktura Instinct MI300X (AMD)

Některé firmy se navzdory navázání spolupráce s Nvidií rozhodly tuto cestu opustit a namísto ročního čekání hledat štěstí jinde. Na podzim to byl například Oracle, který původní plány postavit nový systém na bázi Nvidia Hopper opustil, objednal akcelerátory Instinct MI300X od AMD a prohlásil, že případnou další spolupráci s Nvidií vyhodnotí po pololetí 2024 podle dostupnosti akcelerátorů. Nvidii opustil také Naver, jenž se rozhodl zkusit štěstí u Intelu.

• Oracle postaví AI infrastrukturu na Instinct MI300X od AMD, s Nvidií skončil
• Čekací doby na Nvidia Hopper dosáhly roku, cena $60 000, Naver přechází k Intelu

AMD mezitím zahájila dodávky akcelerátorů řady Instinct MI300 a dodavatelé jsou překvapeni, že hardware dorazil a navíc dodávky plynule pokračují. Řadu MI300 využívá mj. Gigabyte, Wistron, Wiwynn a Quanta, z nichž Gigabyte figuruje jako exkluzivní partner. Šéf společnosti ujistil zákazníky, že s dodávkami „AI serverů v letošním roce rozhodně nebude problém.“

Systém s osmi Instinct MI300 (AMD)

Ekonomický deník UDN získal vyjádření jednoho z Tchaj-wanských dodavatelů AI systémů. Ten si pochvaluje plynulé dodávky AMD Instinct MI300X a dodal, že s ohledem na nedostupnost akcelerátorů od Nvidie je „příchod nových produktů AMD darem z nebes“.

Zprávy a tweety o obdržení systémů s Instinct MI300 od koncových zákazníků přicházejí od poloviny ledna. CEO LaminiAI Sharon Zhou se pochlubila systémem s osmi Instinct MI300X již 19. ledna.

• Nvidia: H100 je stejně rychlejší než MI300X. AMD: Ale není.

AMD velmi rychle postupuje s vývojem své softwarové platformy ROCm. Když při vydání Instinct MI300X začátkem prosince odprezentovala výkonnostní výsledky, Nvidia se jich zhruba za týden chytila tvrdila, že její Hopper je stejně rychlejší, což se snažila prezentovat grafem s vlastními čísly. Následně vyšlo najevo, že čísla Nvidie pocházejí z výpočtů s nižší přesností a když na situaci s odstupem dalších několika dní reagovala AMD, oznámila, že Instinct MI300X je díky novým optimalizacím softwarové platformy v dané zátěži oproti Hopperu rychlejší, i když Instinct počítá s vyšší přesností.