Snahy Intelu o vstup do světa AI akcelerátorů se datují již k sérii Xeon Phi postavené na projektu Larrabee. Na těch měl stát původní superpočítač Aurora a právě požadavky na akceleraci některých formátů (snad minimálně FP16 z důvodu využití v AI) Argone Labs vznesla. Jenže Intel nezvládal spojit podporu akcelerace formátu FP64 (double precision) s FP16 v jednom čipu a celý projekt dostal (další) skluz. Pozdější snahy s Xe-HP, ať už v podobě monolitů nebo dlaždic, nevyšly, a Intel šel nakonec cestou Xe-HPC alias Ponte Vecchio, poměrně složitého dlaždicového řešení.

Již tehdy měl zřejmě pocit, že ani tento pokus nedopadne zcela dokonale a provedl akvizici společnosti Nervana, která skončila úplným nezdarem (na získaných technologiích nedokázal Intel postavit nic, co by mohl vůbec poslat do sériové výroby a na trh). Následovala akvizice Habana Labs, jejíž AI akcelerátor Gaudi vypadal podstatně lépe, ale dotažení vývoje a přerod na komerčně dostupný produkt vyžadoval čas navíc.

(Intel)

Tento skluz se Intelu nepodařilo dohnat doposud - nyní na akci AI Everywhere ohlásil, že vydání třetí generace, tedy Gaudi 3, proběhne v roce 2024, čip bude vyráběn 5nm procesem (TSMC) a půjde o konkurenta Nvidia H100 a AMD Instinct MI300. Podle China Times snad Intel partnerům prezentuje, že by Gaudi 3 měla být výkonnější než Nvidia H100. Jenže zatímco obě konkurenční řešení jsou dostupné již v letošním roce (Nvidia ohlásila širokou dostupnost H100 na jaře 2023, AMD začala dodávat MI300 partnerům někdy v létě a široká dostupnost následovala na podzim), Gaudi 3 bude podle Intelu dostupný v příštím roce. Trochu zvláštní je, že nepadlo žádné konkrétnější datum. Ještě na květnové ISC maloval Intel Gaudi 3 před atomové Xeony Sierra Forest, které se chystají na jaro 2024. Pokud však nyní byl potvrzen pouze rok 2024, nikoli první polovina roku 2024, nelze vyloučit, že si Intel již jarním vydáním není jistý.

Pokud by Gaudi 3 byl dostupný od léta, vyjde jen krátce před Nvidia (Blackwell) B100, který se chystá cca na podzim 2024 a zároveň zhruba v polovině cyklu AMD Instinct MI300 (nástup Instinct MI400 lze odhadovat zhruba na první pololetí 2025), takže éra, po kterou dobu by Gaudi 3 mohl existovat jako alternativa na úrovni konkurenční nabídky (tedy bez podstatně rychlejší konkurence), zůstane poměrně krátká.

(Intel)

Druhým problémem Gaudi 3 je jeho samotná podstata. Nvidia H100 i AMD Instinct MI300 jsou komplexní řešení. Zvládají akceleraci AI, ale zvládají i (vektorové) výpočty. Řada Gaudi jsou čistě AI akcelerátory. Firem, které nabízejí čistě AI akcelerátory, existuje řada a Intel tak nekonkuruje (jen) AMD a Nvidii, ale celému zástupu různých značek. Kouzlo produktů jako jsou H100 a MI300 tkví právě v tom, že jsou univerzální a lze na nich efektivně provozovat jak maticové (AI), tak vektorové (klasické) výpočty. Pokud zákazník žádá víc než jen čistě AI akceleraci, nemá mu Gaudi co nabídnout. Právě tento segment chtěl Intel pokrýt s Xe-HPC neboli Ponte Vecchio, ale to dosáhlo takového zpoždění a jeho efektivita zůstala tak nízká, že je krom superpočítače Aurora, pro nějž čip vznikl, známý snad jediný zákazník, který systém postavený na těchto akcelerátorech objednal. Intel proto zrušil i jeho nástupce (Rialto Bridge) a stejně tak zrušil vývoj Gaudi 4 a namísto těchto dvou řad připravuje jedno řešení, které by mělo být použitelné jako AI i výpočetní akcelerátor. Falcon Shores, jak se jmenuje, měl být původně vybaven i procesorovými jádry, ale z toho sešlo a již letos na jaře jej Intel prezentoval pouze jako „GPU“.