AMD Instinct MI300C, tvrdá konkurence pro Sapphire Rapids HBM, potvrzen
Zdroj: AMD
AMD již ohlásila Instinct MI300A s CPU+GPU jádry a Instinct MI300X čistě s GPU jádry. V tichosti však chystá ještě třetí model, Instinct MI300C. Ten paradoxně nejspíš neobsahuje žádná GPU jádra…
O Instinct MI300C bylo již slyšet přinejmenším 2×. V květnu jej zmínil YouTube kanál AdoredTV a v červnu web TheNextPlatform. Teprve nyní však máme potvrzeno, že jde o hmatatelný projekt a nikoli jen spekulaci. Zmínky o Instinct MI300C se totiž objevily v linuxových patchích, které mimo samostatnou existenci hardwaru potvrzují, že toto řešení obsahuje přinejmenším jeden procesorový čiplet.
Koresponduje se staršími zvěstmi, že by Instinct MI300C mohl být variantou postavenou čistě na procesorových jádrech (i když asi zatím nelze zcela jistě vyloučit možnost, že jen procesorová jádra budou převažovat nad GPU jádry), tedy v podstatě procesor vybavený HBM pamětmi.
Jaký smysl takové řešení může mít? V podstatě podobný jako Sapphire Rapids-HBM. Primárně pro procesorovou akceleraci jazykových modelů (AI), které těží právě z uložení na úrovni HBM, jež je podstatně rychlejší než jen generické DDR5 dostupné klasickým Xeonům / Epycům. Instinct MI300C by samozřejmě bylo možné využít všude, kde je rychlost DDR5 limitujícím prvkem a na druhé straně V-cache (např. Genoa-X) kapacitně nedostačující.
Instinct MI300X (AMD)
Pouzdro Instinct MI300 dává prostor pro 12 osmijádrových čipletů, tedy celkem 96 jader Zen 4 a k tomu HBM3, nejspíš o kapacitě 128-192 (možná až 256?) GB. Vyšší hodnoty jsou sice technologicky možné (s dnešními HBM3 a zvoleným rozhraním až 512 GB), ale s ohledem na cílové nasazení by to nemělo smysl.
Stále je však potřeba mít na mysli (i proto jsem výše použil termín projekt, nikoli produkt), že AMD Instinct MI300C neohlásila a tudíž může jít pouze o testovací platformu pro příští generaci (Zen 5 s HBM je jakožto produkt plánovaný k vydání neoficiálními zdroji potvrzený) a nikoli řešení, které bude reálně dostupné. Trh pro kombinaci procesorových jader a HBM sice existuje, ale není příliš velký a pro většinu zákazníků jsou v tomto segmentu (zpracování velkých jazykových modelů) preferovaným produktem výkonné akcelerátory. I vzhledem k tomu, že k vydání Zen 5 může dojít již kolem pololetí příštího roku (a Instinct MI400C nemusí být daleko), nelze vyloučit možnost, že Instinct MI300C zůstane jen v laboratořích. Pokud ne, dozvíme se o něm brzy, k ohlášení by se hodila například nadcházející akce HotChips (konec srpna).
Zdroje:
