Diit.cz - Novinky a informace o hardware, software a internetu

Epyc Turin AI může nést až 6 AI čipletů o výkonu 1700 TOPS (~Hopper?)

Z generace Zen 5 patří sice Turin AI k časově nejvzdálenějším produktům, o to však zajímavějším. Vypadá to, že AI čiplet nebude pouze jeden, ale budou možné konfigurace o 2-6 na každý procesor…

Podobně jako u Zen 4 existují čiplety s 8 jádry Zen 4 a 16 jádry Zen 4c, tak i u Zen 5 budou existovat obdobné konfigurace. Jen s tím rozdílem, že nástupce aktuálně vydávaného 128jádrového Bergama (Zen 4c) bude mít 192 jader Zen 5c, což znamená osazení 12 procesorových čipletů (jako na úvodním snímku, kde je zachycen současný Epyc Genoa s podobnou konfigurací). Jedním z produktů, který „husté“ čiplety s jádry Zen 5c využije, bude Epyc Turin AI. Původně to vypadalo, jako by se Turin AI měl od klasického provedení lišit přítomnosti AI čipletu navíc, ale podle všeho to bude nejspíš jinak. AI čipletů bude osazeno více, podle MLID jich má být 2-6 a zdá se, že bude na výběr poměr osazených CPU : AI čipletů.

Každý AI čiplet by měl dosahovat výkonu kolem 280 TOPS (číslo berte hrubě orientačně, podle MLID jde o rozmezí 246-310 TOPS, ale přesný údaj nechce zveřejňovat, aby chránil svůj zdroj). Maximální konfigurace s 6 AI čiplety by pak dosahovala výkonu ~1700 TOPS. Bohužel není uvedena přesnost, ve které tohoto výkonu bude dosahováno, lze však čekat INT8. I to by bylo hodně (při INT16 by výkon ~1700 TOPS už byl vyslovený zázrak). Nvidia Hopper podle provedení v INT8 dosahuje cca 1500-2000 TOPS při TDP 350-800 wattů.

 

~1700 TOPS na procesoru by pak bylo podstatně úspornější řešení jak z hlediska prostoru, tak spotřeby, tak nejspíš i financí. Otázkou je řešení paměťové propustnosti, neboť samostatné akcelerátory mají k dispozici HBM paměti. Ty by v nějaké konfiguraci mohly být i řešení pro Turin AI, ale žádné zprávy o jejich použití nemáme a o HBM se mluvilo až v kontextu Epyců na bázi Zen 6 (tzn. nejdříve 2026). Může však jít prostě o řešení cílené na situace, které nebudou omezené paměťovou propustností, nebo mohou samotné AI čiplety nést určitou cache.

Jak bylo řečeno úvodem, Epyc Turin AI je jedním z posledních produktů postaveným na bázi páté generace Zenu a je nepravděpodobné čekat jeho vydání dříve než na jaře 2025, spíš tak kolem pololetí.

Tagy: 
Zdroje: 

Diskuse ke článku Epyc Turin AI může nést až 6 AI čipletů o výkonu 1700 TOPS (~Hopper?)

Neděle, 11 Červen 2023 - 18:39 | no-X | Je zajímavé, že videu MLID, na které se odkazují...
Sobota, 10 Červen 2023 - 12:49 | del42sa | https://www.notebookcheck.net/AMD-Strix-Point-...
Pátek, 9 Červen 2023 - 12:52 | bulldozer | Hopper H100 SXM: 2000 INT8 TOPS @700W, 3.35TB/s,...
Pátek, 9 Červen 2023 - 12:21 | Peetee | Protože nVidia nemá serverový ARM který by byl na...
Pátek, 9 Červen 2023 - 08:02 | Mirda Červíček | Tak zase trochu postřelit by jí mohli, protože...
Pátek, 9 Červen 2023 - 07:50 | del42sa | spíš hodně nepravděpodobná .-)
Pátek, 9 Červen 2023 - 07:38 | Mirda Červíček | Pokud by šlo extrémně drahé řešení ve stylu...
Pátek, 9 Červen 2023 - 07:04 | TyNyT | No, hypotetická úvaha, že by AMD tímhle...

Zobrazit diskusi