Diit.cz - Novinky a informace o hardware, software a internetu

Instinct MI300C se vrací do hry jako custom-Epyc s HBM pro Microsoft Azure

Zdroj: Microsoft

Microsoft ohlásil novou platformu postavenou na verzi procesorů Epyc s HBM pamětmi, která má být postavená na míru. Kombinace parametrů a snímků prozrazuje, že jde o Instinct MI300C…

Možná si pamatujete, že se v loňském roce v souvislosti s akcelerátory AMD Instinct mluvilo o třech řadách. Instinct MI300X, Instinct MI300A a Instinict MI300C. První, tedy Instinct MI300X jsou klasické akcelerátory postavené čistě na GPGPU čipletech. Čtyři křemíkové podložky obsahující cache nesou každá po dvojici GPGPU čipletů. Druhý, Instinct MI300A je v podstatě výpočetní APU, tedy kombinace CPU a GPGPU čipletů. Využívá ho superpočítač El Capitan a každý Instinct nese na třech podložkách GPGPU čiplety a jedné trojici osmijádrových x86 / Zen 4 čipletů. Tedy celkem 24 jader.

Instinct MI300A s GPGPU čiplety (modrozelené) i x86 čiplety (modrofialové) a HBM3 (AMD)

Instinct MI300C byl od počátku zmiňován spíše jako experimentální projekt, který měl všechny křemíkové podložky osadit x86 / Zen 4 čiplety. Tedy 8 (jader na čiplet) × 3 (čiplety na podložku) × 4 (podložky) = 96 jader maximálně. Zbytek konfigurace by zůstal jako u ostatních produktů řady Instinct, to znamená 2 paměti HBM3 na každou podložku (tj. na 24 jader) nebo z celkového pohledu 8192bit HBM3 sběrnice pro až 96 jader. Proslýchalo se, že původním záměrem takového řešení měla být akcelerace velkých jazykových modelů (AI), které jsou napsané pro běh na x86 procesorech (nikoli na GPGPU akcelerátorech).

Specifikace Azure HBv5 (Microsoft)

Nyní Microsoft ohlásil Azure HBv5 Virtual Machines, pátou generaci systémů HBv pro virtualizaci, která má být podle oficiálních údajů postavena na 352 jádrech Zen 4 a vybavena 400-450 GB RAM HBM3. Při pohledu na fotografii se jeví jako velmi pravděpodobné, že systém stojí na čtveřici OAM modulů, jako systémy řady Instinct. Což znamená 88 jader a 100-112,5 GB HBM3 na každý modul.

Datová propustnost Azure HBv5 (Microsoft)

88 jader odpovídá možnostem Instinct MI300C (až 96 jader, tedy část jader zůstane neaktivní nebo neosazená) a 112 GB HBM3 přesně odpovídá osazením 7 z možných 8 modulů po 16 GB. Případně osazení všech osmi modulů, ovšem s částí kapacity deaktivovanou. Datová propustnost dosáhne 6,9 TB/s.

Protože půjde o systémy určené pro virtualizaci (nikoli tedy pro AI akceleraci), budou mít neaktivní SMT, jinými slovy 1 jádro = 1 vlákno. Podporovány budou taktovací frekvence do 4 GHz. Zájemci se mohou přihlásit k preview, které začne v prvním pololetí 2025.

Zdroje: 

Diskuse ke článku Instinct MI300C se vrací do hry jako custom-Epyc s HBM pro Microsoft Azure

Pátek, 22 Listopad 2024 - 06:58 | MikeM | Většina těch vývojářů bude o řád schopnějších,...
Čtvrtek, 21 Listopad 2024 - 20:18 | Sinuhet | To jasně ukazuje, že AMD může snadno Epycy...
Čtvrtek, 21 Listopad 2024 - 17:11 | uni | @redakce Velké jazykové modely jsou LLM, ne AI.
Čtvrtek, 21 Listopad 2024 - 15:17 | Pety | Inu, levní programátoři z Indie. Všude se šetří.
Čtvrtek, 21 Listopad 2024 - 13:11 | melkor | To už je ta 24h2 funkční?
Čtvrtek, 21 Listopad 2024 - 12:46 | shagy2301 | Kolega systémak nadáva na aktualizácie Win11...
Čtvrtek, 21 Listopad 2024 - 11:25 | Pety | Tak to mně tedy fungují. A v jedenáctkách prý MS...
Čtvrtek, 21 Listopad 2024 - 09:47 | Mirda Červíček | Třeba jim ta umělá inteligence konečně...

Zobrazit diskusi