Nvidia i AMD v letošním roce vydají oprášené varianty loňských AI akcelerátorů, které budou vybaveny rychlejšími pamětmi HBM3E namísto stávajících HBM3. Pro výrobce HBM pamětí je to příležitost k získání velkých zakázek, a tak se všichni tři hráči (Hynix, Samsung, Micron) snaží situace využít. Hynix je tradičně v segmentu HBM primární volbou, s výrobou HBM má nejdelší zkušenosti (jako jediný je vyráběl od první generace) a jeho čipy dosahují vysoké kvality. Na druhém místě v žebříčku stojí Samsung a s velkým odstupem na posledním Micron.

Ten dal před lety k vývoji HBM impulz, když s vývojem vlastních HMC nabral takové zpoždění, že v době, kdy už měly být na trhu, zahájila AMD s Hynixem vývoj alternativních HBM (protože už nebylo možné dál čekat). Tato dvojice svůj později zahájený vývoj dokončila dříve než Micron, dostala HBM na trh dříve a dosáhla s nimi i lepších parametrů (vyšší datová propustnost, nižší spotřeba).

V únoru Micron oznámil, že v rámci sériové výroby dodává HBM3E paměti společnosti Nvidia na akcelerátory H200. To vyvolalo překvapení v Jižní Koreji, neboť podle dostupných zdrojů zatím žádné HBM3E řešení neprošlo interními testy kvality Nvidie.

Nvidia Grace Hopper Superchip s HBM3E

Redakce korejského webu DealSite proto začala pátrat, jak to vlastně je, a zjistila následující: Nvidia pro testování kvality vyžaduje paměti ze sériové výroby, takže HBM3E pro tyto účely musejí pocházet ze sériové výroby, jimi se osadí akcelerátory H200 a na nich se následně testuje kvalita pamětí. Jinými slovy, Micron sice vydal tiskové prohlášení, které na první pohled vypadá, jakoby získal zakázku na dodávky HBM3E pamětí pro akcelerátory H200, ale ve skutečnosti jen dodal čipy pro testovací účely, na jejichž základě si Nvidia bude vybírat, kterého dodavatele využije.

DealSite dále upozorňuje, že Micron (který prakticky vypadl z trhu s HBM3 a nyní se snaží s HBM3E vrátit do hry) sice vyrábí křemík pro HBM3(E), ale nemá k dispozici vlastní kapacity pro jejich vrstvení a pouzdření. Připomeňme, že jednotlivé vrstvy HBM jsou navlíkané jako korálky na niti, jen s tím rozdílem, že nití je více (TSV, through-silicon via) a jsou vodivé, čímž je vytvořeno propojení všech vrstev:

E 

Krom toho, že se Micronu pouzdření v důsledku využití externích dodavatelů prodlouží a prodraží, má společnost ve vztahu k HBM pamětem problém s výtěžností. Stačí totiž, aby výtěžnost výroby jednotlivých vrstev byla kosmeticky nižší než u konkurence a výsledkem může být dost zásadní problém. Jednotlivé vrstvy totiž nelze samostatně testovat, na povrchu nemají žádné rozhraní, kam by bylo možné testovací zařízení připojit. To vznikne až propojením TSV (viz schéma výše). Pokud jsou tedy jednotlivé vrstvy vyráběny s průměrně 90% výtěžností, při osmivrstvých HBM je výsledná výtěžnost (0,9^8) 43 %. Jinými slovy 57 % vyrobených čipů není plně (nebo vůbec) funkčních:

Tabulka ilustruje, jakou měrou se i malý rozdíl ve výtěžnosti při výrobě křemíku promítne na výtěžnosti výroby hotového řešení (zapouzdřeného osmi- nebo dvanáctivrstvého HBM3E). Mimo jiné to vysvětluje, proč Micron hovoří pouze o osmivrstvých HBM3E, zatímco standard umožňuje výrobu až dvanáctivrstvých a například Hynix i dvanáctivrstvé řešení ohlásil.

Únorové prohlášení Micronu je tak spíš marketingovou záležitostí, která snad měla za úkol vylepšit mediální pověst společnosti, které se v posledních letech těžce nedaří. Skutečnost prozatím vypadá tak, že nejde o velkou výhru Micronu a získání velké zakázky, jak zprávu některá média prezentovala, jako spíš o obratné využití skutečnosti, že Micron dodal Nvidii čipy pro testovací účely.