Nvidia oznámila přípravy NVHBM, nových HBM pamětí, které chce nasadit za éry HBM4e. Jejich přínos má spočívat v úspoře křemíku potřebného na straně GPU (XPU) k připojení HBM rozhraní o 25 %, možném navýšení přenosové rychlosti až o 30 % a snížení energetických nároků o 15 %. Přestože tato zpráva vyvolala mezi investory a některými uživateli nadšení, rychle se ukázalo, že jde o poněkud přifouknutou prezentaci standardních možnosti uživatelského přizpůsobení HBM4(e).

Grafika Nvidia nadsazující úsporu křemíku na HBM rozhraní s NVHBM (Nvidia)

Samsung na HotChips odprezentoval, že přesun řadiče z křemíku GPU (XPU) do křemíku základní vrstvy HBM pamětí je standardní možností uživatelského přizpůsobení HBM4, přičemž od generace HBM5 se s podobnou úpravou počítá již v základu.

Přesun řadiče z GPU (XPU) do základny HBM pouzdra je standardní možností uživatelského přizpůsobení HBM4 (Samsung)

Reálně tedy nejde o magickou úsporu křemíku, jen přesun řadiče z jednoho kousku křemíku (který v tomto případě nechává vyrábět Nvidia) do jiného kousku křemíku (konkrétně do základny HBM, jejíž výrobu zajišťuje výrobce HBM pamětí, například Samsung, Hynix nebo Micron). Samsung vysvětluje i původ energetické úspory (nižší délka kanálu), ale zároveň zmiňuje potřebu dořešit vyšší lokální zahřívání.

Ian Cutress k NVHBM

Co Nvidia prezentuje jako NVHBM, je z podstatné části standardní možnost „kustomizace“ HBM4, která se už v příští generaci (HBM5) stane z velké části součástí výchozí konfigurace. Analytik Ian Cutress upozornil, že nejde o nic komplexního ani revolučního a že se investoři nechali opít marketingovým rohlíkem od Nvidie.

• Oficiálně: Hynix bude do základen HBM4E integrovat logiku, cache a síťovou paměť ²⁰²⁴
• Samsung plánuje pro HBM4 využívat i svůj 4nm proces, paměti dorazí za rok ²⁰²⁵

Plány přesunu různých prvků do křemíkové základny HBM pamětí jsou dlouhodobě známé, například Hynix je oznámil již před více než dvěma let v červnu 2024.

Pro úplnost nebude od věci si v krátkosti vysvětlit, proč toto Nvidia vůbec řeší. Nvidia má totiž HBM rozhraní umístěné na stejném kousku křemíku jako samotné výpočetní jednotky. Tudíž ji stojí drahý křemík vyráběný technologií (nej)novější generace. HBM rozhraní tedy blokuje plochu, která by mohla být využita pro výpočetní jednotky:

Rubin diagram: „HBM CTRL“ je součástí stejného křemíku jako výpočetní bloky GPC (Nvidia)

Naproti tomu AMD již několik generací pro výpočetní bloky používá oddělený křemíkový čiplet (XCD), pouze ten vyrábí na nejdražším procesu, zatímco HBM rozhraní je umístěno na samostatném čipletu (FCD), který vzniká na levnějším procesu (FCD nese též L2 cache):

CDNA 5 / Instinct MI400 diagram: HBM rozhraní je součástí FCD, oddělené od XCD (AMD)

AMD tedy již tento problém vyřešila jiným způsobem o dvě generace dříve. Přesun řadiče z vlastního křemíku do základny HBM není problém, kterému by se musela urgentně věnovat.