Diit.cz - Novinky a informace o hardware, software a internetu

Diskuse k Rambus posouvá DDR5 na 9600 MT/s. Příprava na Zen 6 a Nova Lake?

> zpravidla jde o systémy s výkonným integrovaným GPU v procesoru (Spark, Strix Halo ap.), kde se však nepoužívají moduly, ale paměti pájené přímo na desku.

Tam nejde ani moc o GPU, jde hlavne o sbernici, ktera je 256bitova.

> AI akcelerované na klasických procesorech, kde najdou moduly uplatnění, je většinou limitováno výkonem procesoru, nikoli datovou propustností

Cast inference (token generation) je 100% limitovana propustnosti pameti. Problem je, ze tyhle 9600MT/s pameti vubec nic neresi.

Dam priklad: nahraju si 80B model do DDR5 s propustnosti 80GB/s. Pri inferenci to bude generovat priblizne ~1 token / s. S tou 9600MT pameti ti to stoupne na zavratnych... 1.4 token / s, mozna. Je to uplne irelevantni zmena. A jakakoliv masina typu Spark / Strix Halo to vykonem rozdrti, protoze s 256bit sbernici ktera ma propustnost >300G/s, zadne 9600MT pameti nemuzou souperit.

+1
+1
-1
Je komentář přínosný?

Naprostá většina AI aplikací pro koncové uživatele, která běží (či může běžet) na CPU a je opravdu náročná na výkon (zpracování obrazu, videa…), je limitovaná výkonem procesoru (v podstatě IPC, takt a a počet jader) a s tím škáluje téměř lineárně. Když do stejného systému s danou propustností dám procesor s 2× vyšším počtem jader, je výkon téměř 2× vyšší.

+1
+2
-1
Je komentář přínosný?

Ten SPD hub a PCMIC je pekny ojeb.
Je to rambusem patentovana vec s omezenou dostupnosti. Navic je to vymysleni kola - nic, co by necslo udelat z jiz existujicich veci drive. Zamerny vendor lock, ktery asi castecne napomaha soucasne nedostupnosti DDR5.

+1
+1
-1
Je komentář přínosný?

ze by kazdy vyrobce RAM modulu platil licencni popl. Rambusu , za SPD cip, co je uz od dob SDR dimmu az do dneska ?

+1
0
-1
Je komentář přínosný?

Az do DDR4 to byla obycejna genericka eeprom (24C16 a pod. ). Tohle prislo az s ddr5.

+1
0
-1
Je komentář přínosný?

to je nemlich to same ne ? jestli se to nazyva SPD cip ci SPD hub ... oboji ma v sobe ¨firmware¨ ram ... takze bych odhadoval: defaultni frekvence, casovani, xmp potazmo expo profily, kdy bylo vyrobeno atd apd a od ddr5 asi i sprava- komunikace powemanagmentu- teploty a tak ...

+1
0
-1
Je komentář přínosný?

Neni.
Eeprom byla standardizovana soucastka, SPD hub a PMIC jsou specificka veci pod patenten a konrolou rambusu.
Drive se jen cetlta standardizovana konfigurace a podle te se nastavovalo napeti a memory controller.

+1
0
-1
Je komentář přínosný?

Tyjo Rambus oni ještě existují? Myslel jsem že po neslavném konci RIMM se z nich stal patentový troll co žije jen z licencí. Kdyby to tehdy vyšlo tak dnes mohla být úplně jiné éra pamětí.

+1
+6
-1
Je komentář přínosný?

Pro psaní komentářů se, prosím, přihlaste nebo registrujte.