Copyright © 1998-2025 CDR server s.r.o.
Všechna práva vyhrazena.
ISSN 1804-5405.
Copyright © 1998-2025 CDR server s.r.o.
Všechna práva vyhrazena.
ISSN 1804-5405.
Už ani AI akcelerátory nejsou dost dobré pro HMB?
Skôr z toho vznikne samostatný segment medzi súčasnými grafikami a AI akcelerátormi s HBM. Minimálne AMD tam má obrovskú dieru, pretože aj na najrýchlejšej grafike má len 256-bit GDDR6 a to dá iba 640 GB/s.
O IC jsme nikdy neslyšeli, že?
O ktorom IC konkrétne?
Infinity Cache. Zrovna u AI akceleratoru asi IC moc velky vyznam nema, ale u grafikych workloadu to udela znacny posun vykonu.
O tom som počul. Ale to je presne ono, na niektoré druhy výpočtovej záťaže to moc nepomôže a tam je potom tých 640 GB/s málo oproti 1.8 TB/s u Nvidie alebo v porovnaní s akcelerátormi používajúcimi HBM.
Ano, ja bych byl taky rad, jenze..
> Skôr z toho vznikne samostatný segment medzi súčasnými grafikami a AI akcelerátormi s HBM
... tomu velmi bych neveril. Komu budou tyhle produkty urceny ? datacentram asi nikoliv, a 99% BFU chce grafiku na hlavne hrani. Tech uzivatelu co potrebuje doma mit akcelerator s 1+ TB/s pameti je minimum, a ti si zaplati 5090 nebo nejake "profi" GPU. Pripadne existuji cloud GPU.
Však aj v článku píšu, že dopyt po AI akcelerátoroch je väčší ako zvláda pokryť výroba HBM. Tak si to asi kúpia tí, pre ktorých bude verzia s HBM príliš drahá alebo úplne nedostupná.
AMD má na nejrychlejší herní grafice 512bit GDDR6.
A to je ktorý model presne?
Jasne GPU nechcu HBM ani GDDR7, nechcu ani viac vypočetnych jadier, GPU chcu mať male čipy malo RAM malo vykonu a žrať aj travu kolo cesty :D
Už som sa bal že vyrobcovia sa na nas vykašlali a oni len plnia naše želania :D
Také chceme aby mezigeneračně nerostl hrubý výkon. Stačí když roste cena a další technologie pro generování falešných snímků.
Za pár generací už nebude potřeba ani PCIE slot. Grafiku připojíte na 22kW 3x32A jistění, připojíte jen monitor a její interní AI model Vám bude generovat nějaké snímky. Je jedno co na nich bude, hlavně když jich bude 1000+/s
Možná tě překvapí, ale na grafiku už dávno není třeba PCIE slot, pokud chceš výkon tak se používá SXM, to je řešení pro grafiky s vysokými TDP, výkonem s možností výkonového škálování.
POkud ale chceš, může SXM grafiku osadit i do PCIE slotu -https://cdn.mos.cms.futurecdn.net/YZnxaqV4bBcvkYGQz9JzXH-650-80.png.webp
samotná grafika co se do toho adapt=ru zasadí vypadá takto
https://www.microway.com/wp-content/uploads/NVIDIA_Tesla_P100_SXM2_GPU_N...
Ale normálně se ty SXM grafiky osazují spíše takto https://cassette.sphdigital.com.sg/image/hardwarezone/46c723d64b41110325...
to chce nVidia
A očividně 90 % zákazníků dedikovaných GPU.
Na druhou stranu RTX 5070Ti 16GB GDDR7 je podobně výkonná jako RX 9070XT 16GB GDDR6, tak zjevně ty paměti nic moc navíc nepřináší. Jinak by AMD musela zaostávat, což se neděje.
V hrách to asi tak kritické nie je. Preto mi ani nepríde ako moc veľký problém, že 48 Gbps GDDR7 pôjdu na začiatku do AI akcelerátorov. Myslím, že ďalšia generácia herných grafík to v pohode prežije s 30-36 Gbps pamäťami.
Takto to nelze srovnávat, to je každé jiná architektura. Ve chvíli, kdy GeForce RTX 5070 Ti při podtaktování pamětí na ~20 Gb/s bude dosahovat stejného výkonu jako dosahuje při 28 Gb/s, lze konstatovat, že jí to navíc nic nepřináší. Radeon má oproti tomu komplexnější cache, která právě může být důvodem, proč i s výrazně pomalejšími GDDR6 zvládá dosahovat podobného výkonu.
Takto to nelze srovnávat, to je každé jiná architektura. Ve chvíli, kdy GeForce RTX 5070 Ti při podtaktování pamětí na ~20 Gb/s bude dosahovat stejného výkonu jako dosahuje při 28 Gb/s, lze konstatovat, že jí to navíc nic nepřináší. Radeon má oproti tomu komplexnější cache, která právě může být důvodem, proč i s výrazně pomalejšími GDDR6 zvládá dosahovat podobného výkonu.
https://diit.cz/clanek/vyvoj-rychlejsich-gddr7-nemotivuji-gpu-ale-ai-akceleratory/diskuse#comment-1522300 +Dá sa to tiež porovnať voči RTX 40**. Pamäťová priepustnosť išla výrazne nahor ale hernému výkonu sa až toľko nechcelo.
Nemůžeme na základě chování architektury A vynášet závěry o paměťových nárocích architektury B.
Nemůžeme na základě chování architektury A vynášet závěry o paměťových nárocích architektury B.
https://diit.cz/clanek/vyvoj-rychlejsich-gddr7-nemotivuji-gpu-ale-ai-akceleratory/diskuse#comment-1522324 +So 100% istotou určite nie ale ak sú si architektúry príbuzné tak sa z toho dá niečo vydedukovať. Podobne ako z toho, že AMD zrejme plánuje v ďalšej generácii prejsť v danom segmente z 256 na 192 bitovú zbernicu. Takže asi tú priepustnosť nepotrebujú pre plánovaný výkon až tak tlačiť nahor.
V další generaci NVidia grafik mohou vyvinout také komplexnější cache, aby nedostupnou byť velice výkonnou paměť nepotřebovaly. Klidně můžeme teda říct, že výkonější paměť na grafice jí pomůže k většímu výkonu, ale pokud existuje nějaký suplement, tak ho mohou použít a vyřešeno.
To nevíme, zatím NVidia nemá žádnou zkušenost s takovou cache.
Ty děláš nějakého inženýra v NV, že víš že nemají zkušenosti? To že nemá veřejně dostupný produkt, který by něco používal neznamená že to nemají hotové v laboratořích a třeba to jen nevyužili, protože to pro ně není výhodné. Když může, bez urážky, "trouba" z diskuze na DIIT vymyslet že velká cache by mohla pomoc, tak je asi nesmysl myslet si že to nenapadlo nikoho z těch tisíců inženýrů, kteří se vývojem čipů živí i několik dekád.
Na druhou stranu víme, že NVidia převelela část inženýrů do AI sekce. A v AI je takto velká cache k ničemu (pracuje se se všemi daty ve VRAM, ne že "točí" část z těch dat delší dobu).
Podľa toho čo som našiel má Nvidia v grafikách veľkú L2 cache a AMD má zase Infinity/L3 cache. Celkové množstvo je zhruba podobné.
Právě že není. Radeon RX 9070 XT má 8MB L2 cache + 64MB L3 cache, zatímco GeForce RTX 5070 Ti má jen 48MB L2 cache.
Právě že není. Radeon RX 9070 XT má 8MB L2 cache + 64MB L3 cache, zatímco GeForce RTX 5070 Ti má jen 48MB L2 cache.
https://diit.cz/clanek/vyvoj-rychlejsich-gddr7-nemotivuji-gpu-ale-ai-akceleratory/diskuse#comment-1522323 +Mne to v kontexte diskusie prídu ako dosť podobné hodnoty (pretože nezáleží len na veľkosti cache ale aj na prístupovej dobe, asociativite a in/exkluzivite).
Tak může to být k dobru, vývoj se popožene. Ovšem jak někdo podotkl, ta propustnost se u her moc nemusí využít, zvlášť když už se moc nevyužívá klasický AA.
Podle mě by měl být výkon RAM/VRAM co nejvíc v PC sladěný, poznal jsem to i na starší AM4 kde jsem dal rychlou RAM 4400 a grafika má HBM. A byť je to starší hw tak často má pozoruhodný výkon i se starším cpu zen3 a pouhým pcie4 ssd with dram.
Pro psaní komentářů se, prosím, přihlaste nebo registrujte.