Diit.cz - Novinky a informace o hardware, software a internetu

Diskuse k Dave Eggleston: Situace na trhu s DRAM se uklidní do pololetí 2027

cele je to "divne". OpenAI ide skupovat produkciu pre rok 2029, ale problem s RAM je 2025 a ukludni sa do 2027... nieco tu nehra.

+1
-1
-1
Je komentář přínosný?

Současné ceny jsou vyvolané panikou a spekulacemi na trhu. Teprve po nějakém čase se ukáže, jaká je reálná poptávka a nabídka. Zatím víceméně všichni blufují, jak výrobci, tak AI,

+1
+1
-1
Je komentář přínosný?

Prostě panika a klidně i uměle vyvolaná. Asi jako nárust ceny energií před pár lety..

+1
0
-1
Je komentář přínosný?

V polovině 2027 splaskne AI bublina a NVidia zkrachuje! :-)

+1
+1
-1
Je komentář přínosný?

Dobrý paradox.
Věc která stojí za zdražením vygeneruje RAM s 6,5 (slovy šest a půl) chipama.

Asi cítí nedostatek chipů na trhu :-)

+1
+3
-1
Je komentář přínosný?

1,5 chipu nedostala AI přiděleno.
Nějaká kapacita bude vyhrazena pro OS, ovladače a jiné aplikace.
Takže její pohled je správný :-D

+1
+1
-1
Je komentář přínosný?

Nová doba, v rámci úspor bude mať bajt odteraz iba 6,5 bitov.

+1
+1
-1
Je komentář přínosný?

Když může Huang prohlásit, že v generovaném obrazu bude 1 reálný bod + 31 "inferovaných", tak proč by v jednom bajtu nemohlo být 6,5 rálného bitu a 1,5 "domyšleného"?
AI to zvládne.

+1
+1
-1
Je komentář přínosný?

Šest a půl, vždyť pro inferenci (většina výpočtů v AI éře) údajně stačí pouhé ctyři (INT4)?
https://developer.nvidia.com/blog/int4-for-ai-inference/

+1
+1
-1
Je komentář přínosný?

"Je však potřeba mít na paměti, že všechny prognózy vycházejí z předpokladu, že do této doby nedojde k nějakým nepředvídatelným událostem,..."

Kolaps bubliny a ekonomická krize by byl sotva šedý nosorožec 🦏, ne nepředvídatelná černá labuť...

+1
+1
-1
Je komentář přínosný?

Bych to viděl tak, že normalizace bude taková, že se jen ustálí ceny( zůstanou předražené, ale už nebudou dál zdražovat)
A ty zůstanou na pár let.

+1
+1
-1
Je komentář přínosný?

Vysoké prodejní ceny přitáhnou na trh více hračů. Samsung už ohlásil, že navýší výrobu o 80 000 waferů měsíčně. Později se přidají i čínští výrobci. A cena bude zvolna klesat.
Je to dobrá příležiost pro majitele foundry se staršími výrobními procesy, jak je ještě podojit (Samsung, UMC, možná i Intel.)

+1
+2
-1
Je komentář přínosný?

GloFo?

+1
+1
-1
Je komentář přínosný?

Ak sa zakaznici prisposobia novemu cenovemu normalu tak sa pokles cien zastavi, graficke karty nam ukazali ze ludia su ochotni za vyssi low-end so 128bitovou zbernicou ako su 5060ti a 9060 xt zaplatit aj 450-500 euro...

+1
-1
-1
Je komentář přínosný?

Prisadím si svoj odhad. Netreba čítať, píšem sám pre seba, využívajúc tento priestor.

Pred cca 5 rokmi, som kupoval 32GB DDR4 v rozsahu 120-140 Eur, dokopy 128GB RAM.
Vtedy mi to prišlo ako normálna cena, boli aj drahšie, boli aj lacnejšie.
potom spadli na cca 50 Eur za 32GB. Nekúpil sopm ani modul. Pred niekoľkými mesiacmi sa dal set Kingston 2x32 DDR4 3200MHz kúpiť po 99,90 na alze. Nekúpil som, žiaľ ani do notebookov. Ale výpredaj bol obrovský. Obchodníci nevedeli, ako sa zbaviť tých RAMiek a SSD diskov. Teraz len dúfam, že žiadne SSD sa mi nepokazí. Nekúpil som nič do zásoby, úplne stačilo, že počas záruky sa mi umŕtvili Apacer, predtým Kingston, nič z toho som nereklamoval, lebo neviem či dáta z nich sa dajú , alebo nedajú obnoviť. To že som o ne prišiel, ma mrzí, ale horšie by bolo, keby niekto iný sa ku nim dostal.

Teraz môj odhad - do +- polroka budú ceny DDR4, alebo skôr DDR5 na približnej úrovni cien, aká bola v prvom polroku roku 2025.

Je úchylné, že set ramiek, ktorý pred 4-5 mesiacmi bol po 99, teraz predávajú po 360 Eur.
1. Okrem iného, mám tušáka, že ide aj o umelé navyšovanie cien, preceňovávanie starýchg skladových zásob
2. obrovský dopyt urobilo OpenAI kvôli ich stále horšiemu a horšiemu ChatGPT, keď si myslia, že kvantitou, množstvom vytvoria kvalitu.
OpenAI spaľuje, doslova, spaľuje obrovské množstvo peňazí, pričom , vychádzajúch z free verzií AI produktov, ChatGPT stojí doslova za hovno! Zhoršil sa aj Grok, verzia 4.0 bola super, verzia 4.1 je "ľudskejšia" - dáva doslova "sračky" ako, "toto 100% funguje, pretože dnes ráno som to vyskúšal a fungujete" alebo "tu som ti poslal celý kód, stačí kliknúť" - a generuje nejaké fiktívne kódy na nejaké fiktívne web úložisko, na ktorý keď kliknete, hlási chybu 404 a keď sa opýtate, prečo to dáva, tak dáva odpoveď, že to bol test, alebo podobné doslova sračky.

ChatGPT vo free verzií, ma dokonale dokázal nasrať už pred 2-3 mesiacmi, neustále bludy, tupé otázky, návrhy, ale nedal konkrétnu odpoveď. Grok s verziou 4.1 dostal osobnosť a ide do sračiek ako ChatGPT, ale stále je dosť použiteľný na bežné odpovede. Ale ten blb, vám dokáže napísať - tu som si prepísal a opravil celý script, je 100% funkčný, najlepší na svete, ráno tom ho otestoval a bol bez chýb.
Ok, uložím, ho spustím, a nefunguje. Na otázku prečo nefunguje, Grok napíše, lebo som dal len základnú kostru, koncept, ale ak chceš, dám ti celý script, 100% funkčný a môžeš si ho stiahnúť a dá link na neexistujúcu adresu.

Grok 4.0 napísal a urobil celý script. Grok 4.1 normálne klame kde sa len dá. ChatGPT ten ani nedá script, len dookola sa pýta, mám ti ho urobiť? A chceš v ňom aj toto? Ak áno, daj mi vedieť. A naozaj ho nechceš vylepšený, mám ti ho dať už teraz? Ale mohol by som o vylepšiť...

Jednu konverzáciu s ChatGPT som si uložil, po HODINE žiadania aby konečne už dal ten script, som nedostal ani script a prestal so mnou komunikovať, lebo som mu vynadal, aby konečne mi už dal ten script (rovnakú úlohu som zadal 5 AI - Grok, claude, Qwen, DS, ChatGPT, jedine ChatGPT mi nedal ten script)!

Komu na čo bude ChatGPT, kde množstvo opensource modelov dokáže urobiť množstvo vecí lokálne, firmy môžu upraviť a tie online AI, prečo používať firmu ako OpenAI, keď podobný, či lepší AI systém vám ponúka aj firma, ktorej služby využívate dlhodobo, napr. 10-20 rokov, ako je gmail, facebook, X, tesla?

Preto si myslím, cena RAM do +- polroka klesne na úroveň aká bola v tom čase pred rokom.

Od čias, čo som skúsil Grok 3.0, nemal sôm dôvod ísť do ChatGPT. Porovnával som ich, ale žiadna pridaná hodnota nebola. Práve naopak. Viac obmedzení, horšie odpovede, strašne veľa zbytočnej omáčky. A ani neviem, ako niekto môže s ChatGPT nadviazať nejaký emočný vzťah. Za mňa, keď viem že je to AI, že je to AI generované video, vnímam to ako niečo cudzie a "ľudská" konverzácia mi je odporná. Aj to také to podlizovanie. Napr: "viem ako sa cítiš" Hm?!

Moja stávka je, možno sa budem mýliť, ale v priebehu najbližšieho polroka nastane prehodnocovanie samotného významu ChaptGPT, či ho svet ešte potrebuje, či pridáva nejakú nadhodnotu, oproti inej bežne dostupne AI, ktorú poskytujú plnohodnotné firmy, ktoré poskytujú celú škálu produktov, celý ekosystém, v ktorom AI je rozšírením ich portfólia a nie len samostatný, všeobecný produkt, ktorý má "kdekto". Neviem si predstaviť dlhodobú využitie ChatGPT.

Menšie, špecializované modely, aj jednoúčelové, za to špička v obore, tie prežijú. Prežije aj niekoľko všeobecných, univerzálnych AI, ale to len, či najmä tie, ktoré budú mať okolo seba množstvo iných produktov (synergia, ekosystém), ale pridanú hodnotu ChatGPT, kým neprídu s niečim revolučným, čo ich vystrelí mimo ligu, nevidím v ničom. Neviem ani o jedinej oblasti, kde by boli jedinečný, špička, nedosiahnuteľní.

Jedine čo vidím, ako spaľujú stovky mld. dolárov len aby sa udržali na priemernej úrovni aby dali priemerné či podpriemerné výsledky. Neoptimalizujú, nezefektívnujú, namiesto kvality, idú kvantitu. Niečo ako pred x rokmi program ktorému stačilo niekoľko MB, teraz potrebuje stovky MB, či GB. Ako prvé mi napadlo, Volkov Commander. Stačilo 100kB. Alebo office balíky. Alebo napaľovací soft na DVD. Alebo Symbian vs Android. Kým máš prístup ku zdrojom, je ti jedno, koľko GB RAM zaberie daný program. Ale ak tú funkciu potrebuješ do BIOSu, routreru, do zariadenia s obmedzenými zdrojmi... Nedokážem si predstaviť, ak by OpenAI malo v budúcnosti generovať zisk pre investorov, aká by musela byť cena pre užívateľov, aby tak tlstý systém dokázali uživiť.

Musíte byť v niečom významnom naozaj výnimočne dobrí, aby ste sa dlhodobo udržali, aby ľudia nehľadali lepšiu, lacnejšiu, efektívnejšiu alternatívu. Unikátnosť ChatGPT je len v tom, že každú chvíľu ohlasuje len to, koľko ďalších mld. dolárov minula a minie. Pritom nemá nič výnimočné, unikátne, žiadnu pridanú hodnotu, len extrémne vysokú spotrebu zdrojov.
Nenažranosť OpenAI ohrozuje ostatný biznis. Zdraženie RAM, hdd, NAND, predražuje všetko v priemysle, spomaľuje, zastavuje vývoj v iných oblastiach. Pokiaľ kompenzáciou tohto, nebude nič nové, svetoborné, očakávam významnú korekciu. Považujem to za väčšiu bublinu ako tie kryptomeny. Ako vysali všetky grafiky, aby "tvorili" bitcoin. potom vznikla "mena" ktorá vysala všetky hdd. Drvivá väčšina zanikla, nepriniesla nič výnimočné a ostatné sa zredukovalo, keď sa prehodnotil celkový význam.

Zároveň prehnaná cena dodatočných zdrojov donúti ostatné firmy, skupiny zefektívniť prevádzku, vylepšiť algoritmy, výsledkom môže byť strmý prepad potreby RAM. Nevznikol tak nejak DeepSeek? Ako potreba vytvoriť AI, ale za použitia obmedzených zdrojov, pretože ku neobmedzenu nebol prístup?

Aj investori do OpenAI, investujú zväčša aj do iných oblastí. ChatGPT im generuje len stratu, ale zároveň znižujú si ziskovosť v iných oblastiach len kvôli tomu, že OpenAI požiera voľné zdroje, vytvára ich nedostatok a neponúkne nič navyše.

Preto odhadujem, pokiaľ do polroka OpenAI nepríde s ničim revolučným, všetci budú musieť prehodnotiť stav kvantita namiesto kvality. Nedostatok dostupných zdrojov vás nutí optimalizovať, nájsť reiešenia, ako s menaj zdrojmi, dosiahnúť tie isté, či lepšie výsledky. Kebudete mať k dispozísií GB, ale MB. Keď zredukujete potrebu zdrojov o desiatky percent, aby ste ušetrili stovky mil. dolárov, zrazu zistíte, že nepotrebujete kvantitu, ktorá vám požiera stovky mil. dolárov.

Nepochybujem, že už teraz obrovské množstvo firiem, ktoré využívajú RAM, SSD, začína optimalizovať. Aspoň to je moja predstva, ak máš nejaký produkt, nejaký server, kde 1TB RAM bolo ako nič, ale teraz to nič stojí 4-5 násobok, že začneš prehodnocovať, či všetko musí byť v RAM, či spracovanie dát je možné vykonať úspornejšie, či algoritmy sú efektívne na zdroje. Sám za seba v malom, aby som ušetril SSD, zrušil som množstvo logov, ktoré som si nechával len preto, že keby niečo. Nastavil som menšie úseky na ich ponechávanie.

Pozná to každý. Keď sa fotilo na film, človek si premyslel čo odfotí. Keď prišli neobmedzené data kapacity, človek urobí množstvo fotiek, aby vybral jednu dobrú. Niekto áno, niekto nie, ponechal si aj všetky ostatné. Ale ak ste museli platiť za využitý priestor, každý vie, že do cloudu nezálohoval úplne všetko, ale vyberal. Ak sa zbrzí predaj grafím, pre nedostaok cenovo akceptovateľných RAm, čo bude nasledovať? Ak budú chcieť byť hry ešte viac cool, budú musieť optimalizovať, aby im stačilo 8GB. O chvíľu tu bude AV2, aby to isté video zabralo menšiu úložnú kapacitu.

Umelú inteligenciu čaká to isté. Musí nastúpiť tvrdá optimalizácia zdrojov, zefektívnenie prevádzky. Keď to vykonajú, opäť bude dostatok RAM, NAND.
Náklady na prevádzku nekontrolovateľne rastú, ale konečný efekt zlepšenia výstupov je mierny, ak vôbec nejaký. Míňajú niekoľkonásobok, len o zlepšenie v jednotkách percent. Pochybujem, že takto sa dá existovať ešte roky, preto môj odhad, cca polrok, ak počas toho polroka nepríde ku niečomu prelomovému, čo preukáže, že sa to oplatilo, stálo to za to.

Príklad, bitcoin. Tiež šialené investície do grafík, rozprávkové zisky. Prišiel bod zlomu, za ktorým už nebola žiadna pridaná hodnota. Na mizerný zisk to požadovalo obrovské investície. Zároveň sa prehodnotil celkový prínos bitcoinu a "zrazu" sa zistilo, že celé tie farmy sú už k ničomu.

Investori najmä OpenAI budú 100% do niekoľkých mesiacov riešiť otázku, či má ešte význam páliť peniaze, či má a bude mať OpenAI nejakú pridanú hodnotu oproti konkurencií, aby sa ospravedlnili šialené výdaje do hrubej sily, len aby dosiahli podobný, či mierne lepší, alebo dokonca horší výsledok, ako iné firmy, ktoré svoju AI dokážu užiť integráciou do svojich ostatných produktov, kde tomu dávajú vyššiu pridanú hodnotu, zvyšujú úžitkovú hodnotu všetkého ako celku.

Za mňa, OpenAI je súce na reštrukturalizáciu, alebo krach. Krachom OpenAI svet nepríde o nič výnimočné, o nič jedinečné, o nič nenahraditeľné. Krachom OpenAI sa uvoľnia zdroje pre ostatné projekty, ktoré môžu priniesť niečo nové, niečo lepšie.

Sám za seba, netuším, prečo by som mal používať ChatGPT. Google mi vnucuje gemini. Grok a claude mi stačia. Máme možnosť použiť aj čínske bezplatné AI systémy. Nejakú formu AI poskytujú aj iné firmy v rámci svojich produktov. Naozaj netuším, dnes, v najbližšej dobe, prečo by som mal na niečo použiť ChatGPT a čo prevratného prinesie o polroka, že si poviem wow, teraz jedine ChatGPT. Predpokladám, že niečo podobné sa skôr či neskôr budú pýtať aj investori OpenAI, v čom je tá jedinečnosť, že ľudia budú chcieť používať a platiť za ChatGPT, že sa nám oplatí vám dať stovky mld. dolárov do daľších investícií do HW, do ďalšieho splaľovania energií.

Polrok je dlhá ale aj krátka doba. Podľa toho, koľko platíte každý jeden deň za prevádzku a aký je výhľad.

+1
0
-1
Je komentář přínosný?

Pro psaní komentářů se, prosím, přihlaste nebo registrujte.