Diit.cz - Novinky a informace o hardware, software a internetu

Diskuse k Nvidia: CPU v AI končí, jejich potenciál byl vyčerpán. AI není bublinou.

Breaking: firma, jejíž hodnota závisí na bublině, tvrdí, že bublina není bublina a navíc že jejich produkty nejdou v bublině, co není bublina, nahradit.

+1
+29
-1
Je komentář přínosný?

Zapomněls na to, že úplně každý CPU co tato firma vydala, byl nakonec velký propadák... 😁😎

+1
+6
-1
Je komentář přínosný?

Ano....a před tím to byla velká bublina :)

+1
+4
-1
Je komentář přínosný?

V minulosti tvrdila ze v hernim pocitaci nezalezi na CPU, ze jde jen o GPU, a CPU jsou prezitek - bude stacit nejake slabe dvoujadro ci co. Takze nic noveho.

+1
+3
-1
Je komentář přínosný?

Segment poroste, jestli v horizontu 5 let, to nevím, klidně pro mě za mě. Ale nejdřív přijde korekce a vyčištění trhu. Stejně jako dot com bublina vs dnešek.

+1
+3
-1
Je komentář přínosný?

"Nvidia: CPU v AI končí, jejich potenciál byl vyčerpán. AI není bublinou."

Přeložim do češtiny :
Konkurence v CPU končí, potenciál byl vyčerpán (nějaká konkurence nám nebude brát kšefty).
AI neni bublina, protože mi na tom vyděláváme.
Až na tom nevyděláme, pak vám řekneme že IA je bublina.
S pozdravem Nvidia.

+1
+15
-1
Je komentář přínosný?

Tak ještě aby to netvrdila. Dá se říct že tohle říkat dokonce musí. :D Kdyby vyráběli CPU, bude říkat že CPU čeká ještě zářná budoucnost v AI. :D :)

+1
+11
-1
Je komentář přínosný?

Zrovna v tomhle bodě má pravdu. Pokud mám výpočet, co jde celý nacpat a efektivně paralelizovat na GPU, je to fakticky extrémně výhodné. Nvidia o tom ví už dobrých 20 let, proto si dává záležet na tom, aby se CUDA držela jako industry standard (byť se podpora HIP a ROCm jako celku rozšiřuje, pořád to CUDA válcuje, zejména čím víc je daná aplikace "niche").

Čistě prakticky - dělám molekulovou dynamiku a když si srovnám výkon na cenově ekvivalentních CPU a GPU, jsou GPU výkonnostně o řád jinde. V ML je to pak ještě citelnější.

Nesouhlasím s tím, že AI není bublina. Naprostej souhlas ale s faktem, že pokud se daná aplikace dá offloadovat na GPU, plynou z toho významné výkonnostní benefity a že CUDA tady vládne všem.

+1
+2
-1
Je komentář přínosný?

ja ai nepotrebujem ku svojmu zivotu -cize ja do toho svoje love nedam
+ak toto ma na sebe nejaky vyrobok uvedene ze to ma "ai" -tak mna to demotivuje vobec kupovat
& uprednostim pri kupe vyrobky bez takejto znacky

+1
+2
-1
Je komentář přínosný?

AI prostoupí takové téměř jakýkoliv obor, který používá počítač. Zrovna včera jsem s kolegyní probiral, jak moc by usnadnila lékařům kódování diagnóz a výkonů. Ušetří čas, pomůže lépe ohodnotit práci a zlepší datamining. Při tom taková blbost.

+1
+3
-1
Je komentář přínosný?

A predne AI uz tu davno je, mnoho desitek let. Jen se ted opravdu rozjela, protoze HW konecne zvlada i netrivialni ulohy a je dostatek dat na trenovani.

Vlastne to slo postupne. Rozeznavani obrazu -> OCR -> naskenovani a prevedeni vetsiny knih do textu -> jazykove modely.

+1
0
-1
Je komentář přínosný?

OCR není AI, není to ve většině případů ani strojové učení. Prostě řekneš tomu, že tohle je písmeno A, tohle je B, atd. Jednorázově tomu zadáš parametry a potom převádíš obraz s textem na text. Aby to bylo strojové učení, muselo by se to z každé další přečtené knihy učit, jenže to se neděje.

+1
-5
-1
Je komentář přínosný?

Soudíte podle sebe.

+1
0
-1
Je komentář přínosný?

Soudím podle blbců, kteří nadšeně hýkají nad AI bublinou, která s AI nemá nic společného.

+1
-4
-1
Je komentář přínosný?

Tak hlavne AI nie je to isté čo AGI a rozčuľovať sa nad tým, že nejaký pojem chápem inak ako väčšina ostatných je síce možné ale veľmi pravdepodobne to nepovedie k tomu, že si ho tá väčšina predefinuje.

+1
0
-1
Je komentář přínosný?

Samozrejme, ze to je AI a strojove uceni. Presne tak, jak to popisujes se provadi strojove uceni. Das systemu vstup (otazku) a vystup (odpoved) a to v mnoha variantach a system se to nauci. Koneckoncu, podobne to dela i clovek....

Jasne, v uplne drevnich dobach OCR to mozna bylo trochu jinak, ale to se bavime o dobe 30+ let zpet. Take to tehdy moc dobre nefungovalo. Ale i to spadalo pod AI.

+1
+5
-1
Je komentář přínosný?

Úplně v dřevních dobách OCR někdy před 25 lety jsem vzal obrazy digitalizované knihy a vyplňoval jsem písmeno po písmenu, co to je. Teď do toho spousta fontů, ty písmena pokaždé trochu jiná, k nějakým valným výsledkům to nevedlo.
Ukázalo se, že mnohem lepší je zadat písmeno a nastavit hranici neurčitosti, nemusí se to zdlouhavě učit.
Výsledky nejsou a nikdy z principu nebudou 100%, ale ono to takhle stačí a na konci se to holt nechá opravit člověkem.
Blbý je to tam, kde potřebuješ 100%, například: že bych tu pobyl vs. že bych to pobil. Už po jedné chybě dojde ke zmatení a při dvouch je to zcela ztracené.
A už vidím, jak ochotně bych stejný princip chtěl třeba v lékařství.

Od skutečné AI jsme stovky let daleko, tahle NVidia AI bublina nakonec splaskne.

+1
-4
-1
Je komentář přínosný?

Vždy přemýšlím, zda lidé jako vy mají život jednodušší, když jsou tak održeni od reality, nebo ho mají naopak těžší. Ostatní kolem vás, to samozřejmě těžší mají. :-)

+1
+4
-1
Je komentář přínosný?

Co je "skutecna AI"?

A u toho uceni... Tvoje predstava, ze pro natrenovani urciteho pismenka staci dat nekolik malo vzoru daneho pismenka, tak to se velice mylis. Tech vzoru kazdeho pismenka musi byt desitky, stovky, mozna i tisice.

Takze jo, kdyz naklapes celou knizku pismenko po pismenku, tak priste uz by to melo dany font slusne zvladat...

+1
0
-1
Je komentář přínosný?

AI se obecne z dalsich knih neuci a ani nemuze ucit. Vetsinou. Samozrejme, OCR system by mohl mit k ruce i jazykovy model a databazi slov. A pomoci toho se pokusit naucit nezname pismenko, nebo neznamy font a tak. Jenze, nekdo (clovek) by to musel kontrolovat a udrzovat.

Trenovani neuronove site probiha tak, ze nejdrive se uci na jednom setu dat a pak se na druhem setu dat, ktery nebyl pouzity pro uceni, testuje, zda je sit spravne naucena. Zda spravne zobecnuje a neni pretrenovana, tedy, ze umi skvele trenovaci mnozinu, ale ta testovaci uz ji tak dobre nejde. Jde totiz o to, aby sit dokazala spravne pracovat s temi neznamymi daty a ne aby perfektne zvladala ta znama data.

To je prave to umeni.... Dokazat, aby sit halucinovala, co nejmene.

+1
+5
-1
Je komentář přínosný?

Díky, tak už chápu, proč mi Google Gemini na žádost, aby mi to řeklo autobusovou zastávku, vyhazuje stanice metra. Na těch se totiž trénovala a ty umí, kdežto autobusové zastávky to nikdo neučil, takže jen halucinuje. :-)

+1
-4
-1
Je komentář přínosný?

Presne tak. Predne nemuzes ocekavat zazraky a pak zalezi, co kdo do systemu nacpal za trenovaci informace.

+1
0
-1
Je komentář přínosný?

Tak moment. To ako vážne si myslíte, že AI nechápe, čo je autobusová zastávka a čo zastávka metra? Však existujú aj vlakové zastávky. A zvalíte vinu na nejakú trénovaciu množinu? Boha jeho, čo vy musíte byť za debila.
Ak je toto pravda, tak s tou AI to musí byť fakt bieda.

+1
0
-1
Je komentář přínosný?

Je to jednoduché, ak AI nevie odpoveď, tak si ju veľmi často vymyslí. A autobusové zastávky v takej diere ako Praha asi nie sú úplne na vrchu zoznamu dôležitých vecí, ktoré chce Google svoje modely naučiť. Ja som za posledný týždeň dozvedel od AI celkom zábavné veci. Napríklad sa mi to snažilo nahovoriť, že pri celočíselnom násobení dokáže najsignifikantnejší bit ovplyvniť tie menej signifikantné vo výsledku. A tiež to vymyslelo asi 5 evidentne nesprávnych teórií, kde mám bug v 20 riadkovom kuse kódu ale nevšimlo si to, že mi tam na jednom mieste chýbajú zátvorky.

Niekde som čítal trefné prirovnanie, že AI je ako ožratý doktorant. Proste to vie hromadu vecí ale zároveň to vyrobí aj úplne triviálne chyby.

+1
0
-1
Je komentář přínosný?

Záleží na tom, komu a jak se ten dotaz zadá. LLM v té základní verzi vůbec nerozumí tomu, na co se ptáte. Dokáže ale sestavit odpověď, která zní věrohodně.

+1
+1
-1
Je komentář přínosný?

Robia to všetky modely, ktoré som doteraz použil. To čo som popisoval v predchádzajúcom príspevku boli odpovede od ChatGPT 5.1 a Gemini 3. To sa asi nedá považovať za nejaké druhotriedne modely.

+1
0
-1
Je komentář přínosný?

Boha jeho a tomuto sa hovorí AI???? Na svete je teda fakt veľa bláznov.

+1
0
-1
Je komentář přínosný?

Odpoveď na to, čo všetko je považované za AI vás šokuje! https://en.wikipedia.org/wiki/Artificial_intelligence

Na druhú stranu, ono to zase zvládne vyriešiť veci, ktoré vie iba zlomok populácie. Takže je tá AI vlastne úplne blbá, superinteligentná alebo oboje súčasne?

+1
+1
-1
Je komentář přínosný?

Pracovní trh AI zboří, i kdyby nahradila jen nejhloupější 1/3 populace. Tj. většině lidí to bude jedno, jim práci nesebere, jen jim ji usnadní. Ale socioekonomicky to bude problém.

+1
-1
-1
Je komentář přínosný?

Velké jazykové modely jsou naučené na datech, která např pro nás Čechy neobsahují autobusové linky v Praze. Ale ty mu je můžeš nahrát nebo dat odkaz na webovou stránku, a on se v nich vyzná díky datům, na kterých se učil.

+1
-1
-1
Je komentář přínosný?

Samozrejme ze AI nechape co je autobusova zastavka. Nechape vubec nic. A pokud neni naucena na prazskou sit autobusu, tak pouzije treba metro. A kdyby nebyla naucena na metro, tak by pouzila vlaky. A kdyby nebyla naucena ani na vlaky, tak by pouzila treba letiste.

Proste pouzije to, na co je naucena. V tomto pripade asi nebyla dostatecne naucena na prazskou dopravu. Mela by byt? No, mozna si nekde rekli, ze metro v tak malem meste jako je Praha staci, nebo nebyla k dispozici zdarma data autobusu a tramvaji, atd...

Ani nevim, co by AI rekla, pokud bych se ji zeptal, jake ponozky si dnes mam vzit ze sve skrine. Urcite by vsak neco stepneho vymyslela.

+1
+1
-1
Je komentář přínosný?

Jaké ponožky si dnes mám vzit ze své skříně?
GPT 5.1 řekl/a:

Pokud dnes jen lehce tápeš před skříní, pojďme to vyřešit společně 🧦🙂

Polož si tři malé otázky:

Jaké je počasí?
– Chladno? Vezmi si teplejší, třeba vlněné nebo froté.
– Teplo? Stačí tenké bavlněné nebo sportovní.

Kam jdeš?
– Do práce: spíš neutrální barvy (černá, tmavě modrá, šedá).
– Na rande nebo s přáteli: můžeš si dovolit něco výraznějšího nebo vtipnějšího.
– Sport: funkční, prodyšné.

Jakou náladu chceš mít?
– Veselou? Barevné nebo se vzory.
– Klidnou? Jednobarevné, jemné tóny.
– Sebevědomou? Tmavé, hladké, minimalistické.

Pokud chceš, můžeme to zúžit — stačí mi říct, jaké ponožky máš ve skříni nebo kam dnes míříš a vybereme ty nejlepší 😉👟

+1
+1
-1
Je komentář přínosný?

Tak fajn, ale snáď potom tomuto nemôžu všetci hovoriť AI. To sa všetci zbláznili?
Tak Prahu nepovažujem za malú. A dáta sú dostupné.
Mimochodom, na odchody autobusov stačí obyčajný vyhľadávač Google.

+1
0
-1
Je komentář přínosný?

Velké jazykové modely jsou naučené na datech, která např pro nás Čechy neobsahují autobusové linky v Praze. Ale ty mu je můžeš nahrát nebo dát odkaz na webovou stránku, a on se v nich vyzná díky datům, na kterých se učil.

+1
-2
-1
Je komentář přínosný?

Jenže AI opravdu nechápe, co je autobusová zastávka. Jazykový model jen skládá na hromádku tokeny na základě naučených pravděpodobností, co ty tokeny znamenají je mu ale úplně jedno.

Důsledkem pak je, že když má model množinu nesprávných odpovědí, tak z nich vybere tu nejméně nepravděpodobnou a tu pak vydává za správnou. Zkuste si třeba v Gemini vypnout napojení na vyhledavač a zeptat se na nějakou aktuální informaci, kterou nemůže mít v trénovacích datech. To jsou pak odpovědi, že by nejeden pohádkář bledl závistí...

+1
+4
-1
Je komentář přínosný?

Ale však tomuto potom nemôže nikto príčetný hovoriť AI. Veď to len zozbiera dáta a vyhodí najpravdepodobnejšiu odpoveď, pritom nemusí byť nielen pravdivá, ale aj odporuje otázke (však keď nemá správne dáta). A pritom aj človek s priemerný IQ hneď pochopí, že je niečo nesprávne. Tak potom o akej AI hovoríme? AI by snáď mala "pochopiť", že z dodaných dát na zadanú otázku nedáva správnu odpoveď (autobusová zastávka, metro). Však keď sa pýtam na odchody autobusov a mám množinu odchodov, tak musí byť k tej množine priradené, že sú to odchody autobusov a nie metra a nemôže mi potom poskytnúť hlúpu odpoveď v zmysle odchod ako odchod. Kde sa tam nachádza tá inteligencia?

AI (Umelá inteligencia)
je technológia, ktorá umožňuje strojom napodobňovať ľudské kognitívne funkcie, ako je učenie, rozpoznávanie vzorov, riešenie problémov a spracovanie jazyka, prostredníctvom algoritmov a počítačových systémov. Ide o široký obor informatiky, ktorý sa zaoberá vytváraním inteligentných agentov a systémov schopných vykonávať úlohy vyžadujúce ľudskú inteligenciu, pričom existujú rôzne úrovne od špecifických úloh (ANI) až po všeobecnú umelú inteligenciu (AGI).

+1
0
-1
Je komentář přínosný?

Velké jazykové modely jsou naučené na datech, která např pro nás Čechy neobsahují autobusové linky v Praze. Ale ty mu je můžeš nahrát nebo dát odkaz na webovou stránku, a on se v nich vyzná díky datům, na kterých se učil.

+1
-2
-1
Je komentář přínosný?

No jasně. Ale proto třeba já osobně to nenazývám AI, ale strojové učení. Od opravdové AI si představuju tento přístup:

Uživatel: Zadá dotaz na zastávky autobusu v určité oblasti například Prahy, + odjezdy v nějakém časovém úseku.

AI: Mám tyto informace? Ne, mám jen zastávky např. metra v daném městě. Kde tyto informace, které uživatel chce, najdu? Nejpravděpodobněji na stránkách hromadné dopravy daného města – autobusové jízdní řády. Najdu danou oblast, přečtu si zastávky a linky které tam jezdí, jejich příjezdy a odjezdy v daném období a ty pak poskytnu uživateli.

Takto by to, si myslím, mělo vypadat.

+1
+3
-1
Je komentář přínosný?

Však každý ví, co je LLM (velký jazykový model). Díky němu se sám vyzná v datech, která mu dáš. Ale spoléhat na data, na kterých se učil, nemá zvláště v Česku smysl.

+1
-2
-1
Je komentář přínosný?

To by ale najskôr AI musela nejaké informácie explicitne obsahovať (a nie iba implicitne zakódované v naučených váhach) alebo by vždy musela kontrolovať externé zdroje. A to nerobia ani ľudia. Mimochodom, ľudský mozog si tiež dokáže vsugerovať, že si niečo pamätá aj keď to nemusí byť pravda. A o tom ako často je tá "I" zložka prítomná u ľudí sa dá tiež dosť diskutovať.

Ona tá kombinácia ľudského intelektu a strojovej presnosti je v dôsledku nadľudský výkon. Aj keď samozrejme rozumiem, prečo to výraz AI môže asociovať.

+1
0
-1
Je komentář přínosný?

Presne tak, AI nechape co to je zastavka. Na to pochopeni je potreba AGI, a ne pokrocily statisticky model, kterym jsou LLM modely

+1
+4
-1
Je komentář přínosný?

Hlavný problém je, že inteligencia, vedomie a podobné koncepty sa ťažko definujú a merajú aj u ľudí a zvierat. Nieto ešte na nejakom umelo vytvorenom systéme, ktorý funguje na iných základoch. A my vlastne nevieme ani ako funguje ľudská inteligencia a vedomie, takže tie predpoklady, čo je nutné urobiť/dosiahnuť na to aby sa z AI stala AGI, mi prídu vždy ako hádanie.

+1
0
-1
Je komentář přínosný?

Tak potom chápanie AI je asi dosť divné. Ak je to štatistický model, prečo keď tam nasypú všetky odchody dopravných prostriedkov, nepriradia k nim aj údaj, akého dopravného prostriedku sa to týka? Alebo sa opýtam na odchod zo zastávky autobusu a raz mi to dá z metra, inokedy z letiska a na tretí krát odchod lode?
Alebo sú sprostí tí, čo to programujú.

+1
+1
-1
Je komentář přínosný?

A jaká data jsi do AI nasypal? Nebo spoléháš na data, na kterých byl model naučen?

Velké jazykové modely jsou naučené na datech, která např pro nás Čechy neobsahují autobusové linky v Praze. Ale ty mu je můžeš nahrát nebo dát odkaz na webovou stránku, a on se v nich vyzná díky datům, na kterých se učil.

+1
-2
-1
Je komentář přínosný?

"Halucinace" je takovy hodne nepresny buzz world.. ve skutencosti to nejspis akorat vybere nod stromu, kde ten dostaz skoncil. A je uplne jedno, co to je.

+1
-1
-1
Je komentář přínosný?

Obávam sa, že LLM nefungujú tak, že by prechádzali nejaký strom.

+1
0
-1
Je komentář přínosný?

stromem je mysleno posledni "zastavka"\, stejne jako ve poslendi vetev s nodem na konci. Kdyz mas neuronovou sit, je to taky "stromova struktura" nebo jestli chces "sitova struktura" v danem okamziku.

+1
-1
-1
Je komentář přínosný?

Akurát mi príde táto interpretácia v kontexte LLM zavádzajúca v tom, že to vyzerá, že na konci toho "stromu" je nejaká konkrétna odpoveď. Ale LLM neprodukuje celú odpoveď naraz ale iteratívne generuje tokeny (fragmenty slov), ktoré to prilepí na koniec a znovu to ide cez celý model znovu a tak sa tá odpoveď token po tokene predlžuje. Takže oproti tomu stromu tam nie je úplne jasný konečný stav, ktorý by bol zodpovedný za to, čo z toho vylezie.

+1
+2
-1
Je komentář přínosný?

OK, interpolace, nebo spis extrapolace. Muzes tomu rikat i "kvalifikovany odhad". Proste hada. To delava i clovek, ale ten si uvedomuje, ze nevi, ze pouze hada. A vetsinou to i dotycnemu sdeli, ze jde pouze o odhad a ze to muze byt uplne jinak...

AI zatim neudava, jak verohodna jeji odpoved je. V tom je ten problem. Vetsinou odpovi spravne, nekdy zcela spatne.

+1
0
-1
Je komentář přínosný?

Problém je, že niekedy povie úplnú blbosť, čo by človek nepovedal. Ak AI mi povie úplnú blbosť na základe najlepšieho odhadu, tak to nie je AI, ale kravina, ktorá si nezaslúži pomenovanie AI.

+1
0
-1
Je komentář přínosný?

Pokud odpověď nezná, tak vybere "nejbližší odpověď", bohužel neví ,jak blízká/daleká tato je. Pokud odpověď zná, furt je tam záměrně určitá randomizace, aby nedával furt ten samý výsledek a ty ses mohl zamyslet. Ta randomizace se dá vypnout nebo nastavit na pokaždé stejnou (seed).

+1
-1
-1
Je komentář přínosný?

AI bude dobry sluha,ale zly pan...

+1
+4
-1
Je komentář přínosný?

Jenom bych chtel rict, do budoucna, až nas ovladne Skynet a terminatori: Slouzim ti rad ó mocny Skynete. Diky ze me nechavas zit. All hail Skynet.

Konec sdeleni.

+1
0
-1
Je komentář přínosný?

Myslím, že do toho svoje love dáš - nepřímo. AI zdraží všecko, paměti jsou už teď vesměs na čtyřnásobku ceny před nafukováním bubliny. Jsem happy, že jsem koupil 15.8. 256 GB DDR5 za mrzkých 16k a tedy nebudu mít potřebu dlouho nějakou další kupovat (ona ta deska stejně víc jak 256 GB nezvládne ;).

+1
+2
-1
Je komentář přínosný?

Naopak, být tebou, tak 192GB z toho teď prodám :)

+1
0
-1
Je komentář přínosný?

Stane se to, ze Cina zacne produkovat pameti, ktere zaplni spotrebitelsky trh a pro tradicni vyrobce po opadnuti uz nezustane moc prostoru. V Cine se ta vyroba navysi pomerne "snadno". Pameti nevyzaduji nejmodernejsi vyrobni procesy.

+1
+1
-1
Je komentář přínosný?

Když je to tak snadné, tak proč furt nic není?

+1
+2
-1
Je komentář přínosný?

"Snadne", proti jinym cipum. A taky to neznamena ze to bude ze dne na den.

+1
0
-1
Je komentář přínosný?

Jestli to takhle pojede dal, prezije jenom Tyan, Supermicro a WS-modely vyrobců zakladnich desek.

ps- ta Collete je pěkná ženská .-)

+1
+2
-1
Je komentář přínosný?

Collete dělá svou práci dobře. Čumíš na ní, místo abys poslouchal, co říká. :-D

+1
+1
-1
Je komentář přínosný?

Výsledky za minulý kvartál u Nvidie rozhodně bublina jsou, téměř polovinu toho, co vykazuje, "prodala" jen účetně - nedodala a nedostala zaplacené, prostě započítala i hodnotu nevyřízených objednávek. Tohle ale jednou praskne.

+1
+9
-1
Je komentář přínosný?

Navic to udajne prodavala zcasti sama sobe. Tedy firmam, ktere vlastni a uveruje....

+1
+9
-1
Je komentář přínosný?

V minulosti by se našlo několik firem, které půjčovaly jiným, aby jim mohli prodeat své produkty.

Některé skončily hodně špatně, když třetí straně nevyšel biznis plán a nebyla shcopna úvěr splatit.

S 95% nasazení AI negenerujícími dostatečný zisk není tohle cyklické financování tak úplně bez rizik.

+1
+1
-1
Je komentář přínosný?

No prave, ta rizika jsou dost vysoka, pokud se nasazeni AI nepreklopi do vydelku. Ono se preklopi, ale je otazkou pro koho a kdy. Do te doby hodne firem pochopitelne odpadne.

Staci se podivat na jen na uzky segment vyhledavacu. Byvalo jich plno a mnohe uspesnejsi, nez Google. Ovsem Google dokazal vyhledavac monetizovat (asi jako prvy) a predstihl vsechny ostatni.

Podobne s textovymi editory, databazemi a podobne. Na pocatku jsou mraky implementaci a po nejake dobe to dospeje k nekolika silne prevazujicim....

+1
0
-1
Je komentář přínosný?

Ani jsem si nevšim, že by CPU v AI nějak začalo.

+1
-3
-1
Je komentář přínosný?

Prakticky všechno AI před érou přímé podpory GPU používalo procesory. Nejen LLM, ale i modely pro zpracování obrazu a zvuku.

+1
+9
-1
Je komentář přínosný?

Před přímou podporou v GPU pro AI (Tensor Cores) se používaly normálně výpočetní shadery v GPU. A ano ještě předtím se používaly CPU, ale to se dá napsat o všem, protože na CPU lze dělat vše že. Naopak lokální využití modelů se na CPU teprve může rozjet, protože se do nich až nedávno začaly přidávat NPU.

+1
0
-1
Je komentář přínosný?

Tady je ale řeč o serverových CPU, které žádná NPU nemají. Akcelerátory do serverových CPU dorazí, ale půjde o dost odlišné řešení, než jsou stávající NPU (s minimálně o řád vyšším výkonem). Jinak se tedy uvádí, že v loňském roce používalo GPU řešení zhruba 50 % serverů používaných k AI a ASIC / TPU jen zhruba 10 %. Pokud daný systém zpracovává obecné úlohy a AI je jenom jedna z řady zátěží, tak se prostě akcelerátory nemusí vyplatit.

+1
+1
-1
Je komentář přínosný?

Potenciál pro trénování modelů už nemají CPU spoustu let. To snad není žádná novinka. To že to dává ekonomický smysl, protože tam běží i něco jiného neznamená, že to má do budoucna potenciál. Potenciál pro jejich lokální využití ještě naopak ani nezačal. Prostě jen mediální masáž o tom, že AI není bublina a ať všichni nakupijí od NVIDIE. Pokud by totiž AI bublina byla, tak by nakupování CPU potenciál naopak mělo :D.

+1
-1
-1
Je komentář přínosný?

Ono je hlavne model a model. Na veľké modely sú samozrejme CPU nepoužiteľné ale sám som trénoval pidi siete smerované na embedded použitie, kde mi vychádzalo trénovanie na GPU podobne rýchlo ako na jednom vlákne CPU. Je to ale fakt dosť špecifický prípad daný veľkosťou modelu a štruktúrou dát.

+1
0
-1
Je komentář přínosný?

Mě jenom překvapuje, že se pořád mluví o GPU. Přitom to vypadá, že NPU by mělo být efektivnější.
Jestliže AI není bublina, proč se pro to nevyvíjí specializovaný čip?

+1
0
-1
Je komentář přínosný?

Google má svoje Tensor Processing Unit (TPU). A trénovanie modelov typicky beží v inej presnosti ako inferencia, takže tie NPU v užívateľských zariadeniach sú typicky optimalizované práve na beh už natrénovaných modelov.

+1
+4
-1
Je komentář přínosný?

To je tak, když někdo z finanční kanceláře mluví o technice :D
Nvidia CPU nemá, tak samozřelmě nebude tvrdit, že jsou potřeba. Prostě Nvidia = marketingová firma

+1
+3
-1
Je komentář přínosný?

Ja mám dojem, že celý svet je už len bublina. Intel tvrdí, že dopyt po procesoroch Lunar Lake a Arrow Lake prevyšuje ponuku waferov.
https://www.techpowerup.com/343713/intel-claims-lunar-lake-and-arrow-lak...

+1
-1
-1
Je komentář přínosný?

Všichni jsme bublina.
Jen Huang je "letadlo".

+1
+10
-1
Je komentář přínosný?

Docela vtipný dvojsmysl toho termínu "letadlo" ;)

+1
+6
-1
Je komentář přínosný?

Aha, takže gamechanger Spark vyhořel jako papírovej čert...

+1
+3
-1
Je komentář přínosný?

Já si myslím, že bublina jsou ty astronomické peníze, které do toho tečou a návratnost je pokud jde o zisky mizivá. Dalším faktorem je, že všechny AI plány stojí na obrovských odběrech elektrické energie. Zařídit dodávky není jen otázka pár let. Už nyní kvůli tomu údajně rostou účty běžných američanů, to si myslím že může být časovaná bomba, pokud nedojde k nějakým dramatickým optimalizacím a zefektivnění fungování.

+1
+2
-1
Je komentář přínosný?

Momentálne je to celé postavené na potrebe byť prvý a na predpoklade, že ten, komu sa podarí aby model dokázal rekurzívne zlepšovať sám seba vyhrá. To sa môže ale nemusí potvrdiť, pretože predpovede exponenciálneho vývoja väčšinou skrachujú na tom, že sa narazí na nejaký strop. A ďalšia vec je, že ak by sa niekomu podarilo vyrobiť ASI (t.j. umelú superinteligenciu), tak neviem, či by vôbec bola dostupná každému, tak ako sú dnes LLM (a to vôbec neuvažujem o scenároch ako vyhladenie ľudstva atď.).

+1
+1
-1
Je komentář přínosný?

Ja bych rekl, ze bitcoin a spol spotrebuje mnohem vice energie nez AI. A u bitcoinu se ta elektrina pali jen proto, aby se palila, aby nebylo lacine spocitat vysledek.

+1
-3
-1
Je komentář přínosný?

Pro psaní komentářů se, prosím, přihlaste nebo registrujte.