Copyright © 1998-2024 CDR server s.r.o.
Všechna práva vyhrazena.
ISSN 1804-5405.
Copyright © 1998-2024 CDR server s.r.o.
Všechna práva vyhrazena.
ISSN 1804-5405.
Podle semianalysis.com chce openai mít vlastní hw. Dávalo by to smysl protože jednotlivé karty hrozně neškálují (GPT4 měla být původně 100x větší než 3 ale narazilo se na limit).
Už při propojení pár desítek tisíc GPU je potřeba tolik síťových prvků že když má průměrnou životnost 5 let selhá v tom systému jeden každých asi 30 minut(!).
Výroba celých waferů jako čipu nebo podobný out of the box přístup pak dává při takovém rozsahu možná větší smysl.
Ono obecně když kupuješ jen highend (dokonce serverový highend), tak platíš takovou marži, že má smysl si udělat vlastní procesor in the long run (viz Apple a Amazon). Když k tomu přidáš i čekačku rok (když se ozveš, tak dva), tak máš čas i najmout lidi a navrhnout is ho ;-)
PS: LLM potřebuje hlavně mega hodně RAM. Stačí vám i několikanásobně pomalejší procesor než NVidie (tu beru jako etalon, maximum, ke kterému se výkonem nikdo nepřiblíží), protože jakmile NVidii dojde RAM na jedné kartě, tak přes propojení s ostatními GPU uvnitř počítače (rack) pro využití jejich RAM spadne výkon, a když dojde i v rámci racku, tak síťové spojení na další racky a už jste výkonem řádově jinde. Jako výpočetní jednotky pak stačí něco licencovat, jak říkám, klidně o dost pomalejšího, když si k tomu můžete dát "neomezeně" RAM. Číňani např. mají karty na levném PowerVR od Imagination Technologies.
EDIT: Tesla si taky třeba udělala svoje TPU do aut místo Tegry.
"NVidie (tu beru jako etalon, maximum, ke kterému se výkonem nikdo nepřiblíží)"
Mne pride AMD MI300X rychlejsi nez H100 od Nvidie, dokonca by som povedal ze ten rodiel je brutalny a Nvidia dostava na prdel. https://www.tomshardware.com/pc-components/gpus/amd-mi300x-performance-c...
Jenže nemají tak výkonný marketing, který by to dokázal prodat. U AMD většinou nebývá brzda HW.
No hlavně si hyperscaleři musí dodělávat ovladače a menší firmy a domácí uživatelé mají většinou smůlu. Ale prý se blíská na lepší časy - AMD najalo člověka, co by měl zlepšit možnosti instalace.
Z toho čo som počúval o MI300 tak hardvérovi inžinierli dali na tanier veľmi nový a komplexný dizajn a softvérove oddelenie, ktoré je dlhodobo poddimenzovanejšie ako u Nvidie a jednoducho im trvá vylepšovať software. Ono sa to zlepší, MI400 na tom bude výrazne lepšie, ale teraz je to také polodorobené.
Offtopic - SSD jsou opravdu shit pro udržení dat nepoužívaných PC. Starší Adata SU800 po půl roce mimo síť už win totálně mrtvé, je třeba nová instalace. Lepší Kingston (možná ještě MLC - nevím) a po roce a půl to samé. Moje většinou staré flešky jsou na tom lépe a zatím mě nikdy takhle nevypekly.
Vitana má lepší instantní polévky než Knorr....
Breaking news: voda je mokrá.
vzpomel sem si na totok https://www.youtube.com/watch?v=1Rm925f8Y24
Koukám Samsung už má svůj řadič pro Gen5 SSD, jen ho zatím nechal pouze v enterprise segmentu jako PM1743.
No tak to se už těším na consumer Gen5 SSD, které netopí.
Vynášení TSMC do nebes....
Zajímavost. ZEN 2 byl první produkt AMD vyrobený u TSMC. A byl takový nemastný neslaný. Revoluci udělal až ZEN 3.
... není to jen o křemíku.
K čemu takový výkon?
Na spuštění singularity!
Někdo chce být první.
M$ nebo Meta?
Nedivím se. Technologický náskok bude ohromný.
Dohnat ho bude těžké.
ta poznamka o Nemecku je trefna.
To salto mortale co predvadzaju v energetike je neuveritelna vyhladna skrina ludskej hluposti.
A keby len v energetike. Nuz nemci ...
Německo má elektriky spoustu a navíc je super zelená. Třeba ta elektrárna ne dřevěnou štěpku kde si dřevo dováží z Finska a Kanady (dříve z Ruska) na lodích, které jsou určitě super zelené na vítr a něco jako mazut nikdy nepoznaly. To že každý rok zmizí les o rozloze cca jednoho českého okresu ani nemusíme počítat :-)
ano, ano, uplne zelena.
pripadne, ked dostatocne nefuka a nesvieti tak spaluju LNG (kedze plyn cez potrubie si zakazali). A emisna stopa LNG je podobna ako emisna stopa uhlia.
No proste, vsade zeleno a zelensie ...
Žiadne salto mortale veď na obnoviteľných zdrojoch pracujú posledných 30-40 rokov. V tomto sú omnoho popredu aj oproti Česku takže by som si z nich srandu nerobil.
nuz mas pravdu, pracuju na tom minimalne 30 rokov.
No a dosiahnute uspechy:
- investovane obrovske peniaze
- OZE stale nevedia fungovat bez dotacii
- obrovska nestabilita v sieti - jeden priklad za vsetkych. cca 2 tyzdne dozadu. Pocasie sa zmenilo oproti predpovedi a OZE neboli schopne dodat elektrinu, ktoru dopredu predali. Cena elektriny vyletela na maximum co podla pravidiel burzy dovoluje na 9999eur za MWh
- stale musia bezat uholne elektrarne
- stavaju nove plynove elektrarne
- z exportera elektriny na stal importer
- draha elektrina
- a to najdolezitejsie. emisie v energetike neklesaju. Ak by sme zapocitali skutocne emisie LNG na ktory presli, tak realne este stupli. Cize to je viac antizelene ako zelene
Takze celkovo fiasko. Fiasko totale.
Keby miesto toho postavili flotilu jadrovvych elektrarni, tak dnes by mali: lacnejsiu elektrinu, stabilnejsiu siet, boli by exporteri a hlavne by vyznamne znizili emisie v energetike.
A reakcia nemcov ? Vypli este aj posledne jadrove elektrarne co mali.
Suhlas, ze srandu by som si z toho psychickeho deliria nemcov nerobil. To je na zaplakanie
Nemecko dostalo šok v 80tych rokoch a potom v roku 2011 z dvoch veľkých havárií jadrových elektrární. My sme to neriešili, ale oni to vnímali dosť inak. Ja nehovorím, že to robia najlepšie, ale tam je aj omnoho viac produkcia energie decentralizovaná. Firmy aj domácnosti si vo veľkom energiu vyrábajú sami. Ja si myslím, že do niekoľko rokov sa situácia napraví. Zároveň pozri sa na nás. Koľko nám tvralo dostavať posledný blok. Myslíš si, že nám súčasné kapacity vystačia do roku 2040? Buď budeme importovať alebo začneme poriadne investovať do ďalších zdrojov energie.
treba povedat, ze JE(jadrove elektrarne) disponuju obrovskou bezpecnostou. Napriklad pocet obeti vodnych elekrarni len povedzme v samotnom Taliansku je vacsi ako pocet obeti vsetkych nehod JE na celom svete. Takze nemecky strach z jadra je iracionalny.
To, ze je vyroba elektriny decentralizovana mozno vnimat ako plus, avsak to je bezvyznamne s uvedomenim si faktu, ze vyroba elektriny nie je riaditelna a je kompletne zavisla na pocasi. Tym padom potrebujete nejaky backup. A tak sa buduju uholky+plynovky co je jednak drahe (v podsate sa buduje siet zdrojov 2x) a jednak velmi neekologicke. Ta drobna vyhoda decentralizacie (a iba ked je fajn pocasie) sa akosi straca.
Treba opat povedat, ze Nemci to buduju uz cez 30 rokov a vysledok je fiasko totale. Trvat na iluziach, ze sa to snad da do poriadku, mi pripomina trvrdenie, ze my sme budovali 40 rokov socializmus a malo to svoje drobne chybicky. No stacilo pockat dalsich 30-40 rokov, a ono by sa to dalo do poriadku :-)
To, ze u nas trvalo postavit jeden blok neskutocne dlho, nie je problem samotneho zdroja. U nas postavit dialnicu z Bratislavy do Kosic trva pol storocie a asi nikto nebude tvrdit, ze to je chyba dialnice samotnej.
Čo je na tom, že je iracionálny? U nás väčšina ľudí volí na základe iracionálnych strachov. Tá decentralizácia okrem toho predsa nie je len do dobrého počasia. Veď ak má domácnosť domácu batériu tak môže do veľkej miery fungovať takmer úplne samostatne. Ja som to ináč nemyslel tak, že jadro je zlé. Ja som skôr myslel, že sa na to nedá spoliehať do budúcnosti kvôli veľmi dlhej výstavbe. U nás je reálnejšie investovať do zelenej energie ako do jadra do budúcnosti. V Česku podľa všetkého tiež nie sú veľkí machri v stavaní atomoviek.
co je na tom, ze je iracionalny ? no nic, len to, ze zavery potom budu iracionalne. Presne tak, ako to vidime v tom Nemecku.
Co sa tyka toho backupu do baterii. To ma svoje velke uskalia. Financne, bezpecnostne, ekologicke.
Ono je krasne, ked budete mat doma bateriu na jeden-dva dni. A ked nebude svietit a fukat 2 tyzdne, tak potom co ? Ci ste ochotny vrazit 70 000 euro do bateriek ? A to este nejaka mala domacnost. Podme sa bavit o celej energetickej sieti. To zalohovat bateriami nejde. Jednoducho nemame dost baterii. Nehovoriac, ze pri ich dnesnych cenach by to bola ekonomicka samovrazda.
Ked nebude svietit a fukat, tak potom co ? Vypneme tovarne ? Viete o tom, ze su vyroby, kde nabeh trva aj niekolko tyzdnov ? Ci zrusime tovarne ?
Ak pojdeme cestou zelenych zdrojov (myslim tym OZE), budeme celit presne tym istym problemom ako v Nemecku (ako som pisal vyssie). Kde nam krasne ukazali, ze to nefunguje. Ci my to spravime lepsie ako nemci, a u nas to bude fungovat ?
Co sa tyka vystavby JE, viete o tom, ze su krajiny ktore su schopne postavit JE za 6-7 rokov ? Ano, nie je to na zapade, kedze zapad miesto znalosti a vedomosti dava prednost ideologiam. Ale postavit JE za 6-7 rokov, rozhodne neni zly vysledok, ked uvazite, ze mate bezpecny, riaditelny a nizkomesny zdroj na mnoho dekad.
Ja som pôvodne nechcel ísť do debaty o jadrových elektrárňach a celkovo energetike. Je to iracionále to áno, ale hovorím 30 rokov na tom pracovali a o pár rokov to bude mať svoje výsledky. Bolo by síce lepšie ak by mali aj jadrovky, ale dokáže ich priemysel ustáť pár rokov nedostatok energie tak podľa mňa to prejdú v pohode. Pre nás to bude primárne problém, nie pre nich. Nemecko je bohatá krajina, ktorá rozdýcha všetko možné. My budeme radi ak to energeticky všetko ustojíme a adaptujeme sa do budúcnosti.
strasne rad by som vedel, odkial berete tu vieru/istotu/iluziu, ze o par rokov to bude mat pozitivne vysledky. Pretoze vsetky parametre, ktore do toho nejakym sposobom vstupuju sa nezmenia ani o par rokov. OZE budu stale zavisle na pocasi, budovanie zaloh bude stale neekologicke a neekonomicke. Ano moze sa stat, ze budu potrebovat menej elektrickej energie, kedze priemysel poodchadza. Ale to snad nemozte povazovat za nieco pozitivne.
No a ta bohata krajina. Ak robia taketo iracionalne rozhodnutia aj v inych oblastiach (ano, vedel by som o nejakych), tak sa moze stat, ze onedlho to uz nemusi byt az taka bohata krajina.
Nemusí byť bohatá do budúcnosti to je pravda, ale verím filozofii obnoviteľných zdrojov energie. Súhlasím však, že zatváranie atómoviek nie je správny krok. Nemecko celkovo má problémy, ale tie sú inde. Veľká časť priemyslu bola naviazaná na Rusko, príp. export do Číny. Od roku 2022 však toto neplatí a Nemecko bude musieť vymyslieť niečo iné. Takisto im chýbajú inovácie a startupy, ale ako hovorím toto je asi debata na iné platformy.
neodpovedal ste na otazku. Vidime, ze nemci maju s OZE intenzivne skusenosti cez 30 rokov. Vidime, ze vysledok je fiasko. Ziadne relevantne premenne sa v najblizsich rokoch nezmenia.
Vy vsak stale tvrdite, ze OZE verite. Takze znova opakujem otazku, z coho prameni toto presvedcenie/viera/iluzia ?
Ja nerozumiem presne argumentu. Vy ste to zadefinoval ako fiasko. V skutočnosti Nemecko však úspešne kapacitu navyšuje https://www.cleanenergywire.org/news/renewables-cover-more-half-germanys.... Problém bolo odstavenie atómoviek, nie investície do obnoviteľných zdrojov.
tak ja som to pisal uz vyssie, ale kludne zopakujem:
- investovane obrovske peniaze
- OZE stale nevedia fungovat bez dotacii
- obrovska nestabilita v sieti - jeden priklad za vsetkych. cca 2 tyzdne dozadu. Pocasie sa zmenilo oproti predpovedi a OZE neboli schopne dodat elektrinu, ktoru dopredu predali. Cena elektriny vyletela na maximum co podla pravidiel burzy dovoluje na 9999eur za MWh
- stale musia bezat uholne elektrarne
- stavaju nove plynove elektrarne
- z exportera elektriny na stal importer
- draha elektrina
- a to najdolezitejsie. emisie v energetike neklesaju. Ak by sme zapocitali skutocne emisie LNG na ktory presli, tak realne este stupli. Cize to je viac antizelene ako zelene
To je srandy kopec, už teď je málo elektřiny pro ten greendealovský automobilní pokus, a teď ještě tohle. Naše slavná republika hodlá vybudovat za nevím kolik let pár bloků, které pokryjí asi tak dvacetinu německé spotřeby, na nás nezbyde nic, jen to zaplatíme.
a este prisiel k tomu diktat z bruselu, ze si mozte postavit atomky, ale OZE musia mat stale prednost vo vykupe elektriny.
Holt sloboda ...
OZE ma prednost pred vsemi uz minimalne ctvrt stoleti.... Ono je to logicke, jen v tom objemu to zacina byt dost neprakticke...
doteraz to cesi tak nemali, a logicke to rozhodne nie je.
a ano je to neprakticke a velmi drahe
Cesi to maji asi ctvrtstoleti, pokud ne dele. OZE ma prednost. Melo ji snad i za totace. Ono to ani moc jinak nejde.
kdeze, baseload v cechach zabezpecuju hlavne jadrove elektrarne
Z CR se da do zahranici, tedy i Nemecka vyvezt maximalne tak cca. 2 000 MW, tedy vykon cca. celeho Temelina, nebo Dukovan. A to uz se vyvazi. Ty nove reaktory/reaktor uz exportovat nepujdou, tedy do odstaveni Dukovan.... Nahradi vsak odstavovane uhelky.
Zjistěte si podmínky, za jakých to Brusel povolil. Budete se divit.
Vetsina podminek je uplne normalnich. Co si matne vzpominam, tak skutecne omezujici byla jen jedna.
ked budu mat Nemci prebytok v OZE, budu to musiet cesi uprednostnit pred svojimi JE.
To normalne rozhodne nie je
Což je ale trochu o ničem ve chvíli, kdy máš omezenou kapacitu linky mezi námi a Německem a nikdo ji navyšovat nehodlá.
Ani mě to nepřekvapuje. Nvidia taky počítá s výrazným nárůstem poptávky. Ta vidí ai akcelerátory všude (viz posledni velka prezentace ). Jestli je to dobré nebo ne netuším.
Nechápu, jak může taková firma jako AMD s čistým svědomím vyrábět AI akcelerátory, když o článek níž se pod NVidia akcelerátory píše, že tyhle stroje zabíjí!!!
Neblábol.
U AMD (tohoto článku) jsem nepostřehl něco, že budou obcházet zákony, aby na tom extrémně vydělali. Evidentně jsou zákazníci i mimo blokované části planety. Ale Nvidia byla vždycky "hamty-hamty" hamoun, takže hledá kličky, jak se zákony vyjeb.t
Auta, noze, vidlicky, cihly a dokonce i kvetinace take zabijeji. A take pilne vcelky, kdyz na to prijde.
Redmax IQ testy si si niekedy robil?
ms uvažuje, že u svých datacenter bude dělat malé modulární nukleární reaktory, takže o elektřinu bude postaráno
uvaha je to pekna, len akosi tam este nie sme. to chce cas
ani s 1mil akcelerátorů :)
Ľudia mne to príde zvláštne. Ako keby aj tento supermoderný hardvér jednoducho nedokázal škálovať dostatočne na potreby AI.
Pro psaní komentářů se, prosím, přihlaste nebo registrujte.