Copyright © 1998-2024 CDR server s.r.o.
Všechna práva vyhrazena.
ISSN 1804-5405.
Copyright © 1998-2024 CDR server s.r.o.
Všechna práva vyhrazena.
ISSN 1804-5405.
K čemu je to dobré?
V Inteli asi vedia, keď vsadili marketing na AI.
Na akceleraci AI úloh. Třeba zpracování fotky v Topaz Gigapixel (redukce šumu, zlepšení detailů, převzorkování), které na Core i9-14900K trvá 180 sekund (o spotřebě si představu udělá každý), může na čipu s NPU trvat ~17 sekund při spotřebě pár wattů:
https://cdn.it.chosun.com/news/photo/202312/2023092107109_369845_624.jpg
Otázka není, k čemu je to dobré, ale jak rychle se rozšíří kvalitní softwarová podpora.
Ty budoucí Strixy výkon v AI ještě posílí, škoda že 8600G/8700G mají jen první generaci XDNA/NPU.
Drb: Kvůli prioritizaci výpočetních karet pro AI prý AMD ruší Strix 3. Údajně i Strix 2 to má nahnuté, ale považuju za kachnu (spíš dojde k posunu vydání o půl roku).
A kde je tá fotka, nech si urobím predstavu, ako dobre to robí?
Robí to stejně s i bez HW akcelerace, s HW akcelerací to ale urobí násobně rychleji a s nižší spotřebou.
Ale ono si stačí pustit Davinci Resolve (placenou verzi) a je tam hromada featur spojených s AI, kromě nějakých vylepšování třeba pro tracking objektů, kdy chceš pro vybrané objekty na videu aplikovat jiné color gradingy, stabilizace obrazu na objekt (vybraný objekt bude vždy ve středu obrazu, i když ve videu se pohybuje), maskování... A nejde o rychlost renderu výysledného videa, na to to AI nepotřebuješ, hrubá síla by to zvládla při encodingu, ale ty to potřebuješ vidět na timelině v reálném čase při editaci. Na co už není hrubý výkon a nemusíš kupovat specializovaný hadrware za statisíce nebo i miliony
Software Gigapixel lze pro vyzkoušení stáhnout na webu Gigapixel. Výstupy jsou totožné bez ohledu, zda běží na CPU, GPU nebo NPU.
Dovoluji si poopravit - jsou ke stažení na www.topazlabs.com (společnost Gigapixel.com vytváří panoramatické obrázky a Gigapixel.cz virtuální prohlídky a obrázky, tedy ani jedna nedělá software), a to buď komplexní Topaz Photo AI, anebo jednoúčelový Gigapixel AI, jenž je na stránkách ještě ve verzi 6.3, ještě se "starým" UI (vývoj pozastavili s objevením se Photo AI,), ale už zase pokračují, už existuje beta verze 7.0.4, která má UI sjednocené s Topaz Photo AI.
Mimochodem, Photo AI umí i vymazání objektu z obrázku, a dosahuje vcelku zajímavých výsledků, leckdy nečekaných. Jen tak ze zvědavosti jsem označil k výmazu hlavu nějakého chlapíka, který stál čelem a byl v nějaké uniformě ochranky v marketu. Výsledek byl, že hlava definitivně zmizela, a přibylo tričko a dokonce s cedulkou s pokyny k údržbě, tam, kde obvykle bývá.
live preklad do rôznych jazykov počas hovorov a telekonferencií.
a kto bude zodpovedný za zlý preklad? AI?
Galaxy S24-ku nemám
https://www.youtube.com/watch?v=J7x0E0hLaJ8
Čo tým chcel básnik povedať? Snáď si nemyslíš, že niekto spraví prezentáciu, kde mu to nebude fungovať?
Drive, co pozdeji to bude fungovat dobre. Kazdopadne to bude lepsi, nez se nedomluvit vubec... Nebo se domlouvat s mizernou znalosti jazyka.
Treba nedavno jsem slysel malebny preklad "kozesinovy strom", spravne to melo byt "jedle" (fur tree - fir tree). Zname "na zdravi" - "nadrazi", "shit" - "sheet". Nebo kdyz neznaly profi prekladatel preklada do cestiny nazev produktu nebo firmy.....
Jo a nezapomenutelny byl davny preklad Google "kolacky Tary Hillove" - "Tara Hill mounds". Ale to bylo v uplnych pocatcich prekladace pred cca patnacti lety.
A je lepší, když to nezafunguje ideálně nebo se zcela nedomluvit. Však to jak to reálnmě funguje budfeme brzy větět, je tam spousta věcí která technická komunita hodlá vyzkoušet...
Dnes máš v telefonech běžně aplikace na transkripci a překlad, takže když se chceš s někým domluvit, tak řekneš ve svém jazyce něco do telefonu a ten to přepíše do textu a přeloží do cílového jazyka, případně i řekne v daném jazyce. Ten člověk pak zase něco řekne do telefonu svým jazykem a telefon rozpozná co řekl a přeloží do tvého jazyka.
Samsung to povýšil že to lze použít při hovoru v reálném čase a ty ani druhá strana nemusíte slyšet co říkáte ale uslyšíte rovnou překlad, každý ve svém jazyce.
Nikdo nečeká že to bude 100% bez chyb. Ale je to rozdíl domluvím se, nedomluvím...
Ano AI. Předpokládám že ten překlad nikdo bez kontrolny nevezme a neudělá z toho právní dokument, kde by z chyb mohly vyjít nepříjemné konsekvence.
Navíc na něco na čem ti záleží použiješ robustnější model.
Třeba transkripce textu, na netu stáhneš AI modely i SW, který s tím pracuje. Můžweš si stáhnout různé verze modelů. Nechci to teď hledat, tak jen příklad jak to funguje:
100MB AI model pro transkripci konkrétního jazyka. Realtime to zvládne CPUčko, chybovost 10%
1GB AI model, realtime to zvládne AI akcelerátor (tensor, tyhle Intel, AMD věci, neural enginy v armech), chybovost 5%
10GB AI model, realtime to nic nedá, chybovost 1%
No a teď záleží co potřebuješ a co máš k dispozici...
Pokud se musíš ptát, tak tobě k ničemu. AI je prošpikované všechno, krásně to vidíš v telefonech co lokálně akcelerované AI modely dokáží aniž by musely využívat cloudu.
Jsou mraky SW které AI akceleraci využívají pokud je k dispozici, třeba Photoshop, Davinci Resolve .... a samozřejmě mraky dalších nejen kreativních.
Python je po javascriptu nejrozšířenější a nejpoužívanější programovací jazyk a je hodně využívaný právě pro AI, takže tady mohou být miliony aplikací napsané na specifické požadavky jejich uživatelů
Tak, treba to muze zlepsit potlaceni hluku okoli pri telefonovani/telekonferenci, lepe potlacovat zpetnou vazbu pri telekonferenci.
Nebo treba rozdeleni skladby na skupiny nastroju. Treba by si clovek mohl zesilit basu/bici, odstranit zpev, nebo ho naopak zesilit, nebo ponechat pouze zpev.
To uz nektere DJ programy umi v realnem case, ale neni to snadne, nadupana AI tomu urcite pomuze. Urcite by to ocenili priznivci karaoke.
A pak, jak zminuji jini, upravy fotografii a videa.
A pak nejake narocnejsi optimalizace zalozene na linearnim programovani. To se casto pouziva v ekonomii. Treba na optimalizaci nakupu elektriny obchodniky s elektrinou, nebo na planovani provozu elektraren.
Ten provoz elektráren by mě zajímal, dělal jsem na systému který řídí výrobu elektřiny. Máš zdroje které nedokážeš řídit - fotovoltaiku, větrné elektrárny. Pak máš jádro, které vyrábí konstantně, není dost rychlé na pokrývání výkyvů v síti, Vodní, přečerpávačky, uhelné, plynové... ty lze řídit a umí celkem rychle reagovat minimálně přečeprávačky a plynové dokáží reagovat v řádech desítek sekund. Ale to řídí aktuální stav sítě, máš v síti víc energie, tlumíš, máš ji málo přidáváš výrobu. V ideálním případě vyrábíš tolik kolik se ze sítě odebere. Nevidím tam prostor pro AI
V získávání dalších informací o řízení.
Díky AI můžete najít souvislosti mezi metrikami, které by vás ani nenapadly. Nevím přesně, k čemu by se AI měla při řízení energetické sítě využívat, ale umím si představit, že sama předpoví, že když dneska budou dávat fotbal, spotřeba bude nižší.
Už teď se utrácejí obrovské peníze za předpověď počasí kvůli řízení těch sítí, deset let zpět byla právě předpověď pro elektrárny (na 4 hodiny dopředu) ta nejlepší dostupná, když mě tehdy zajímala předpověď počasí. A další podobná data se dají dost dobře vydolovat třeba ze sociálních sítí, kdo ví (ale halo je kolem toho obří).
".. když dneska budou dávat fotbal, spotřeba bude nižší .."
V Británii mají zkušenosti se sledováním oblíbených pořadů.
Když naběhne reklama, jdou si lidi postavit na čaj.
Nějakých 100 000 lídí x 2kW ... a hned je tu skokový nárůst o 200MW.
> Nevidím tam prostor pro AI
Temelín ušetřil na spotřebě elektřiny díky zapojení AI. Lépe nastavuje čerpadla
https://forbes.cz/temelin-usetril-na-spotrebe-elektriny-diky-zapojeni-ai...
To uz dneska funguje dost dobre i bez chipu v CPU. Treba u B&O HX je potlaceni hluku okoli pres 4 mikrofony (ktere jsu v headsetu) natolik dobre, ze jsem s tim mel nekolik callu v plne kavarne, hluk jako cune a lidi mysleli, ze sedim nekde venku. Jestli maji ty sluchatka nejake AI na to netusim, ale tyhle technologie funguji i dneska velmi dobre. Je to jen otazka, jestli to dani vyrobci a zakolik chteji prodavat i treba v suntech, aby se dana technologiie vic dostala mezi bezne konzumenty.
Ale jinak asi jo, AI muze nekterym vecem, typicky "flitrum" asi docela pomoct. Nicmene je tam hacek, ze jakmile trenovana mnozina vypadala jinak, nez realita, vysledky muzou byt silne prekvapive :)
Nevím, co je B&O HX, ale nějaké to "AI" zpracování zvládne leckteré DSP, i některé varianty ESP32 v sobě mají "AI akcelerátor". Netuším, jak schopný, ale i v těch sluchátcích klidně může být nějaký čip. Spíš bych se divil, kdyby tam právě nebyl.
AI ta sluchátka právě zlevní. Nebude potřeba tak silný čip a tolik mikrofonů.
Pochybuji. Za posledních 20 let se cena kvalitních sluchátek více méně nezměnila. Přibyly nové technologie a všechno je modernější a bezdrátovější, ale za obdobnou třídu kvality zaplatí člověk pořád stejně.
Určitě to zlevní ta nejlevnější sluchátka. Za tři stovky sluchátka s ANC, to asi nebude problém. Ale já mám rád i kvalitní zvuk, nejen ticho :-D
".. za obdobnou třídu kvality zaplatí člověk pořád stejně .."
Se započtením ceny peněz (inflace), nebo bez?
".. Ale já mám rád i kvalitní zvuk, nejen ticho .."
Víte, co bych já dal za ticho?
Tinnitus je děs, který Vás může dohnat k hranic šílenství. Nebo i dál.
Ano, AI a technologie obecně umožňují někde zachovat predinflační cenu. Vysvětlujte ale pak plebsu, že to ve skutečnosti zlevnilo.
Ten tinnitus máš vrozený, nebo sis ho nechtěně způsobil? Od určitý doby, co mi to brácha vysvětlil, si třeba dávám jas a hlasitost na míň.
Zánět ucha.
Jedna z mala veci, co se mi na aktualnim macOSu zalibila, je to, ze (on device) otagoval fotky podle toho, kdo na nich je. A podobnych blbosti, co potesi, clovek najde spoustu.
Stejně tak on device voice recognition pro Siri, identifikace textu ve fotkách a jeho zařazení do vyhledávání, spolupráce s kamerou (center stage), blbosti jako na kliknutí odstranění pozadí z fotky apod... Jsou to maličkosti, které ale vytváří silný celek. Jde to bez AI akcelerace, jde, ale ne tak efektivně.
A to nemluvíme o SW, který to používá k lecčemu
https://oenergetice.cz/jaderne-elektrarny/temelin-usetril-diky-ai-na-spo...
Se šušká, že za AI vyndal ČEZ 300 milionů korun. To asi nebude příběh akcelerátoru v procesoru.
118 kapříků tobě
118 kapříků mně
63 milionů státu jako daň
1 meloun Frantovi, který to udělá
Nebo Fialova vláda potřebovala vytáhnout z ČEZu víc peněz, tak část zakamuflovali takhle ;-)
Já jsem se nahoře zeptal, k čemu to je. Ale v zádadě kromě pár filtrů jsme se dozvěděli, že by to monžá, když a pokud, mohlo sloužit i k něčemu učitečnému.
Na mě to totiž působí trochu jako začátek akce akcelerátorů fyziky (Ageia PhysX, PPU (Physics Processing Unit atd.) dnes po nich neštěkně ani pes a vše počítá GPU. Tak jsem se raději zeptal, jestli to zase není další tahačka na peníze a reálně k hovnu.
Do telefonu RTX 4090 nebo RTX 6000 nenarveš.
Pokud není ruský.
Melkore, ani procesory o kterých je článek. Takže tvůj přízpěvek je zcela mimo mísu.
Do zařízení, kde se používají zmíněné procesory, výkon RTX 4090 taky nenarvete.
O osude PhysX akceleratorov ale rozhodla Nvidia. Ageia akceleratory fungovali dobre, Nvidia funkcionalitu preniesla do GPU, s urcitym driverom to fungovalo a potom podporu zarezali. GPU podporu nechali len pre Apex a len pre extra efekty. Z dobrej ficury sa stala propaganda na verbovanie Svedkov Jensenovych.
Spíš bych řekl, že díky nVidii se ukázalo, že samostatný hardwarový akcelerátor je zbytečnost, a nVidia pak PhysX zařízla sázkou na jeho exkluzivitu, umělými omezeními na konkurenčních GPU a všech CPU, akorát ta sázka nevyšla.
Podobně to nVidia udělala u G-Sync a tím vylepšováním obrazu; a v tomto případě jí to docela vyšlo (poměrně dlouho měla na ty technologie exkluzivitu), a když o tu exkluzivitu přišla, tak tu uzavřenost mírní tak málo, jak jen musí.
Taky vsadila na výpočetní akcelerátory, na což hráči už pěkně dlouho nadávají, a jak pěkně jí to vyšlo a vychází dál. Není to možná úplně sluníčkářská firma, kterou by člověk musel milovat, ale výsledky má Huang vynikající.
upravene:
S tym ja suhlasim, samostatny akcelerator na fyziku zmysel nema.
Moj problem je ten ze Nvidia rozbila to co fungovalo a vypla plnu akceleraciu PhysX na GPU.
Pro psaní komentářů se, prosím, přihlaste nebo registrujte.