Samotný ChatGPT v tuto chvíli běží především na akcelerátorech Nvidia A100 s jádrem Ampere GA100. Jejich výkon ovšem zdaleka nestačí a aplikace je tak leckdy nedostupná. Přestože dochází k rozšiřování o Nvidia H100 postavené na jádrech Hopper GH100, je zřejmé, že nároky porostou dál.

• Ceny HBM3 raketově stoupají, může za to ChatGPT

Především se budou objevovat další (konkurenční) projekty, které budou rovněž potřebovat hardware k akceleraci svého kódu. Zatím se mluví o alternativách od Googlu, Microsoftu (Bing), ale přijde i řada dalších. Většina velkých hráčů situaci vnímá jako příležitost, jak získat další trhy, rozšířit svůj vliv a příjmy, nebo si přinejmenším uvědomuje, že promeškáním této příležitosti by mohla zaspat dobu, což je pro mnohé giganty asi ten největší strašák vůbec (vzpomeňme na Nokii).

Krom Nvidie, která si dokázala získat první zakázky, příležitost cítí i asijské značky. Například Samsung rozjel vývoj speciálních pamětí na míru pro AI aplikace pracující s velkými objemy dat. Připomeňme, že Samsung již před dvěma lety ve spolupráci s AMD ohlásil paměti typu PIM, které se oproti klasickému řešení liší vestavbou jednoduchého AI akcelerátoru přímo do pamětí. Díky tomu se základní operace s daty mohou provádět již na úrovni pamětí a šetří se výpočetní čas i energie, které by stál přesun dat z pamětí do hlavního akcelerátoru a rovněž i výpočetní výkon hlavního akcelerátoru, který se může věnovat náročnějším úlohám. O rok později ohlásil své PIM také Hynix.

• Samsung ohlásil HBM-PIM, paměti s integrovaným AI akcelerátorem ²⁰²¹
• Hynix zahajuje výrobu pamětí s vestavěnými procesory / akcelerátory ²⁰²²

Další, kdo by si rád ukousl z koláče, jsou výrobci čínských GPU. Je pravdou, že jejich projekty a produkty zatím na trhu s herní grafikou příliš nenesou ovoce (GPU Moore Threads MTT S80, o kterém jsme vás neinformovali, protože by to bylo zbytečné, ve dvouslotovém třívětrákovém provedení dosahuje výkonu, který v průměru horko těžko konkuruje již historické 30W GeForce GT 1030). Právě i to však může být důvodem ke vstupu na trhy akcelerátorů, neboť tam nečíhají záludnosti a nutnost sáhodlouhých optimalizací na míru, bez kterých to ve světě herní grafiky nejde (pokud tedy chce výrobce konkurovat Nvidii a AMD). Potenciál zde vidí přinejmenším značky Jingjia Micro a Loongson.

Z jistého úhlu pohledu lze říct, že vývoj hardwaru pro akceleraci AI se dostává do další generace: Z více-méně univerzálních akcelerátorů začíná být patrný přesun k řešením navrženým na míru pro konkrétní aplikaci (nebo typ aplikace).