Jim Keller: Překonáme AI akcelerátory Nvidie našimi RISC-V procesory
Tenstorrent založil Ljubisa Bajic v únoru 2018. Do - v té době ještě téměř neznámé společnosti - v prosinci 2020 nastupuje procesorový architekt Jim Keller jako CEO. Keller, po téměř půlročním volnu (v pololetí 2020 opustil Intel) začal pracovat ve firmě zaměřené na architekturu RISC-V, se kterou se profesně setkal nejspíš poprvé. Za svého působení v DEC pracoval s architekturou VAX a RISC / Alpha, u AMD s x86 / x64, v Apple s ARM, podruhé u AMD s x86 / x64 a ARM a poté u Intelu opět s x86 / x64.
Nvidia dokázala se svými GPU podchytit rychlý růst AI segmentu. Jejich architektura však není optimalní pro zpracování AI. Naše akcelerátory AI budou efektivnější. Jedním z limitů zpracování AI na GPU je pomalý přístup k CPU a pamětem. Tyto slabiny řeší naše architektura Black Hole vycházející z RISC-V CPU. Eliminací úzkých hrdel umožní vznik energeticky účinnějších a levnějších AI systémů. --- Jim Keller, Tenstorrent |
RISC-V se mu však evidentně velmi zalíbila, mimo jiné kvůli otevřenosti a flexibilitě. Keller je přesvědčen, že na její bázi dokáže nabídnout AI akceleraci efektivnější (jak cenově, tak energeticky), než co nabízí Nvidia, jejíž řešení jsou čistě typu GPGPU jako samostatné moduly či karty. Keller zde poukazuje na úzké hrdlo mezi akcelerátorem a procesorem, případně dále (systémovou) pamětí.
I když je přesvědčen, že RISC-V řešení je již nyní efektivnější, je si vědom toho, že Nvidia trefila optimální okamžik a dokázala se uvést na vznikající trhy ve správný okamžik, takže to s konkurencí nebude snadné. I z důvodu rozšíření softwarové platformy CUDA, která se v oboru stala jakýmsi neodmyslitelným základem.
64bit Opteron vyvinutý v AMD byl dobře přijat hlavními výrobci serverů, ale nedošlo to tak daleko, aby rovnou vytlačil konkurenci v podobě Intelu. Pokud se však podíváme na současnou serverovou architekturu, 64bit řešení, které přinesl Opteron, má nyní 100% podíl. Výsledky tedy nemusí být vždy okamžité […] --- Jim Keller, Tenstorrent |
Vidí však určitou paralelu s 64bit Opterony, které - ač byly podstatně efektivnější než konkurenční alternativy - taky z důvodu dobře zavedené konkurence nedokázaly ihned získat tak široký podíl na trhu, jaký by jejich vlastnostem odpovídal. Nakonec však x64 řešení převládla a nyní jsou standardem.
Nutno dodat, že situace s AI akcelerací je podstatně pestřejší než byla situaci se serverovými procesory po roce 2000. Firem, architektur, konceptů a přístupů, které se snaží dokázat svoji nadřazenost nad ostatními, je celá řada a některé firmy mají ve svém portfoliu i širší spektrum architektur a řešení, kterými se snaží podchytit co nejvíc možných směrů vývoje. Takže si musíme položit řečnickou otázku, jaká je pravděpodobnost, že za 20 let bude standardem pro AI akceleraci právě RISC-V od Tenstorrent.