David McAfee z AMD během Computexu odprezentoval demo Ryzen XDNA AI akcelerátoru, kterým je vybaveno 4nm APU Phoenix. Demo bylo předváděno na procesoru Ryzen 9 7940HS na noteboocích Asus Strix Scar 17 a Asus ROG Zephyrus G14. Akcelerátor se ve správci zařízení hlásí jako AMD IPU Device. Přinejmenším ve stávající systémové konfiguraci nelze sledovat jeho zátěž ve správci úloh Windows 11.

AMD demonstrovala funkčnost na úloze rozpoznávání obličejů (facial recognition), v pravé části obrazovky je zobrazována latence pro každý krok zpracovávané zátěže. Redaktor Tom'sHardware latence označil za „působivě nízké“. Chybí však možnost srovnání. AMD ji měla připravenou, chtěl porovnat latence zpracování na Ryzen AI oproti online službě Azure ONNX EP. Software Microsoftu, který měl spojení se službou zajistit, se však nepodařilo zprovoznit, a tak proběhla jen demonstrace lokálního zpracování bez možnosti srovnání s online službou.

Při žádosti o výkonnostní údaje McAfee vysvětlil že popisovat AI akcelerátor jediným číslem není příliš vypovídající, protože neméně důležitou charakteristikou, než je číslo uvádějící TOPS, jsou samotné latence, se kterými akcelerátor zvládá úlohy zpracovávat, energetická stránka a nakonec zmínil i kompatibilitu s konkrétním softwarem.

Ryzen AI podporuje ve výchozí konfigurace čtyři streamy pro zpracování AI, lze jej však rychle překonfigurovat i pro jiný počet streamů. Podporuje také instrukce INT8 a bfloat16. Podle AMD je tento akcelerátor výkonnější než Apple Neural Engine implementovaný v čipech řady M2. Připojen je přímo na paměťový subsystém APU, takže sdílí koherentní paměť na stejné úrovni jako CPU a GPU, aby nenavyšoval energetické nároky potřebou datových přenosů navíc.

Pokud jde o podporovaný software a kompatibilitu, AMD minulý týden na konferenci Microsoft Build oznámila, že připravila novou řadu vývojářských nástrojů, které využívají open-source nástroj Vitis AI Execution Provider (EP), který je následně upstreamován v runtime ONNX, aby usnadnil práci zajišťující softwarovou podporu pro Ryzen (XDNA) AI. Vitis AI EP má sloužit jako „bare metal“ překladová vrstva, která vývojářům umožňuje spouštět AI modely bez potřeby přepracování jejich základu. Díky tomu mohou na Ryzen AI běhat tytéž modely, jejichž kompatibilitu před pár dny avizoval Intel pro AI akcelerátor procesorů Meteor Lake (více zde). AMD podporuje i využití CPU / GPU / AI akcelerátoru i podle toho, jaký typ výpočetních jednotek je pro danou zátěž nejvýhodnější.