Az Instinct MI455X és Helios mellett, valamint az új AMD EPYC 9006 „Venice” processzorok rajtjával együtt az AMD az éves Advancing AI rendezvényén bejelentette a ROCm.AI-t, mint AI-alapú fejlesztői platformot.
A nemrég megjelent ROCm 7.14 kiadás után a ROCm.AI az augusztusra tervezett következő kiadás része lesz. A célja, hogy AI segítségével segítse a fejlesztőket a kódjuk ROCm-re való átdolgozásában és optimalizálásában.
A ROCm.AI speciális tudást biztosít a népszerű AI-ügynököknek, például a Claude-nak, a Codexnek, a Cursornek és a Gemini-nek, hogy „ROCm szuperfelhasználókká” váljanak. Így AI-alapú optimalizálásokat tudnak ajánlani a ROCm-re történő átültítéshez vagy a ROCm körüli kódbázisok fejlesztéséhez. Az új Hyperloom komponenssel a rendszer képes a teljes AI-munkafolyamatok végponttól végpontig történő optimalizálására. A Hyperloom célja, hogy automatizálja a teljes inferencia-munkafolyamatok optimalizálását, és segít az elemzésben, a kernel optimalizálásában és a validálásban, jóval rövidebb idő alatt, mint amennyi a kézi munka során lenne szükséges.
A ROCm.AI AI-alapú optimalizálásokat használ a compute kernel-khoz, a memóriakezeléshez, a párhuzamosításhoz és az ütemezéshez, hogy javítsa mind az AI-inferencia, mind a tanítás teljesítményét.
Elméletben a ROCm.AI nagyon ígéretes: AI-t használ, hogy segítsen a szoftvereket az AMD AI-stackjére szabni. A gyakorlatban érdekes lesz látni, mennyire működik jól a különböző kódbázisok esetén. Az AMD állítása szerint a ROCm.AI átlagosan 3,3-szoros inferencia-fejlesztést és 2,4-szeres tanítási fejlesztést hoz – bár ezt a ROCm 7.0-hoz viszonyítva mérték.
Egyelőre ennyit tudni, de augusztusban, a következő kiadás megjelenésekor várhatóan jóval több részlet derül ki a ROCm.AI-ról.

