Megjelent a FastFlowLM 1.0, immár az AMD ROCm ernyője alatt

enlightened Ez az oldal a közösségért készül. heart Kövess minket máshol is:  Linux Mint Magyar Közösség a Mastodon-on  Telegram csatorna – csak hírek  Beszélgessünk a Telegram – Linux csevegő csoport  Hírek olvasása RSS segítségével  Linux Mint Hivatalos Magyar Közösség a Facebook-on      Linux Mint Baráti Kör a Facebook-on
wink Ha hasznosnak találod, és szeretnéd, hogy folytatódjon, támogasd a munkát Ko-fi vagy Paypal segítségével. laugh

kami911 képe

Az AMD a Ryzen AI NPU-kra és Radeon GPU-kra épülő LLM-ek körüli szoftveres ökoszisztémát igyekszik egységesíteni. FastFlowLM mostantól a ROCm szervezethez tartozik. A FastFlowLM fejlesztése immár a „ROCm” név alatt zajlik a GitHub oldalon. Ez az MIT licencű szoftver továbbra is támogat minden AMD XDNA2 NPU-t és az annál újabbakat.

A ROCm ernyője alá költözés mellett a FastFlowLM 1.0 támogatást ad a SmolVLA vision-language-action (VLA) modellhez, fejlesztéseket hoz az flm bench benchmark eszközben, valamint több hibát is javít.

Idén év elején történt csak meg, hogy az AMD Ryzen AI NPU-k Linux alatt is használhatóvá váltak LLM-ek futtatására, amikor a FastFlowLM 0.9.35 kiadás Linux támogatást kapott. Azóta – többek között a Lemonade integrációnak köszönhetően – a Ryzen AI NPU-k egyre gyakorlatiasabb megoldást jelentenek Linuxon.

A FastFlowLM forráskódja, valamint az előre lefordított Ubuntu és Debian binárisok, egy általános Linux x86_64 bináris és a Windows bináris letölthető a

GitHub oldalról azok számára, akik AMD Ryzen AI NPU-kon szeretnének LLM-eket futtatni.