Megjelent a Lemonade 10.1: új fejlesztések a helyi LLM-ekhez AMD GPU-kon és NPU-kon

enlightened Ez az oldal a közösségért készül. heart Kövess minket máshol is:  Linux Mint Magyar Közösség a Mastodon-on  Telegram csatorna – csak hírek  Beszélgessünk a Telegram – Linux csevegő csoport  Hírek olvasása RSS segítségével  Linux Mint Hivatalos Magyar Közösség a Facebook-on      Linux Mint Baráti Kör a Facebook-on
wink Ha hasznosnak találod, és szeretnéd, hogy folytatódjon, támogasd a munkát Ko-fi vagy Paypal segítségével. laugh

kami911 képe

Megjelent a Lemonade 10.1: friss fejlesztések a helyben futó LLM-ekhez AMD GPU-kon és NPU-kon

végre használhatóvá teszi Linux alatt az AMD Ryzen AI NPU-kat a nagy nyelvi modellek (LLM-ek) futtatásához. Korábban a linuxos build csak a GPU-kat célozta. Hétfőn megjelent a Lemonade 10.1, amely további fejlesztéseket hoz ehhez a helyi LLM-megoldáshoz.

A Lemonade 10.1 már Windowsra és Linuxra is elérhető. A célja, hogy segítsen helyben futó AI-alkalmazásokat futtatni elsősorban AMD Ryzen és AMD Ryzen AI hardveren, de szükség esetén modern x86_64 CPU-kon is működik.

A Lemonade 10.1-ben az új parancssori felületet „sokkal kellemesebb” módnak írják le a szolgáltatással való interakcióhoz. A lemonade-server CLI, amely mostantól egyszerűen lemonade, szintén „jelentősen leegyszerűsödött”. A lemonade launch alparancs is sokat javult a Lemonade 10.1-ben: most már könnyebb listából modellt választani ahelyett, hogy a teljes modellneveket kellene begépelni, visszatért az aszinkron modellbetöltés, támogatja az API-kulcsokat a „--api-key” kapcsolóval, és még sok más újdonságot kapott.

A Lemonade 10.1 a lemonade launch codex|claude továbbfejlesztésével „felturbózott” kódolást is lehetővé tesz.

A Lemonade 10.1 már támogatja a generált képek super resolution felskálázását is. Emellett a Lemonade 10,1 mostantól GPU-kon a Gemma 4 modelleket is támogatja.

A letöltések és a mai Lemonade 10.1 kiadás további részletei itt érhetők el:

GitHub. A nyílt forráskód mellett elérhető Linux AppImage build is, valamint egy Ubuntu PPA és Fedora rpm is.