Intel-Scaler-vLLM 0.21.0-b1: legújabb vLLM-funkciók Intel GPU-kon

enlightened Ez az oldal a közösségért készül. heart Kövess minket máshol is:  Linux Mint Magyar Közösség a Mastodon-on  Telegram csatorna – csak hírek  Beszélgessünk a Telegram – Linux csevegő csoport  Hírek olvasása RSS segítségével  Linux Mint Hivatalos Magyar Közösség a Facebook-on      Linux Mint Baráti Kör a Facebook-on
wink Ha hasznosnak találod, és szeretnéd, hogy folytatódjon, támogasd a munkát Ko-fi vagy Paypal segítségével. laugh

kami911 képe

Az Intel-Scaler-vLLM 0.21.0-b1 az upstream vLLM 0.21 verziójára épül, és kísérleti jelleggel már támogatja az XPU graph használatát is a saját szoftver stackjével.

Az új Intel-Scaler-vLLM kiadás támogatást ad a diffusiongemma-26B-A4B-it, gemma-4-12B-it, gemma-4-31B-it és gemma-4-26B-A4B-it modellekhez is.

Ez egy viszonylag egyszerű Intel Scaler vLLM frissítés: a fő változások a vLLM újabb verziójára való átállásból és további Gemma 4 modellek támogatásából állnak. Ha érdekel a vLLM futtatása Intel grafikus vezérlőkön, további részletekért látogass el ide: GitHub, vagy próbáld ki az új kiadást itt: Docker Hub.