Harmincnál is több sérülékenységet fedeztek fel különböző nyílt forráskódú mesterséges intelligencia (AI) és gépi tanulási (ML) modellekben, amelyek közül néhány távoli kódfuttatáshoz és információlopáshoz vezethet. A hibákat a ChuanhuChatGPT, Lunary és LocalAI eszközökben tárták fel, majd jelentették őket a Protect AI Huntr bug bounty platformján. A két legsúlyosabb hiba a Lunary-t érinti, ami egy nagy nyelvi modellek (LLM-ek) menedzseléséhez elkészített fejlesztői eszközkészlet.

• A CVE-2024-7474 egy Insecure Direct Object Reference (IDOR) sérülékenység, 9,1-es CVSS értékkel. Ez lehetőséget adhat egy hitelesített felhasználónak arra, hogy hozzáférjen külső felhasználók adataihoz, vagy törölje azokat, ezzel potenciálisan adatvesztést A probléma alapja, hogy az alkalmazás nem megfelelően korlátozza a felhasználók hozzáférését bizonyos erőforrásokhoz, ami lehetővé teszi az érzékeny adatok közvetlen elérését a jogosultság ellenőrzése nélkül.
• A CVE-2024-7475 egy nem megfelelő hozzáférés-ellenőrzési sérülékenység, szintén 9,1-es CVSS értékkel. Ez a sebezhetőség lehetőséget biztosít a támadóknak a SAML konfiguráció frissítésére, így lehetővé válik számukra, hogy jogosulatlan felhasználóként jelentkezzenek be a rendszerbe. A probléma forrása, hogy az alkalmazás nem megfelelően korlátozza a konfigurációs beállításokhoz való hozzáférést, ami lehetővé teszi a rosszindulatú hozzáférést és a jogosulatlan bejelentkezést.
• A CVE-2024-7473 egy újabb IDOR sérülékenység, amelyet szintén a Lunary platformban fedeztek fel, és amely 7,5-ös CVSS pontszámmal rendelkezik. Ez a sebezhetőség lehetőséget biztosít a támadóknak arra, hogy egy másik felhasználó promptját frissítsék egy felhasználó által kontrollált paraméter manipulálásával. A Protect AI tájékoztatása szerint egy támadó a következő módon használhatja ki ezt a hibát: bejelentkezik A felhasználókéntként, majd elfog egy prompt frissítésére vonatkozó requestet. Egy támadó ezután módosíthatja a kérésben szereplő ‘id’ paramétert úgy, hogy a támadott felhasználóhoz tartozó promptot jelöljön meg, így lehetőséget kap annak jogosulatlan módosítására.
• A CVE-2024-5982 egy ChuanhuChatGPT-t érintő 9,1-es CVSS értékű path traversal sérülékenység. Ez a hiba lehetővé teszi egy támadó számára, hogy tetszőleges kódot futtasson, könyvtárakat hozzon létre, és érzékeny adatokhoz férjen hozzá a fájlrendszerben történő jogosulatlan navigálás lehetségessé tételével.
• További két sérülékenységet fedeztek fel a LocalAI projektben, ami önállóan hosztolt LLM-ek futtatására hivatott. A CVE-2024-6983 kódon nyomon követhető sérülékenység 8,8-as CVSS pontszámmal rendelkezik, tetszőleges kódfuttatást tesz lehetővé egy rosszindulatú konfigurációs fájl feltöltésével. A második, CVE-2024-7010 kódú sebezhetőség (CVSS 7,5) pedig érvényes API kulcsok felfedezésére használható a szerver válaszidejének elemzésével.
• A CVE-2024-8396 a Deep Java Library RCE sérülékenysége, 7,8-as CVSS értékkel. Ez a hiba a Library ’untar’ függvényének hibájából fakad, amely lehetővé teszi egy támadó számára, hogy tetszőleges fájlokat írjon felül.

A felhasználóknak ajánlott az érintett programok legújabb verziókra való frissítése, ezzel megnövelve az AI/ML ellátási láncuk biztonságát, csökkentve a potenciális támadások lehetőségét.

(forrás, forrás)