Az AI-ügynökök egyre több rendszerhez férnek hozzá: e-mailekhez, fájlokhoz, adatbázisokhoz, API-khoz és más, kritikus környezetekhez, ahol a hibáknak komoly következményei lehetnek. A Linux Foundation most egy nyílt biztonsági réteget szeretne felépíteni ehhez az új világhoz.

Az Open Secure AI Alliance csatlakozott a Linux Foundationhöz, így a projekt semleges otthont kap az AI-rendszerekhez készülő eszközök, szabványok és védelmi megoldások fejlesztéséhez. Az Alliance-t eredetileg az NVIDIA hozta létre, több tucat vállalati szervezet részvételével, köztük a Linux Foundationnel.

A cél egy „nyílt védelmi stack” felépítése, amely lefedi a modelleket, az inference rendszereket, az ügynököket, az identitás- és jogosultságkezelést, a szabályok érvényesítését, a konténmentet és az ezek alatt futó infrastruktúrát.

Ez nagyon ambiciózus vállalás, de az AI-biztonság nem szűkülhet le csak a modellek védelmére. Egy ügynök, amely hozzáfér a vállalati rendszerekhez, kiszivárogtathat adatokat, nem kívánt műveleteket hajthat végre, vagy olyan jogosultságokkal hozhat döntéseket, amelyeket soha nem neki szántak.

„Az AI-rendszereknek biztonságosnak, megbízhatónak és kiszámíthatónak kell lenniük” – mondta Jim Zemlin, a Linux Foundation vezérigazgatója. „Az Open Secure AI Alliance Linux Foundationhöz csatlakoztatásával egy semleges otthont hozunk létre, ahol az iparág szereplői, a kutatók és a kormányok együtt dolgozhatnak nyílt eszközökön, közös szabványokon és bizonyítékokon alapuló gyakorlatokon, amelyek erősítik a biztonságot és támogatják az AI-innovációt.”

Az NVIDIA továbbra is részt vesz a munkában.

„Az AI-biztonság akkor fejlődik, ha a szervezetek nyíltan megosztják, amit tanulnak” – mondta Justin Boitano, az NVIDIA Enterprise AI részlegének alelnöke. „A Linux Foundationnel, mint új otthonnal, az Open Secure AI Alliance összehozhatja a modellek, a futtatókörnyezetek és az infrastruktúra szakértőit, hogy a megosztott bizonyítékokat az egész AI-stackre kiterjedő, gyakorlati és ellenőrizhető védelmi megoldásokká alakítsák.”

A tervek között különösen érdekes a Shared AI Findings Exchange, röviden SAFE. A javaslat szerint a szervezetek bizalmasan megoszthatják az AI-biztonsági incidensekből származó tapasztalataikat, így az ismétlődő hibákat fel lehet ismerni, és gyakorlati védelmi megoldásokká lehet alakítani.

A fejlesztők, kutatók, védelmi szakemberek és más szervezetek szeptember 21-ig véleményezhetik a SAFE-javaslatot.

Az Alliance azt is szeretné elérni, hogy a szervezetek a jól ismert biztonsági alapelveket az AI-ügynökökre is alkalmazzák. Ilyen az eszközök átlátható nyilvántartása, a szigorúan kezelt identitások és jogosultságok, a folyamatos monitorozás, a változáskezelés, a determinisztikus kontrollok és az emberi felelősségvállalás. A közös értékelési szabványok és az incidenskezelési gyakorlatok szintén a terv részei.

Sok szempontból vonzó, ha az AI-biztonság nyílt marad. A szervezeteknek látniuk kell, milyen védelmi megoldások óvják azokat a rendszereket, amelyek idővel jelentős önállóságot és hozzáférést kaphatnak. Ha kizárólag zárt, proprietáris biztonsági mechanizmusokra támaszkodnának, a cégeknek olyan gyártókban kellene megbízniuk, akiknek a technológiáját nem tudják teljes mértékben átvizsgálni.

Egy nyílt framework csak akkor működik, ha a szervezetek tényleg részt vesznek benne. Nehéz lesz rávenni a versenytársakat, hogy megosszák egymással a sebezhetőségekre és biztonsági incidensekre vonatkozó hasznos információkat, különösen, ha ezek érzékeny vállalati rendszereket érintenek.

Az AI-ügynökök ugyanakkor gyorsan túllépnek a kísérleti fázison, és megjelennek az éles rendszerekben. Ahogy ez megtörténik, az iparágnak olyan védelmi megoldásokra lesz szüksége, amelyek ugyanolyan gyorsan tudnak fejlődni.

A Linux Foundation önmagában nem tudja biztonságossá tenni az AI-t pusztán azzal, hogy semleges együttműködési platformot kínál. Ha azonban a cégek egyre nagyobb hatalmú ügynököket engednek rá a kritikus rendszereikre, ésszerű lépésnek tűnik, ha legalább a biztonsági stack egy részét nyílt módon építik fel.