Az NVIDIA bejelentette az Open Secure AI Alliance megalakulását. Ez egy új iparági kezdeményezés, amelynek célja nyílt forráskódú technológiák fejlesztése és megosztása az AI ügynökök, szoftverek és az azokat futtató infrastruktúra védelmére.

A szövetség több mint 40 szervezetet fog össze a felhőszolgáltatások, a kiberbiztonság, a vállalati szoftverek, az AI-kutatás és a nyílt forráskódú ökoszisztéma területéről. Az alapító tagok között ott van a Linux Foundation, a Red Hat, az IBM, a Microsoft, a Hugging Face, a Cloudflare, a Cisco, a CrowdStrike, a HPE, a Salesforce, az SAP, az Adobe, a Dell Technologies, az Elastic, a Palo Alto Networks, a Siemens, a Snowflake és mások.

Az Open Secure AI Alliance nem egyetlen biztonsági terméket akar létrehozni, hanem közös, megosztható készletet épít nyílt modellekből, frameworkökből, identitáskezelő rendszerekből, vizsgálóeszközökből, adatkészletekből és biztonságos fejlesztési gyakorlatokból. Az NVIDIA szerint ezek az erőforrások lehetővé teszik a szervezetek számára, hogy saját infrastruktúrájukon vizsgálják, adaptolják és telepítsék az AI-biztonsági rendszereket, így kevésbé függnek a zárt platformoktól.

A kezdeményezés a Linux Foundation Akrites projektjére és az Open Source Security Foundation munkájára épít. Fő célja, hogy nyílt technológiákkal javítsa a sebezhetőségek felderítését, elhárítását és felelős bejelentését.

A bejelentés részeként az NVIDIA bemutatta a nyílt forráskódú NVIDIA Labs Object-Oriented Agent, röviden NOOA kutatási frameworköt is. A projekt célja, hogy javítsa az AI modellek és az ügynök-keretek integrációját, és egyszerűbbé tegye az ügynökök viselkedésének tesztelését, nyomon követését, auditálását és szabályozását.

Más alapító tagok is hozzájárulnak meglévő nyílt technológiákkal. A HPE a SPIFFE és SPIRE projekteken keresztül vesz részt, amelyek szabványokat és eszközöket kínálnak a workloadok és szolgáltatások kriptográfiai azonosítására.

A Hugging Face a Safetensors formátummal járul hozzá. Ez egy modell-súlytárolási formátum, amely megakadályozza az önkényes kódfuttatást, és átlátható, hatékony módszert ad AI modellek terjesztésére.

Az IBM és a Red Hat a Lightwell projektet adja a közös munkához, amely digitGitálisan aláírt biztonsági javítócsomagokkal erősíti a nyílt forráskódú szoftverellátási láncot. A Microsoft az MDASH frameworköt biztosítja, egy többmodellű vizsgálókeretrendszert, amely speciális AI ügynököket hangol össze szoftversebezhetőségek azonosítására, elemzésére és ellenőrzésére.

Ezek az összetevők együtt alkotják azt, amit az NVIDIA az AI ügynökök nyílt védelmi stackjének nevez. A megoldás a workloadok azonosítását, az elkülönítést, a biztonságos modelltárolási formátumokat, a sebezhetőségek vizsgálatát és a biztonságosabb szoftverfejlesztési folyamatokat célozza.

Az Open Secure AI Alliance egyelőre még csak egy új kezdeményezés, nem pedig kész szoftverplatform. Hosszú távú jelentősége attól függ, mennyire aktívan járulnak hozzá a részt vevő vállalatok, illetve mennyire kapcsolódnak be a független fejlesztők, biztonsági kutatók és nyílt forráskódú alapítványok.

További részletekért olvasd el az NVIDIA bejelentését.