Az Anthropic bejelentette, hogy hosszabb távon nyilvánosan is elérhetővé kívánja tenni a Mythos sérülékenységkutató MI teljesítményével vetekedő egyéb modelljeit, amint sikerül megfelelően biztonságossá tenni őket.

Az Anthropic április elején számolt be arról, hogy kifejlesztette a Mythos nevű modellt, amely annyira hatékony a szoftverekben található sérülékenységek felderítésében, hogy a vállalat egyelőre csak egy előre kiválasztott szűk kör számára biztosít hozzáférést. A döntés hátterében az áll, hogy korlátozás nélküli hozzáférés esetén a kiberbűnözők rendkívül gyorsan lennének képesek szoftverhibákat azonosítani és kihasználni.

A hozzáférési program a „Project Glasswing” nevet kapta. A résztvevők tapasztalatai szerint a Mythos rendkívül nagy mennyiségű hibát talál, ugyanakkor ezek többsége nem olyan, amelyet emberi szakértők megfelelő idő és erőforrás birtokában ne tudnának azonosítani. Többen ugyanakkor arról számoltak be, hogy a modell által feltárt sérülékenységek volumene már önmagában komoly kihívást jelent a javítási folyamatok esetében.

A Mythos puszta létezése is érezhető reakciókat váltott ki a globális kiberbiztonsági közösségben. Japán kormánya átfogó biztonsági felülvizsgálatot rendelt el, míg Indiában a pénzügyi szektor szereplőit sürgős patchelési kampányokra kötelezték. Ezzel párhuzamosan egyre szélesebb körben válik nyilvánvalóvá, hogy még a kevésbé fejlett MI-modellek is meglepően hatékonyan képesek hibákat keresni, ami azt jelenti, hogy a védelmi oldalon dolgozó szakembereknek fel kell készülniük arra, hogy a támadók a jövőben nagyobb számban és jóval gyakrabban fogják fegyverként használni a szoftversérülékenységeket.

Az Anthropic múlt héten közzétett egy helyzetjelentést a Project Glasswing kapcsán, amelynek egyik utolsó bekezdésében a vállalat felvázolta a következő lépését is. A cég közlése szerint együtt kívánnak működni stratégiai partnereikkel annak érdekében, hogy a programot további szervezetekre is kiterjesszék. Emellett azt is jelezte, hogy a közeljövőben, amint sikerül lényegesen erősebb védelmi mechanizmusokat kialakítani, a Mythos-osztályú modelleket általánosan is elérhetővé tehetik.

A vállalat ugyanakkor nem részletezte, pontosan mit ért „közeljövő” alatt, és azt is nyíltan elismerte, hogy jelenleg egyetlen cég sem rendelkezik olyan kiforrott biztonsági kontrollokkal, amelyek garantáltan megakadályoznák az ilyen rendszerek rosszindulatú felhasználását és az abból eredő súlyos károkat.

A probléma súlyosságát jól szemlélteti, hogy az Anthropic a Mythos-szal nemrég több mint ezer nyílt forráskódú projektet vizsgált át. A becslések szerint eddig 6 202 magas vagy kritikus besorolású sérülékenységet, illetve összesen 23 019 különféle hibát azonosított ezekben a projektekben.