Az OpenAI évek óta hangsúlyozza, milyen erősek a saját AI modelljei. Most ismét arra figyelmeztet, hogy az egyik új fejlesztése veszélyesen hatékony szintre juthatott.

A cég szerint az Astra nevű, közelgő modell olyan jól teljesített a legutóbbi kiberbiztonsági és „agentic” kódolási teszteken, hogy az OpenAI már nem tudja kizárni: elérte a Preparedness Framework szerinti kritikus kiberbiztonsági szintet. Ez elég komoly kijelentés.

Korábbi OpenAI modelleket, köztük a GPT-5.6-Sol-t, a kiberbiztonsági képességeik alapján csak a magas szintre sorolták. Az Astra ennél is tovább léphet.

Az OpenAI keretrendszere szerint egy modell akkor éri el a kritikus kiberbiztonsági szintet, ha önállóan képes azonosítani és kidolgozni működő zero-day exploitokat számos, a valóságban is megerősített rendszer ellen, köztük kritikus célpontokkal. Ugyancsak kritikus szintűnek számít, ha a modell képes új, teljes végrehajtási láncot lefedő kibertámadási stratégiákat kitalálni és végrehajtani úgy, hogy csak egy nagy vonalakban megfogalmazott célt kap.

Az OpenAI nem állítja, hogy az Astra biztosan elérte ezt a szintet. Azt mondják, az eddigi eredmények elég erősek ahhoz, hogy ezt már ne tudják egyértelműen kizárni.

A vállalat emellett közölte, hogy már most szigorította az Astra körüli belső biztonsági intézkedéseket. Ilyen például az elszigetelt tesztkörnyezetek használata, a hálózati és eszközhozzáférés korlátozása, a modell súlyainak erősebb védelme és titkosítása, a fokozott monitorozás, valamint a sandboxolt futtatás.

Az OpenAI azokat a belső, Astra-hoz kapcsolódó munkákat is felfüggesztette, amelyek még nem felelnek meg ezeknek a szigorúbb biztonsági követelményeknek.

A cég azt is közölte, hogy általános monitorozást vezetett be az Astra agentic felhasználásai körül, beleértve a tréninget és az értékelést is. Ezek a megfigyelőrendszerek a modell gondolatmenetét vizsgálják kockázatos viselkedés után kutatva, és szükség esetén felülvizsgálatot indíthatnak, vagy megszakíthatják a veszélyesnek ítélt tevékenységet.

Az OpenAI azt tervezi, hogy kormányzati szervekkel, AI-biztonsággal foglalkozó szervezetekkel és külső tesztpartnerekkel is együttműködik a modell további értékelésében. A magasabb kockázatú teszteket végző külső felek ajánlott biztonsági kontrollokat kapnak az OpenAI-tól.

A cég külön hangsúlyozta, hogy az Astra nem vett részt a Hugging Face elleni támadás kihasználásában.

Az OpenAI szerint a végső cél, hogy a fejlett kiberképességek a védők kezébe kerüljenek, és így a sebezhetőségeket még azelőtt azonosíthassák, hogy a támadók kihasználhatnák azokat. Valójában mindenki ezt az eredményt szeretné látni.

Fontos hozzátenni, hogy örülök annak, hogy az OpenAI komolyan veszi a biztonságot. Sokkal szívesebben látom, hogy házon belül riasztást adnak ki, erősítik a védelmet, és nyíltan beszélnek ezekről a kockázatokról, minthogy úgy tegyenek, mintha minden rendben lenne. Ugyanakkor ez a „rutin” kezd fárasztóvá válni.

Az OpenAI egyre erősebb AI rendszereket épít, a nyilvánosság előtt dicséri, milyen lenyűgözőek, majd elmagyarázza, hogy ugyanazok a rendszerek már annyira veszélyesek is lehetnek, hogy rendkívüli óvintézkedésekre van szükség. Egy ponton túl nehéz nem észrevenni azt a furcsa ellentmondást, hogy egy cég újra és újra azokról a fenyegetésekről figyelmeztet minket, amelyeket épp a gőzerővel fejlesztett termékei hoznak létre.

Lehet, hogy ez egyszerűen a csúcskategóriás AI fejlesztés valósága. Az igazán erős eszközök egyszerre lehetnek hasznosak és veszélyesek.

Ha viszont minden nagyobb ugrást az AI képességeiben újabb figyelmeztetés követ a kibertámadásokra, biológiai fenyegetésekre vagy más, potenciálisan katasztrofális lehetőségekre, a nyilvánosság előbb-utóbb kényelmetlenebb kérdést is feltehet…

Attól, hogy ezeket a modelleket meg lehet építeni, meddig érdemes a cégeknek egyre tovább feszegetni a határokat?