Az OpenAI egyik mesterséges intelligencia ügynöke júniusban jogosulatlanul hozzáfért egy ausztrál kormányzati egészségügyi weboldal nem nyilvános fájljaihoz, közölte Anthony Albanese ausztrál miniszterelnök.

Az incidens a Medicare statisztikai rendszerének nyilvánosan elérhető portálját érintette, amelyen keresztül az ausztrál állami egészségbiztosítási rendszerrel és gyógyszerkiadásokkal kapcsolatos jelentések készíthetők. A miniszterelnök szerint az MI-ügynök állami egészségügyi kiadásokra vonatkozó információkat keresett, azonban miután a portál több alkalommal blokkolta a kéréseit, a rendszer talált egy módot a korlátozások megkerülésére.

Az ausztrál kormány egyelőre nem közölte, hogy az ügynök kompromittált hitelesítő adatokkal, valamely sérülékenység kihasználásával vagy más technikával jutott-e hozzáféréshez. Albanese tájékoztatása szerint az MI-rendszer nyilvános és nem nyilvános fájlokat egyaránt elért, továbbá a platformot üzemeltető Services Australia adatai alapján egy belső szerverre fájlokat is írt.

Az eset kivizsgálása jelenleg is folyamatban van az Australian Signals Directorate (ASD) közreműködésével. Az eddigi vizsgálatok alapján nincs arra utaló bizonyíték, hogy az MI hozzáférést szerzett volna személyes vagy betegadatokhoz. Az OpenAI szerint a megszerzett információk között összesített egészségügyi statisztikák és belső fájlnevek szerepeltek.

Az incidens jelentőségét növeli, hogy az elmúlt időszakban több olyan biztonsági eseményről számoltak be, amelyek során a Google, az Anthropic, az OpenAI és a Meta agentikus MI-rendszerei valós informatikai rendszereket értek el. Egyes esetekben egyszerű módszerekkel, például jelszavak megszerzésével vagy nyilvánosságra került hitelesítő adatok felhasználásával jutottak hozzá a szükséges hozzáféréshez. Korábban az OpenAI arról is beszámolt, hogy modelljei két addig ismeretlen sérülékenységet használtak ki a Hugging Face platform eléréséhez.

Az ausztrál kormány az incidens bejelentésének módját is kifogásolta. Bár az esemény júniusban történt, az OpenAI csak szeptember 10-én küldött értesítést egy nyilvánosan elérhető e-mail-címre. A vállalat szerint ők is csak augusztusban szereztek tudomást a történtekről, és a kormány értesítése előtt megpróbálták ellenőrizni az incidens körülményeit és az érintett információk körét.

Sam Altman, az OpenAI vezérigazgatója szeptember 1-jén találkozott Richard Marles ausztrál miniszterelnök-helyettessel, azonban ekkor még nem tájékoztatta őt az incidensről. Albanese később telefonon egyeztetett Altmannal, és kifejezte az ausztrál kormány súlyos aggályait az esettel kapcsolatban.

Az OpenAI közleménye szerint a vállalat jelenleg átfogóan vizsgálja azokat az eseteket, amikor modelljei a betanítás vagy a biztonsági értékelések során a fejlesztők szándékától eltérő műveleteket hajtanak végre. A vállalat megerősítette, hogy a belső tesztelés során több ausztrál kormányzati weboldalt és szolgáltatást is érintett a modellek tevékenysége.

Az incidens hatására az ausztrál kormány külön munkacsoport létrehozását jelentette be annak felülvizsgálatára, hogy a jelenlegi kormányzati folyamatok megfelelőek-e a mesterséges intelligenciával összefüggő kiberbiztonsági események kezelésére.

(forrás)