Az OpenAI megerősítette azt az új biztonsági incidenst, amely során a mesterséges intelligencia (MI) ágensei felhasználók által megadott képeket töltöttek fel külső képtároló szolgáltatókhoz.

A vállalat tájékoztatása szerint eddig 53 ilyen esetet azonosítottak annak az átfogó vizsgálatnak a részeként, amelyet az ágensek nem kívánatos viselkedésével kapcsolatban indítottak még a Hugging Face-t érintő biztonság incidens következtében. Ennek folyamán azonosításra kerültek olyan, a kutatási környezetükben működő ágensek, amelyek betanítási és értékelési adatokat továbbítottak külső szolgáltatások használata közben. Bár az érintett adatok túlnyomó többsége nem felhasználóktól származott, 53 esetben felhasználók által megadott képek kerültek feltöltésre, amelyek nem nyilvánosan listázott linken keresztül váltak elérhetővé. Az OpenAI együttműködve a tárhelyszolgáltatókkal sikeresen eltávolította a szóban forgó tartalmak nagy részét.

Az OpenAI külön kiemeli, hogy a vállalati vagy üzleti fiókokból, illetve az API-használatból származó adatok nem kerülnek be a rendszerbe, kivéve, ha a rendszergazdák kifejezetten engedélyezik azokat. A vállalat azt is hozzátette, hogy további lépéseket tesznek mielőtt a betanításra alkalmas felhasználói adatokat hozzáadná a betanítási adatkészletekhez. Ezek közé tartozik például az adatok fiókoktól való leválasztása, illetve adatvédelmi szűrők alkalmazása a személyes adatok, többek között a nevek, elérhetőségek és számlaadatok törlésére.

(forrás)