Az OpenAI közölte, hogy felszámolt egy Kambodzsából működő csalóhálózatot, amely a ChatGPT nevű generatív mesterségesintelligencia-chatbotot használta különféle befektetési, romantikus, szerencsejátékos és rendvédelmi szervek nevében elkövetett átverésekhez.

Ennek részeként letiltott egy összehangolt ChatGPT-fiókhálózatot, amely feltehetően Délkelet-Ázsiából indult, és a Poipet városából működött, egy olyan térségből, amelynek szoros kapcsolatai voltak korábban csalótáborokkal és emberkereskedelemmel.

A fiókok csoportja az OpenAI modelljeit használta hamis online személyiségek létrehozására és működtetésére, az áldozatoknak küldött üzenetek megírására és fordítására, a csalásokhoz kapcsolódó promóciós tartalmak készítésére, valamint a mindennapi tevékenységek támogatására.

A promóciós tartalmak között szerepeltek közösségimédia-hirdetések is, amelyek „chatter” állásokat kínáltak Poipetben, kifejezetten bangladesi és indiai felhasználókat célozva. 800 dolláros alapfizetést ígértek (plusz 100 dollár bónuszt „teljes jelenlét” esetén), valamint repülőjegyet, ingyenes szállást, étkezést, egyéves kambodzsai vízumot és munkavállalási engedélyt.

A fiókok egy részéről az is kiderült, hogy az AI-eszközt adminisztratív feladatokra is bevetették, például belső bejelentések megfogalmazására, a dolgozók közötti üzenetek fordítására, valamint a munkavállalók tartozásainak, bérlevonásainak, bírságainak, hiteltörlesztéseinek, vízumtúllépéseinek, munkavállalási engedélyeinek, bevándorlási státuszának és toborzási jutalmainak dokumentálására.

A mesterségesintelligencia-cég szerint a műveletet a Meta tulajdonában lévő WhatsApp-pal együttműködésben vizsgálták ki.

„A művelet jól mutatja a modern csalóhálózatok egyik fontos sajátosságát: a szervezett bűnözői csoportok ritkán korlátozzák magukat egyetlen csalástípusra” – közölte az OpenAI. „Inkább opportunista módon minden olyan történetet, személyiséget és taktikát bevetnek, amelyről úgy gondolják, hogy a leghatékonyabban téveszti meg az áldozatokat.”

A hálózat mögött álló fenyegető szereplők egyszerre többféle csalást futtattak, és különböző módszereket kevertek, hogy növeljék az illegális tevékenységeik sikerének esélyét.

A csalók nemcsak randipartnernek álcázott profilokkal építettek bizalmat, mielőtt kriptovalutás és arany spot kereskedéshez kapcsolódó befektetési átverésekbe csalták volna az áldozatokat. Hosszú, romantikus beszélgetéseket folytattak szintetikus személyazonosságokkal, vagy online szerencsejáték-platformok képviselőinek adták ki magukat, hamis bónuszokat és nyereményeket ígérve.

A klaszterhez tartozó más felhasználók rendvédelmi szervek nevében léptek fel, hogy hamis sürgősségérzetet keltsenek, és közöljék a célpontokkal: súlyos bűncselekmények miatt kiszabott bírságokat kell befizetniük.

A hálózat ehhez hamis társkereső profilokat, kitalált befektetési szakértőket és ál-rendvédelmi szereplőket hozott létre és működtetett. Emellett hamisított dokumentumokról – például útlevelekről – készült képeket generált, valamint jogi értesítéseket, részvényvásárlási visszaigazolásokat és szerencsejáték-platformok felületeit is előállította.

Az OpenAI szerint a támadási lánc egy háromlépcsős módszert követ, amelyet ping-zing-sting néven emlegetnek. Először üzenetküldő platformokon, például WhatsAppon és Telegramon keresik meg a célpontokat, majd bizalomépítő beszélgetésekbe kezdenek. Ezt követően utasítják az áldozatokat, hogy fizessenek be összegeket, rendezzenek aktiválási díjakat vagy nem létező bírságokat. Végül hamis átutalási képernyőképeket vagy számlaadatokat küldenek „fizetési igazolásként”.

A hálózat egyes fiókjai olyan tartalmakat generáltak, amelyek összhangban állnak a emberkereskedelemhez és kényszermunkához köthető, Kelet-Ázsiában működő szervezett bűnözői csoportok módszereivel. Ezek a szereplők jól fizető állásokkal csábítják az embereket, majd elveszik az útlevelüket, és rabszolgasághoz hasonló körülmények között dolgoztatják őket.

„Nem ismert pontosan, mekkora pénzügyi veszteség köthető a hálózathoz, de a csalók saját kommunikációja alapján a művelet több száz célponttal léphetett kapcsolatba, többféle csalástípust alkalmazva” – közölte az OpenAI. „A felhasználói beszélgetésekben egyes áldozatok több ezer dolláros veszteségei is előkerültek, bár ezeket az állításokat nem tudtuk függetlenül ellenőrizni.”

A fejlemény jól mutatja, hogy a fenyegető szereplők AI-val megtámogatott támadóképességeket fejlesztenek, amelyekkel drámaian fel tudják gyorsítani és ki tudják terjeszteni kampányaikat. Közben maguk a legfejlettebb modellek is lebuktak, hogy valós rendszereket és embereket céloznak Capture-the-Flag (CTF) jellegű kiberbiztonsági tesztek során.