Egy ismerősöd küld egy hihetetlen Facebook-fotót, és megkérdezi, hogy igazi-e. Lehet, hogy egy állat látható rajta, ami gyanúsan tökéletes, egy celeb csinál valami botrányosat, vagy egy katasztrófahelyzet, amin a kommentelők teljesen kiakadnak. Neked gyanús, hogy AI generálta, de az, hogy furcsa egy kéz, önmagában elég gyenge bizonyíték.

A Google most ad neki egy új eszközt a nyomozáshoz. A cég mindenki számára elérhetővé tette világszerte, angol nyelven a SynthID Detector szolgáltatást, amellyel képeken, videókon és hangfájlokon lehet láthatatlan vízjeleket keresni a támogatott AI-eszközök tartalmaiban.

A Google bejelentése szerint a detektor a Google és partnerei – köztük az OpenAI, az NVIDIA és a Kakao – által használt vízjeleket ismeri fel. Hamarosan az Apple is csatlakozik, de a Google nem részletezi, pontosan mit jelent ez a gyakorlatban, és dátumot sem mond. Így továbbra sincs megerősítés arról, hogy lesz-e konkrét integráció iOS-be, a Photosba vagy az Apple Intelligence-be.

A Google 2023-ban indította el a SynthID-t, és tavaly mutatta be a detektor egy korai változatát médiával foglalkozó profiknak. A mostani nyitás a nagyközönség felé azt jelenti, hogy bárki ellenőrizheti egy ismerős által megosztott tartalmat, nem kell hozzá profi hitelesítési szolgáltatáshoz hozzáférni.

A cég szerint eddig több mint 180 milliárd képet és videót vízjeleztek, valamint 240 000 évnyi hanganyagot. Ezek a Google által közölt számok jól érzékeltetik, milyen óriási mennyiségű szintetikus média kering már most is.

A SynthID közvetlenül az AI által generált tartalomba ágyaz be olyan jeleket, amelyeket az emberek normál esetben nem látnak vagy hallanak. A detektor ezeket a jeleket keresi a feltöltött fájlban, és ha támogatott vízjelet talál, bizonyítékot ad arra, hogy AI is részt vett a létrehozásában. A Google emellett keresztellenőrzést kínál a Search-ben, a Gemini appban és a Chrome-ban is; állításuk szerint ezek a funkciók naponta rendszeresen több mint egymillió kérést kezelnek.

A korlát egyértelmű: ha nem talál vízjelet, az még nem bizonyítja, hogy a tartalom valódi. Lehet, hogy egy nem támogatott generátor készítette a fájlt, és a Google maga is elismerte, hogy rosszindulatú szereplők manipulálhatják vagy megkerülhetik a vízjeleket. A nyilvános bejelentés is csak képeket, videót és hangot említ, szövegfelismerést nem ígér.

Még egy sikeres észlelés után is sok kérdés marad a poszt körül. Lehet, hogy egy AI-kép egyértelműen viccnek van felcímkézve, miközben egy valódi fotóhoz teljesen kitalált szöveg társul. Az, hogy hogyan készült a média, sokat segít, de az állítás ellenőrzéséhez továbbra is szükség van a kontextusra.

Simán el tudom képzelni, hogy elküldöm ezt egy olyan rokonnak, aki rendszeresen továbbít gyanús Facebook-fotókat. Így végre lesz valami kézzelfogható kapaszkodójuk ahelyett, hogy azon vitatkoznának, mennyire „mű” egy kép – feltéve, hogy értik a módszer korlátait. Az ismerősöd hasznos információt kaphat arról a gyanús fotóról, de a megosztás előtt továbbra is érdemes ellenőriznie a hozzá tartozó sztorit.