Láthatatlan vízjeleket helyeznek el a ChatGPT és Codex EU-ban lévő szövegeiben

enlightened Ez az oldal a közösségért készül. heart Kövess minket máshol is:  Linux Mint Magyar Közösség a Mastodon-on  Telegram csatorna – csak hírek  Beszélgessünk a Telegram – Linux csevegő csoport  Hírek olvasása RSS segítségével  Linux Mint Hivatalos Magyar Közösség a Facebook-on      Linux Mint Baráti Kör a Facebook-on
wink Ha hasznosnak találod, és szeretnéd, hogy folytatódjon, támogasd a munkát Ko-fi vagy Paypal segítségével. laugh

kami911 képe

Az új textGrain technológia nem rejtett karaktereket helyez el a szövegben, hanem finoman módosítja a modell szó- és tokenválasztását. Az így kialakuló, emberi szemmel észrevehetetlen statisztikai mintázatot egy megfelelő detektor később felismerheti. Az OpenAI szerint a vízjel sem olvasáskor, sem a szöveg kimásolásakor nem látható.

Ez a megoldás ugyanakkor nem tévedhetetlen. Az OpenAI tesztjei szerint már a szöveg mérsékelt átírása vagy szinonimák használata is képes jelentősen rontani a felismerést. A témában végzett kutatás alapján a 400 tokenes szövegeknél a szavak negyedének cseréje 92%-ról akár 17%-ra csökkentette a felismerési arányt. A rövidebb, lefordított, avagy erősen szerkesztett szövegeknél szintén kevésbé megbízható ez a technológia, így a vízjel hiánya nem feltétlen bizonyítja azt sem, hogy a szöveget ember írta volna. A detektálásból az sem derül ki, hogy a tartalmat ki készítette, illetve hogy milyen promptot használt.

Az API-fejlesztők világszerte opcionálisan kapcsolhatják be a funkciót, míg a detektorhoz kezdetben csak jóváhagyott kutatók és szakmai szervezetek férhetnek hozzá.

(forrás)