Nem szűkölködünk elméletekben arról, hogyan irthat ki minket egyszer az MI. A gyilkos robotok, az autonóm fegyverek, a megvadult szuperintelligencia és a gépek, amelyek úgy döntenek, hogy az ember csak útban van, mára mind részei lettek a mind erősebb MI körüli vitáknak. Az Anthropic most egy olyan lehetőségre hívja fel a figyelmet, ami sokkal kevésbé tűnik sci-finek.

Az MI-nek nem kell öntudatra ébrednie vagy az emberiség ellen fordulnia ahhoz, hogy katasztrófához járuljon hozzá. Elég, ha egy ember segítséget kér tőle, és a folyamatosan fejlődő modellek olyan tudást adhatnak a kezébe, amihez korábban évekig tartó speciális képzés kellett.

Az Anthropic a 2026. szeptemberi fenyegetésfelderítési jelentésében azt írja, hogy öt olyan esetet azonosított, ahol gyakorló kutatók úgy használták a Claude-ot, hogy az olyan területeket érintett, amelyek elvben hozzájárulhatnak biológiai fegyverek fejlesztéséhez. Az Anthropic nem állítja, hogy ezek a tudósok biológiai fegyvereket építettek volna, vagy hogy ez lett volna a szándékuk, és a vizsgált kutatások egy része teljesen legitim orvosi, tudományos vagy védelmi célokat is szolgálhat.

A gond az, hogy ugyanaz a tudás sokkal sötétebb célokra is felhasználható. Az Anthropic szerint az esetek olyan területeket érintettek, mint a chikungunya-vírusra vonatkozó gain-of-function kutatások, a madárinfluenza emlősökhöz való alkalmazkodása, orthopoxvírusok immunrendszer-kikerülése, méreganyagokhoz kapcsolódó molekulák, illetve toxinok számítógépes áttervezése.

Az egyik esetben kutatók egy chikungunyával kapcsolatos gain-of-function munka pályázatát készítették elő. Az Anthropic szerint a tervezett kísérletek olyan tulajdonságokra fókuszáltak, mint a terjedőképesség és az immunrendszer kijátszása. A kutatók civilek voltak, de a munkát állítólag egy katonai kutatóintézetben végezték volna.

Claude biztonsági rendszerei letiltották a releváns párbeszédeket, ami önmagában megnyugtató. Ami azonban a visszautasítások körül történt, jól mutatja, mennyire nehézzé válhat ennek a technológiának a kordában tartása.

Az Anthropic szerint a kutatók egy olyan szolgáltatáson keresztül érték el a csúcskategóriás MI-t, amely az adatforgalmat amerikai infrastruktúrán keresztül terelte, hogy megkerülje a regionális korlátozásokat. A szolgáltatás állítólag tartalmazott egy tartalék rendszert is, amely a Claude által elutasított kéréseket egy másik cég MI-modelljéhez továbbította.

Az Anthropic letiltotta az érintett fiókokat, segített lebontani az átjátszó infrastruktúrát, és megosztotta az információkat más MI-cégekkel és kormányzati szervekkel. A cég szerint az üzemeltető néhány napon belül új személyazonosságokkal visszaszerezte a hozzáférést, ami jól mutatja, milyen korlátai vannak annak, ha csak az egyes MI-szolgáltatók próbálják távol tartani az elszánt felhasználókat.

Az MI-cégek egyre szigorúbb védelmi korlátokat építhetnek a modelljeik köré, de ezek a védelem csak addig tart, amíg az emberek nem mennek máshová. Olyan világ felé tartunk, ahol egymással versengő kereskedelmi modellek, nyílt modellek, helyben futtatott modellek, módosított modellek és akár ellopott modellek is jelen lesznek.

Az Anthropic egy fontos jelenségre is felhívja a figyelmet: arra, milyen gyorsan fejlődik a technológia. A cég szerint a korábbi MI-modellek még egyértelműen nem érték el azt a szintet, hogy érdemben segítsék a magasan képzett kutatókat veszélyes biológiai munkában. A mai rendszereknél viszont az Anthropic már nem tud ilyen egyértelmű megnyugtató választ adni.

Érdemes ezt összevetni a jól ismert MI-apokalipszis forgatókönyvvel. Az általában azt feltételezi, hogy egy gép hihetetlenül intelligenssé válik, saját célokat alakít ki, és valahogy arra jut, hogy az emberiséget el kell tüntetni. A biológiai visszaéléshez semmi ilyesmire nincs szükség.

Az MI-nek nincsenek érzelmekre, tudatra vagy nukleáris fegyverekhez való hozzáférésre. Nem kell megszöknie egy adatközpontból, és nem kell értenie, milyen következményei vannak annak, amit csinál. Elég, ha elég hasznossá válik a rossz ember számára.

A veszély tovább nő, ha az MI képes csökkenteni azt a szaktudást, időt és erőforrást, ami bonyolult biológiai kutatásokhoz ma még kell. Az a tudás, amihez korábban évek speciális képzése és együttműködése kellett, a modellek fejlődésével egyre könnyebben hozzáférhetővé és alkalmazhatóvá válhat.

Az Anthropic nem talált bizonyítékot arra, hogy valaki civilizációt elpusztító kórokozót hozott volna létre Claude segítségével. Óriási különbség van a kettős felhasználású biológiai kutatás és egy valódi biológiai fegyver előállítása között, és ezt a határt nem szabad elmosni csak azért, mert az utóbbi rémisztőbb történet.

Az Anthropic eredményei mégis kézzelfoghatóbbá teszik az MI-vel kapcsolatos kihalási vitákat. Nem kell egy szuperintelligenciát elképzelnünk, amely az emberiség kiirtását tervezi, ha a közelebbi veszély az, hogy emberek használnak rendkívül fejlett gépeket arra, hogy felerősítsék azokat a szörnyű dolgokat, amelyeket már most is tudnak.

Remélhetőleg az MI soha nem segít biológiai katasztrófát okozni, és a védelmi megoldások gyorsabban fejlődnek, mint az emberek képessége ezek kijátszására. De ha a mesterséges intelligencia valaha mégis szerepet játszik abban, hogy mindannyian belehaljunk, lehet, hogy nem lesz robotokból álló hadsereg, és nem lesz gonosz számítógép, amely bejelenti az emberiség végét.

Lehet, hogy a gép egyszerűen csak válaszol a rossz ember kérdéseire.