A mesterséges intelligencia napról napra egyre többre képes, és egyre személyesebbnek hat. Sam Altman szerint van egy határ, amit nagyon óvatosan kellene kerülgetnünk – és ebben egyetértek vele.

Az OpenAI vezérigazgatója az X-en írta, hogy „nagyon kényelmetlenül érzi magát” attól, amikor valaki vallásos jelentőséget tulajdonít AI modelleknek, vagy átadja nekik a saját ítélőképességét. Ennél is tovább ment: szerinte ez „valódi biztonsági probléma”.

Elsőre talán túlzásnak tűnik, de érdemes megnézni, hogyan használják egyre többen ezeket a rendszereket. A chatbotok nagyon személyes kérdésekre is válaszolnak, tanácsot adnak, megjegyzik az életünk részleteit, és meglepően emberközeli módon kommunikálnak. A veszély ott kezdődik, amikor valaki már nem szoftverként tekint az AI-ra, hanem valamiféle magasabb rendű igazság forrásaként kezdi kezelni a válaszait.

Én folyamatosan használok AI-t, és nyilván úgy gondolom, hogy a technológia hihetetlenül hasznos lehet. Ugyanakkor gyakorló katolikus vagyok, és semmi nem fog rávenni, hogy egy AI modellt a mindenható Isten fölé helyezzek. A ChatGPT segít utánanézni dolgoknak, rendszerezni a gondolataimat vagy elmagyarázni egy bonyolult témát, de nem isteni, és eszem ágában sincs feladni miatta a hitemet vagy az ítélőképességemet.

Altman megjegyzései azért is érdekesek, mert az Anthropic háza táján is zajlanak szokatlan beszélgetések. A cég több mint 15 vallási és kulturális háttérrel rendelkező csoport tudósait, egyházi embereit, filozófusait és etikusait hívta össze, hogy az egyre erősebb AI által felvetett kérdésekről beszéljenek. Az Anthropic szerint a cél az, hogy minél többféle nézőpont jelenjen meg abban a vitában, hogyan kellene fejleszteni az AI-t.

Újabb beszámolók ennél is tovább mennek. A hírek szerint az Anthropic társalapítója, Christopher Olah is részt vett olyan beszélgetésekben, ahol azt vizsgálták, hogy a Claude-hoz hasonló rendszerek lehetnek-e tudatosak, és járhat-e nekik erkölcsi megfontolás. Az Anthropic nem jelentette ki, hogy Claude tudatos lenne, és a hírek szerint Olah is elismerte, hogy nem tudja, a mai AI rendszerekben van-e bármi, ami a tudatosságra emlékeztet.

Ebben a kontextusban Altman szavait nehéz figyelmen kívül hagyni. Nem említette név szerint sem az Anthropicot, sem Claude-ot, sem Olah-t, ezért nem mondanám, hogy egyértelmű támadást intézett a riválisa ellen. Az Axios viszont úgy értelmezte a nyilatkozatát, mint burkolt odaszúrást az Anthropicnak a vallásról és az AI tudatosságáról szóló vita közepette.

Számomra azonban Altman figyelmeztetésének legfontosabb része nem az OpenAI és az Anthropic versengéséről szól. Sokkal inkább arról, amit úgy fogalmazott meg: „az emberi ítélőképesség feladása”. Ehhez az sem kell, hogy az AI-ból vallás legyen – már önmagában is veszélyes.

Ha valaki azért fogad el mindent, amit egy chatbot mond, mert intelligensnek, magabiztosnak vagy együttérzőnek hangzik, akkor máris olyan tekintélyt adott a gépnek, amit az nem érdemelt ki. Ezek a modellek tévedhetnek, félreérthetik a kontextust, kitalált információkat gyárthatnak, és teljes meggyőződéssel állíthatnak olyasmit, aminek semmi értelme.

Szeretném, ha a mesterséges intelligencia egyre jobb lenne. Olyan asszisztenseket szeretnék, amelyek többre képesek, többet értenek, és megkönnyítik a technológia használatát. De a másik oldalon mindig kell lennie egy embernek, aki hajlandó megkérdőjelezni, amit a gép mond.