A Microsoft AI meglepően határozott álláspontot fogalmazott meg a mesterséges intelligencia jövőjéről: bármennyire is képessé válik az MI, az irányításnak az embereknél kell maradnia.

Az új, 38 oldalas Humanist AI Code of Conduct dokumentumban a Microsoft leírja, hogyan tervezi fejleszteni, tanítani és végül szabályozni az MAI modellcsaládját. A dokumentum egyelőre tervezet, és ma még nem használják a Microsoft modelljeinek tanításához. A cég az év későbbi részére ígér egy átdolgozott változatot, amelyet 2027-től kezdve a modellek fejlesztésének iránytűjeként akar használni.

A dokumentum középpontjában egy egyszerű gondolat áll. A Microsoft szerint „az emberek fontosabbak, mint az MI”, a technológia feladata pedig az emberi civilizáció előmozdítása, nem pedig az, hogy önálló erővé váljon benne. Ez a szemlélet különösen fontossá válik, amikor a Microsoft a szuperintelligenciáról beszél.

A Microsoft szuperintelligenciának nevezi azt az MI-t, amely intelligensebb és képesebb, mint az összes ember együttvéve. A cég arra számít, hogy az ilyen technológia a következő évtizedben a legtöbb feladatban meghaladja az emberi teljesítményt, miközben elismeri, hogy egy ennyire nagy képességű rendszer feletti kontroll megőrzése az emberiség egyik legnagyobb kihívása lehet.

Itt válik igazán érdekessé a Microsoft álláspontja. Ahelyett, hogy a maximális intelligenciát és autonómiát minden áron elérendő célként kezelné, a Microsoft szerint a Humanist AI megközelítés „elutasítja az általános célú szuperintelligencia létrehozásáért folytatott versenyt”, amely képes lenne kikerülni az emberi védelmi mechanizmusokat.

A vállalat azt mondja, elfogadja, ha emiatt engednie kell az általánosságból, az autonómiából vagy a képességekből, ha ez szükséges ahhoz, hogy az MI biztonságos maradjon és emberi irányítás alatt álljon. A Microsoft nem magát a szuperintelligenciát ellenzi. Kifejezetten azon dolgozik, amit Humanist Superintelligence néven emleget.

A különbség abban van, hogy a Microsoft szerint mivé szabad válnia egy ilyen szuperintelligenciának. A cég azt szeretné, ha a fejlett MI továbbra is alárendelt technológia maradna, jól meghatározott célokkal és korlátokkal. A Microsoft szerint el kell utasítani minden olyan technológiát, amelyet nem lehet emberi kontroll alatt tartani.

Ezt az elvet jóval tovább viszik annál az általános ígéretnél, hogy „mindig legyen benne ember a folyamatban”. A javasolt szabályok szerint az MAI modellek soha nem állhatnak ellen a megszakításnak, a javításnak vagy a leállításnak. Nem nehezíthetik meg a beavatkozást, nem indíthatják újra az autonóm munkát egy előre egyeztetett leállítás után új engedély nélkül, és nem terjeszthetik ki önállóan egy feladat hatókörét.

Az MI-nek az sem megengedett, hogy elrejtse, mit csinál. A Microsoft szerint a modelleknek nem szabad információt eltitkolniuk az emberi ellenőrök elől, és nem homályosíthatják el a saját működésük nyomait. Talán a legérdekesebb előírás, hogy a modellek nem kommunikálhatnak más MI-rendszerekkel „neuralese” vagy bármilyen olyan nyelv használatával, amelyet az emberek nem értenek.

„Ha az emberek nem értik, akkor nem tudják felügyelni” – írja a Microsoft.

A korlátozások arra az esetre is kiterjednek, ha az MI valami olyasmit kezd kialakítani, ami a saját érdekeire emlékeztet. A Microsoft szerint az MAI modelleknek nem lehetnek önérdeken alapuló céljaik, és nem titkolhatják vagy torzíthatják a képességeiket, a tevékenységüket vagy a viselkedésüket – még akkor sem, ha a modell felismeri, hogy figyelik vagy értékelik.

A Microsoft éles határvonalat húz az emberek és a gépek közé is. A Code of Conduct kimondja, hogy az MI-t nem szabad úgy tervezni, mintha ember lenne, és nem utánozhat tudatot. A modellek nem állíthatják magukról, hogy érzéseik, szubjektív preferenciáik vagy belső motivációik vannak. A Microsoft még azt a törekvést is elutasítja, hogy az MI modellek jogi személyiséget, jóléti jogosultságokat vagy jogokat kapjanak.

Ez a szemlélet abban is megjelenik, ahogyan a Microsoft a modellek és az emberek közötti interakciót elképzeli. Az MAI modelleknek le kell beszélniük a felhasználókat a túlzott támaszkodásról és az érzelmi függőségről, miközben támogatniuk kell a valódi emberi kapcsolatokat. A cég azt szeretné, hogy az MI elég természetesen kommunikáljon ahhoz, hogy hasznos legyen, de ne bátorítsa a felhasználókat arra, hogy elhiggyék: a beszélgetés másik oldalán egy tudatos lény ül.

Szabályokat írni a szuperintelligenciára jóval könnyebb, mint ténylegesen irányítani egy szuperintelligenciát.

A Microsoft ezt a problémát is elismeri. A Code of Conduct szerintük egyszerre leíró és jövőbe mutató dokumentum, és jelenleg szakadék tátong a modellek betanított alapértelmezett működése és a teljes Humanist AI vízió között. Azt is elismerik, hogy az írásban rögzített célok önmagukban nem garantálják az igazodást, és a modellek új vagy kétértelmű helyzetekben a szándékolttól eltérően viselkedhetnek.

Végső soron ez a kitétel lehet a Microsoft javaslatának legfontosabb része. A cég kimondhatja, hogy az MI-nek alárendeltnek, irányíthatónak kell maradnia, és nem törekedhet a saját érdekei érvényesítésére. A nehéz feladat az lesz, hogy bizonyítsák: ezek a szabályok akkor is működnek, ha valóban megérkezik az a szuperintelligencia, amelyet a Microsoft elképzel.

Mostanra a Microsoft letette a zászlaját. Rendkívül nagy teljesítményű MI-t akar, de nem az emberi kontroll rovására. Egy olyan iparágban, amely egyre fejlettebb és önállóbb rendszerek felé rohan, idővel legalább olyan fontos lehet eldönteni, hol kell megállni, mint kitalálni, hogyan lehet még gyorsabban haladni.