A „nyílt forráskódú” kifejezésnek elég egyértelmű jelentése van a szoftvervilágban. Meg lehet nézni a forráskódot, módosítani lehet, tovább lehet adni, és általában kideríthető belőle, hogyan működik a program. A mesterséges intelligencia viszont jóval zavarosabbá tette a helyzetet.

A Mozilla egy új kutatásra hívja fel a figyelmet, amely a Communications of the ACM folyóiratban jelent meg, és azt próbálja tisztázni, mit is jelent pontosan a „nyílt” jelző az alapmodellek esetében. Az alapvető probléma egyszerű: két MI-modellre is rá lehet mondani, hogy nyílt, miközben egészen eltérő szintű hozzáférést adnak a mögöttük lévő technológiához.

A „Unpacking Open Source Artificial Intelligence: Toward a Framework for Openness in Foundation Models” című kutatás amellett érvel, hogy az MI-t nem szabad egyszerűen nyílt vagy zárt kategóriákba sorolni. Inkább az egyes összetevők szintjén kell vizsgálni, mennyire nyílt az adott alapmodell.

Ilyen összetevő lehet a tanítóadat, a modell súlyai, a kód, a dokumentáció, az értékelési információk és a fejlesztési folyamat más elemei. Előfordulhat, hogy egy cég kiadja a modell súlyait, de a tanítóadatot zártan tartja. Mások közzéteszik a kódot, de alig árulnak el valamit arról, hogyan tanították vagy értékelték a modellt.

Mindkettőt lehetne „nyíltnak” nevezni, de a különbség nagyon is számít.

A Mozilla szerint a keretrendszer egy 2024-es találkozó tapasztalataiból nőtt ki, amelyet a Columbia University Institute of Global Politics intézettel közösen szerveztek. Több mint 40 kutató, fejlesztő és szakpolitikai szakértő vett részt a nyíltságról és az MI-ről szóló beszélgetésekben.

Az így kialakult keretrendszer nem egyetlen ellenőrzőlistát ad, amely alapján eldől, hogy egy MI-modell megkapja-e a „nyílt forráskódú” címkét. Inkább arra ad eszközt, hogy pontosan le lehessen írni, egy MI-rendszer mely részei nyíltak, és melyek nem.

Ez a különbségtétel egyre fontosabbá válhat, ahogy a cégek a nyílt forráskódú terminológiát használják MI-modelljeik reklámozására. A letölthető súlyok nagy szabadságot adhatnak a fejlesztőknek, de önmagukban még nem jelentik azt, hogy minden információ rendelkezésre áll a modell létrehozásának megértéséhez.

Akik jártasak a Linux és a hagyományos nyílt forráskódú szoftverek világában, pontosan értik, miért fontos ez a különbség. Ha egy alkalmazás forráskódja elérhető, a fejlesztők átnézhetik, módosíthatják, lefordíthatják, és tanulmányozhatják a működését. Egy alapmodell újraalkotásához ennél jóval több kellhet, mint egy kész súlykészlet megszerzése.

A tanítóadat különösen kényes terület. Ha minden egyes adatpontot nyilvánossá tennének, az önmagában is komoly problémákat okozhatna szerzői jogi, adatvédelmi, biztonsági és más szempontból. Többek között ezért sem azt javasolják a kutatók, hogy minden MI-modell minden összetevője mindig legyen teljesen nyilvános.

A keretrendszer egy másik, elterjedt érvelést is árnyal: hogy a nagyobb nyitottság automatikusan biztonságosabbá vagy épp veszélyesebbé teszi az MI-t. Ha egy-egy komponenst megnyitnak, az különböző előnyöket és kockázatokat hozhat. Nemcsak az számít, mit tesznek közzé a fejlesztők, hanem az is, hogyan helyeznek üzembe, moderálnak és irányítanak egy MI-rendszert.

Másképp fogalmazva: a „nyílt MI” inkább tulajdonságok skálájaként érthető, nem pedig egy igen-nem címkeként.

Lehet, hogy ez puszta szóhasználatnak tűnik, de a terminológiának következményei vannak. A fejlesztők, akik eldöntik, mely modellekre építsenek; a kutatók, akik a modellek viselkedését vizsgálják; a szabályozáson gondolkodó döntéshozók; és az átlagfelhasználók, akik MI-termékeket hasonlítanak össze – mind egészen más képet kaphatnak, ha valamire egyszerűen csak azt mondják, hogy nyílt forráskódú.

A mostani kutatás nem zárja le a régi vitát arról, mitől számít egy MI nyílt forráskódúnak. Abban viszont segít, hogy ne lehessen úgy tenni, mintha a válasz magától értetődő lenne.

Ahogy az MI-cégek egyre szívesebben használják a nyílt forráskódú szóhasználatot, talán nem is az a legfontosabb kérdés, hogy egy modell nyílt-e. Sokkal inkább az, pontosan mit nyitottak meg, mi maradt zárt ajtók mögött, és miért.