Nos, az FIS alaposan szemügyre veteti az Anthropic egyik legfejlettebb MI-modelljével azokat a szoftvereket, amelyek a fizetések, a pénzmozgás és az alapvető banki rendszerek mögött dolgoznak.

A pénzügyi technológiai cég csatlakozott a Project Glasswing kezdeményezéshez. Ez az Anthropic programja, amely kiválasztott szervezeteknek ad ellenőrzött hozzáférést csúcskategóriás MI-modellekhez védelmi célú kiberbiztonsági munkához. Az FIS most a saját rendszerein teszteli a Mythos 5 modellt, hogy azonosítsa és értékelje a lehetséges szoftveres sebezhetőségeket.

Hasznosnak hangzik, és valószínűleg az is. Közben viszont okkal érezhetjük magunkat egy kicsit feszengve.

Az FIS olyan technológiát üzemeltet, amelyet világszerte több ezer pénzintézet használ. A szoftverei segítenek a fizetések elszámolásában, a pénz mozgatásában és a létfontosságú banki műveletek működtetésében. Létfontosságú, hogy a bűnözők előtt találják meg a sebezhetőségeket ebben a kódban, de az is kérdéseket vet fel, ha egy MI-modell ilyen érzékeny infrastruktúrát vizsgál át. Ezekre a kérdésekre a bejelentés nem ad teljes választ.

Az FIS szerint a Mythos 5 az eddigi biztonsági program egy újabb rétege lesz, nem pedig a hagyományos biztonsági tesztelés vagy az emberi szakértők helyettesítője. Ez fontos különbség. Az MI-modellek gyorsan át tudnak nézni hatalmas mennyiségű kódot, és olyan mintákat is észrevehetnek, amelyek felett egy emberi ellenőr átsiklana. Ugyanakkor könnyen jelezhetnek téves riasztásokat, félreérthetik a kontextust, vagy olyan módosításokat javasolhatnak, amelyek új problémákat okoznak.

A cég nem árulta el, hogy a Mythos 5 pontosan milyen rendszerekhez fér hozzá, hogyan választják le a forráskódot, megőrzik-e az adatokat, illetve hogyan vizsgálják felül az összes találatot, mielőtt bármilyen lépést tennének. Korai teszteredményeket sem osztottak meg.

Másképp fogalmazva: tudjuk, hogy az FIS használja a modellt, de azt még nem, hogy talált-e bármi igazán hasznosat. Nehéz igazán lelkesedni ennyire kevés információ alapján.

„Ennek a kódnak a védelme kulcsfontosságú a globális pénzügyi infrastruktúra stabilitása szempontjából” – írta az FIS a bejelentésben. A cég hozzátette, hogy ugyanazokat a biztonsági szabványokat alkalmazza a saját belső rendszereire, amelyeket az ügyfeleknek szállított technológiától is elvár.

Az FIS tagja a Financial Services Information Sharing and Analysis Centernek (FS-ISAC), valamint a Financial Services Sector Coordinating Councilnak is. Ezek a kapcsolatok az Anthropic-kal közös munkán túl szélesebb körű fenyegetés-információkhoz és iparági együttműködéshez juttatják a céget.

A Project Glasswing keretében végzett tesztelés különálló az FIS és az Anthropic kereskedelmi MI-partnerségétől. Az FIS már most is vizsgálja az Anthropic által hajtott MI-ügynökök használatát pénzügyi szolgáltatásokhoz, míg a Mythos 5-tel végzett munka kifejezetten a védelmi célú biztonságra koncentrál.

Érthető érv, hogy csúcskategóriás MI-modelleket vessenek be kritikus szoftverek védelmére. A támadók már most is automatizálást, MI-eszközöket és nagyszabású szkennelést használnak a gyenge pontok felkutatására. A bankok és a fizetési szolgáltatók nem engedhetik meg maguknak, hogy kizárólag lassú, kézi ellenőrzésekre támaszkodjanak.

Mégis, a „trusted AI” inkább marketingfogás, mint valódi biztonsági kontroll.

Az igazi próba az lesz, hogy az FIS később részletesen elmagyarázza-e, hogyan zárják körül a Mythos 5 modellt, hogyan hitelesítik a találatait, és tényleg talál-e olyan sebezhetőségeket, amelyeket a meglévő eszközök nem vettek észre. Amíg ez nem derül ki, addig ez egy érdekes biztonsági kísérlet rendkívül fontos szoftverrel, de még nem bizonyíték arra, hogy MI-re kellene bízni a világ pénzmozgását végző rendszerek védelmét.