Az AI ügynökök ígéretet tesznek a termelékenység növelésére, az ismétlődő feladatok automatizálására és a gyorsabb döntéshozatalra. Közben viszont könnyen káoszt is okozhatnak. Az Economist Enterprise új kutatása szerint a nagyvállalatok tisztában vannak a kockázatokkal, mégis gyorsabban vetik be az AI ügynököket, mint ahogy a biztonsági csapataik lépést tudnának tartani.

A Rubrik kiberbiztonsági cég által támogatott felmérésben 804 vezető technológiai döntéshozót kérdeztek meg, olyan szervezetektől, amelyek éves bevétele legalább 500 millió dollár, és kilenc országot fednek le. Minden válaszadó olyan cégnél dolgozik, ahol az AI ügynökök már élesben futnak, így az eredmények inkább azokra a vállalatokra vonatkoznak, amelyek már belevágtak a technológia használatába, nem pedig a teljes piacra.

A legfontosabb számot nehéz figyelmen kívül hagyni. A válaszadók elsöprő többsége, 98 százalék azt mondta, hogy a szervezeténél már történt valamilyen zavaró, AI ügynökhöz köthető incidens. Közben 90 százalékuk elismerte, hogy gyorsabban vezetik be az AI ügynököket, mint ahogy a kiberbiztonsági csapataik fel tudnák mérni, szabályozni vagy biztonságossá tudnák tenni őket.

Ezek a számok drámaian hangzanak, de érdemes egy kis kontextust hozzátenni. Nem független, mindenféle vállalatra kiterjedő felmérésről van szó. Kizárólag olyan nagyvállalatokra fókuszált, amelyek már használnak AI ügynököket, és egy olyan kutatási kezdeményezés részeként készült, amelyet a Rubrik támogatott, egy olyan cég, amely kiberbiztonsági és kiber-helyreállítási termékeket árul. Ettől még az eredmények nem feltétlenül tévesek, de nem árt észben tartani.

A jelentés többi része arra utal, hogy sok szervezetnek már az is gondot okoz, hogy egyáltalán átlássa, mit csinálnak az AI ügynökeik. A válaszadók mindössze 37 százaléka mondta, hogy naprakész, teljes leltárt vezet az összes AI ügynökről és az általuk végrehajtható, engedélyezett műveletekről. Csak 30 százalék számolt be arról, hogy rendelkezik olyan robusztus, teljes körűen tesztelt képességekkel, amelyekkel vissza tudják vonni a káros műveleteket, ha egy AI ügynök hibázik vagy váratlanul viselkedik.

Érdekes az is, hogy az üzleti szereplők láthatóan nem hisznek abban, hogy ezeket a kockázatokat teljesen ki lehetne iktatni. A válaszadók közel kilenctizede szerint az AI ügynökök olyan új típusú kiberbiztonsági kihívásokat hoznak, amelyek kezelésére a meglévő biztonsági kontrollokat sosem tervezték. Ennek ellenére a bevezetés üteme tovább gyorsul, mert a cégek jobban tartanak attól, hogy lemaradnak a versenytársak mögött, mint attól, hogy megvárják a tökéletes biztonságot.

Számomra ez a történet lényege. Nem az a meglepő, hogy az AI ügynökök időnként problémákat okoznak. Ezzel valószínűleg mindenki számolt, aki figyeli a területet. Sokkal érdekesebb, hogy számos nagy szervezet hajlandó elfogadni ezeket a problémákat a gyors haladás áraként.

Hogy a cégek túl gyorsan haladnak-e, az bőven ad teret az aggodalomra. Nehezebb viszont elvitatni, hogy az AI bevezetésének élén járó szervezetek közül sokan maguk is elismerik: még mindig csak keresik, hogyan tudnák kezelni az ezzel járó kockázatokat.