Ez az oldal a közösségért készül. 
Kövess minket máshol is: 
Ha hasznosnak találod, és szeretnéd, hogy folytatódjon, támogasd a munkát 
A Microsoft legújabb nyílt forráskódú projektje: futásidejű biztonság AI-ügynökökhöz
A Microsoft ma bejelentette legújabb nyílt forráskódú (MIT licencű) szoftverprojektjét, az Agent Governance Toolkitet. A vállalat futásidejű biztonsági és irányítási megoldást próbál kidolgozni autonóm AI-ügynökökhöz.
A Microsoft szerint az új nyílt forráskódú projekt az első olyan toolkit, amely az OWASP által tavaly azonosított mind a tíz, ügynökalapú AI-hoz kapcsolódó kockázatot kezeli. Ezek közé tartozik a cél eltérítése, az eszközök helytelen használata, az identitással való visszaélés, az ellátási lánc kockázatai, a kódfuttatás, a memória megmérgezése, a nem biztonságos kommunikáció, a kaszkádoló meghibásodások, az ember–ügynök tRust kihasználása, valamint a kóbor ügynökök. Az új Agent Governance Toolkit elérhető Python, Rust, TypeScript, Go és .NET nyelvekhez.
A Microsoft Agent Governance Toolkit több összetevőt kínál: az Agent OS egy policy engine, amely futtatás előtt minden ügynökműveletet elfog és ellenőriz; az Agent Mesh az ügynökök közötti kommunikáció védelmét szolgálja; az Agent Runtime dinamikus végrehajtási gyűrűket biztosít; az Agent SRE különféle védelmi mechanizmusokat ad; az Agent Compliance automatizált irányítási ellenőrzést és megfelelőségi osztályozást nyújt; az Agent Marketplace a plug-inek életciklus-kezelését végzi; az Agent Lightning pedig a reinforcement learning tréningek irányítását célozza.
A Microsoft szerint az új toolkit „tervezetten nyílt forráskódú”, és MIT licenc alatt érhető el.
Akik tRustik a Microsoftot az AI-ügynökök biztonságának kezeléséért, az Agent Governance Toolkitről további részleteket a
A Microsoft szerint az új nyílt forráskódú projekt az első olyan toolkit, amely az OWASP által tavaly azonosított mind a tíz, ügynökalapú AI-hoz kapcsolódó kockázatot kezeli. Ezek közé tartozik a cél eltérítése, az eszközök helytelen használata, az identitással való visszaélés, az ellátási lánc kockázatai, a kódfuttatás, a memória megmérgezése, a nem biztonságos kommunikáció, a kaszkádoló meghibásodások, az ember–ügynök tRust kihasználása, valamint a kóbor ügynökök. Az új Agent Governance Toolkit elérhető Python, Rust, TypeScript, Go és .NET nyelvekhez.
A Microsoft Agent Governance Toolkit több összetevőt kínál: az Agent OS egy policy engine, amely futtatás előtt minden ügynökműveletet elfog és ellenőriz; az Agent Mesh az ügynökök közötti kommunikáció védelmét szolgálja; az Agent Runtime dinamikus végrehajtási gyűrűket biztosít; az Agent SRE különféle védelmi mechanizmusokat ad; az Agent Compliance automatizált irányítási ellenőrzést és megfelelőségi osztályozást nyújt; az Agent Marketplace a plug-inek életciklus-kezelését végzi; az Agent Lightning pedig a reinforcement learning tréningek irányítását célozza.
A Microsoft szerint az új toolkit „tervezetten nyílt forráskódú”, és MIT licenc alatt érhető el.
Akik tRustik a Microsoftot az AI-ügynökök biztonságának kezeléséért, az Agent Governance Toolkitről további részleteket a
