El Nuevo Proyecto de Código Abierto de Microsoft: Seguridad en Tiempo de Ejecución para Agentes de IA
Microsoft lanzó Agent Governance Toolkit, un proyecto de código abierto centrado en la seguridad en tiempo de ejecución para agentes de IA, abordando diez riesgos clave.Resumen
Microsoft ha presentado Agent Governance Toolkit, un nuevo proyecto de código abierto con licencia MIT, diseñado para proporcionar gobernanza de seguridad en tiempo de ejecución para agentes de IA autónomos. El kit de herramientas tiene como objetivo abordar los diez riesgos de la IA agente identificados por OWASP, incluyendo el secuestro de objetivos, el uso indebido de herramientas y el abuso de identidad. Ofrece componentes como Agent OS (motor de políticas), Agent Mesh (comunicación segura), Agent Runtime (ejecución dinámica), Agent SRE (salvaguardias), Agent Compliance (verificación de gobernanza), Agent Marketplace (gestión del ciclo de vida de los plugins) y Agent Lightning (gobernanza del entrenamiento por refuerzo). El kit de herramientas es compatible con Python, Rust, TypeScript, Go y .NET, y está disponible en GitHub para aquellos interesados en aprovechar el enfoque de Microsoft para la seguridad de los agentes de IA.
(Fuente：Phoronix)