Evaluar la autonomía: el riesgo en los sistemas agénticos
Un agente capaz de leer, planificar y actuar es un nuevo tipo de actor dentro de la empresa: uno con credenciales, criterio propio y sin una línea clara de rendición de cuentas. La cuestión de seguridad está pasando de qué puede producir un modelo a qué se le permite hacer a un agente. Examinamos la identidad, la autoridad acotada y la revocación como las primitivas que importan, y por qué las empresas que resuelvan la contención de los sistemas autónomos se parecerán más a una infraestructura de acceso que a herramientas de modelos.
Un modelo que solo produce texto está limitado por su canal de salida. Lo peor que puede hacer es decir algo incorrecto. Un agente capaz de leer sistemas, elaborar un plan y ejecutar acciones es un tipo de objeto completamente distinto: posee credenciales, ejerce criterio propio y modifica el estado del mundo. Es, funcionalmente, un nuevo actor dentro de la empresa —uno que ningún sistema de identidad fue diseñado para gobernar—.
Esto desplaza la cuestión de seguridad. Durante mucho tiempo, el campo se ha centrado en qué puede producir un modelo: si se le puede vulnerar con un jailbreak, si se le puede inducir a decir algo dañino, si puede filtrar su prompt. Esas preguntas siguen importando, pero ya no son las que quitan el sueño a un CISO. La pregunta operativa para un agente es qué se le permite hacer —a qué sistemas puede acceder, qué acciones puede tomar y bajo la autoridad de quién actúa cuando encadena un plan que ningún humano aprobó de forma explícita—.
Las primitivas que importan aquí provienen de la infraestructura de acceso, no de las herramientas de modelos. Cada agente necesita una identidad propia y verificable —no una cuenta de servicio compartida—. Su autoridad debe acotarse al conjunto más reducido de acciones que exige su tarea, y ese alcance debe imponerse en el perímetro, no solicitarse cortésmente en un prompt. Y debe existir la revocación: una forma rápida y confiable de retirar la autoridad de un agente cuando se comporta de manera indebida, sin derribar los sistemas a los que accede. Identidad, autoridad acotada y revocación son la tríada de contención.
Por eso creemos que las empresas ganadoras en seguridad agéntica se parecerán más a las plataformas de control de acceso e identidad que a las herramientas de observabilidad de LLM. Lo difícil no es vigilar lo que el agente dice; es gobernar lo que puede alcanzar, demostrar lo que hizo y poder desconectarlo en segundos. La contención de los sistemas autónomos es un problema de infraestructura, y estamos respaldando activamente a los equipos que lo abordan como tal.
Las opiniones anteriores son las de Sentinel Ventures y tienen únicamente fines informativos — no constituyen asesoramiento de inversión, legal ni fiscal.