La curva de costos de defender los sistemas de IA
Los proveedores de modelos optimizan el costo marginal de un token. Los atacantes optimizan el costo marginal de un prompt exitoso. Estas curvas no evolucionan a favor del defensor. Analizamos por qué proteger los sistemas de IA se parece menos a la seguridad de software tradicional y más a la prevención del fraude, donde el costo crece con la creatividad de los adversarios en lugar de con el número de usuarios, y qué implica esto para los márgenes de las empresas que se construyen en esta categoría.
En la seguridad de software tradicional, los costos del defensor son en gran medida fijos. La validación de entradas se escribe una sola vez, la vulnerabilidad se corrige una sola vez y el costo marginal de defender la petición número diez mil es prácticamente cero. Esa propiedad es lo que convirtió la seguridad en una disciplina de ingeniería abordable: una superficie acotada, un comportamiento determinista y defensas que se amortizan entre todos los usuarios.
Los sistemas de IA rompen ese supuesto. La superficie de ataque es el espacio del lenguaje natural, que no tiene límites, y el comportamiento del sistema es probabilístico y no determinista. No existe una única entrada que validar ni un único parche que cierre toda la categoría. Cada nuevo jailbreak, cada nueva carga de inyección de prompts, es un nuevo sondeo contra un modelo que responderá de forma ligeramente distinta cada vez. El defensor ya no amortiza un costo fijo entre sus usuarios: paga, una y otra vez, por seguir el ritmo de la creatividad de los adversarios.
Por eso proteger la IA se parece menos a la seguridad de aplicaciones y más a la prevención del fraude. Los equipos antifraude nunca "terminan". Ejecutan una detección continua, reentrenan con nuevos patrones cada semana y asumen que el adversario se adapta tan rápido como ellos. La economía se define por una carrera armamentística permanente, no por un blindaje puntual. Las empresas que construyen seguridad de IA deben esperar la misma forma: actualizaciones recurrentes de modelos y reglas, revisión con intervención humana para la larga cola y una estructura de costos que crece con la sofisticación de los atacantes en lugar de con el número de clientes.
Para los fundadores, la implicación estratégica tiene que ver con dónde reside el margen duradero. No está en ninguna detección concreta —esas se degradan—. Está en el efecto volante de los datos y en el ciclo de respuesta: el corpus propio de ataques reales, la velocidad para convertir un exploit inédito en una defensa desplegada y las herramientas que permiten a un equipo pequeño supervisar un gran volumen de tráfico adversario. Buscamos equipos que entiendan que están respaldando un proceso continuo y que hayan construido la maquinaria para abaratar ese proceso cada trimestre.
Las opiniones anteriores son las de Sentinel Ventures y tienen únicamente fines informativos — no constituyen asesoramiento de inversión, legal ni fiscal.