La courbe de coût de la défense des systèmes d'IA
Les fournisseurs de modèles optimisent le coût marginal d'un token. Les attaquants, eux, optimisent le coût marginal d'un prompt réussi. Ces courbes n'évoluent pas en faveur du défenseur. Nous examinons pourquoi la sécurisation des systèmes d'IA s'apparente moins à la sécurité logicielle traditionnelle qu'à la lutte contre la fraude, où le coût croît avec la créativité des attaquants plutôt qu'avec le nombre d'utilisateurs, et ce que cela implique pour les marges des entreprises qui se construisent dans cette catégorie.
Dans la sécurité logicielle traditionnelle, les coûts du défenseur sont pour l'essentiel fixes. On écrit la validation des entrées une fois, on corrige la vulnérabilité une fois, et le coût marginal de la défense de la dix-millième requête est pratiquement nul. C'est cette propriété qui a fait de la sécurité une discipline d'ingénierie maîtrisable : une surface bornée, un comportement déterministe et des défenses qui s'amortissent sur l'ensemble des utilisateurs.
Les systèmes d'IA font voler cette hypothèse en éclats. La surface d'attaque est l'espace du langage naturel, qui est illimité, et le comportement du système est probabiliste plutôt que déterministe. Il n'existe pas d'entrée unique à valider, ni de correctif unique qui referme toute la classe de failles. Chaque nouveau jailbreak, chaque nouvelle charge d'injection de prompt, constitue une nouvelle sonde dirigée contre un modèle qui répondra un peu différemment à chaque fois. Le défenseur n'amortit plus un coût fixe sur ses utilisateurs ; il paie, encore et encore, pour suivre le rythme de la créativité des attaquants.
C'est pourquoi sécuriser l'IA ressemble moins à la sécurité applicative qu'à la lutte contre la fraude. Les équipes anti-fraude n'ont jamais « terminé ». Elles opèrent une détection continue, réentraînent leurs modèles sur de nouveaux schémas chaque semaine et acceptent que l'adversaire s'adapte aussi vite qu'elles. L'économie de ce domaine se définit par une course aux armements permanente, et non par un durcissement ponctuel. Les entreprises qui construisent la sécurité de l'IA doivent s'attendre à la même configuration : des mises à jour récurrentes des modèles et des règles, une supervision humaine pour la longue traîne, et une structure de coûts qui croît avec la sophistication des attaquants plutôt qu'avec le nombre de clients.
Pour les fondateurs, l'implication stratégique tient à la localisation de la marge durable. Elle ne réside dans aucune détection isolée — celles-ci se périment. Elle réside dans l'effet de volant des données et dans la boucle de réponse : le corpus propriétaire d'attaques réelles, la rapidité avec laquelle un nouvel exploit se transforme en défense déployée, et l'outillage qui permet à une petite équipe de superviser un volume important de trafic malveillant. Nous recherchons des équipes qui comprennent qu'elles prennent en charge un processus continu, et qui ont bâti la machinerie nécessaire pour rendre ce processus moins coûteux à chaque trimestre.
Les opinions exprimées ci-dessus sont celles de Sentinel Ventures et sont fournies à titre purement informatif — elles ne constituent pas un conseil en investissement, juridique ou fiscal.