Un rapport récent souligne la difficulté de mesurer avec précision la sécurité des systèmes d'intelligence artificielle (IA). L'argument principal est que les benchmarks existants ne parviennent pas à capturer les complexités de la sécurité de l'IA, en particulier les propriétés systémiques émergentes. ### Le problème des benchmarks Le rapport, accessible [ici](https://berryvilleiml.com/docs/no-security-meter-ai.pdf), remet en question l'efficacité de la simple maximisation des benchmarks de sécurité et de confidentialité pour garantir la sécurité de l'IA. Il affirme que ces benchmarks ne reflètent pas fidèlement les véritables capacités de l'IA, surtout lorsqu'on considère les propriétés émergentes telles que la sécurité. ### Leçons de la sécurité logicielle En établissant des parallèles avec la sécurité logicielle, le rapport note l'évolution des tests d'intrusion en boîte noire vers l'analyse de code en boîte blanche, l'analyse des risques architecturaux et les normes axées sur les processus comme le Building Security In Maturity Model (**BSIMM**). Compte tenu de l'impact potentiellement plus important de l'IA que celui des logiciels, le rapport suggère que des approches de mesure similaires pourraient être applicables. ### Un appel à la vigilance Le rapport préconise des progrès pratiques en matière de sécurité de l'IA grâce à une meilleure gestion des données et des risques, en mettant en œuvre des processus d'assurance robustes. Cependant, il avertit qu'un "mètre de sécurité" définitif pour l'IA reste insaisissable, ce qui nécessite une vigilance accrue dans les pratiques de sécurité de l'IA.