Le **Pentagone** est confronté à un obstacle majeur dans son intégration de l'intelligence artificielle (**IA**) à ses capacités de combat : assurer la sécurité et le contrôle des logiciels qui piloteront les décisions sur le champ de bataille. ### L'essor des armes autonomes Selon le président des chefs d'état-major interarmées, le général Dan Caine, les armes autonomes sont sur le point de devenir une "partie clé et essentielle de tout ce que nous faisons". Ce changement nécessite une infrastructure numérique robuste, englobant les réseaux de commandement et de contrôle et les modèles d'apprentissage automatique, en laquelle on peut avoir confiance, même dans des conditions adverses. ### Combler le fossé entre l'IA militaire et celle du secteur privé Une dépendance croissante à l'égard des systèmes logiciels développés par le secteur privé, qui n'ont pas été initialement conçus pour des applications militaires, soulève de sérieuses préoccupations. Celles-ci incluent les vulnérabilités, les risques liés à la chaîne d'approvisionnement et le potentiel d'exploitation par des adversaires. Le général Caine a souligné l'écart croissant entre le développement de l'**IA** dans le secteur militaire et celui du secteur privé, exhortant le **Département de la Défense** à devenir un adopteur précoce de technologies telles que les grands modèles linguistiques (LLM). ### L'impasse avec Anthropic met en évidence les risques liés à la chaîne d'approvisionnement La complexité de ce défi est illustrée par une récente impasse avec **Anthropic**, une entreprise leader dans le domaine de l'**IA**. **Anthropic** a retardé la publication publique de son modèle **Mythos Preview** en raison de risques de cybersécurité et d'une utilisation potentiellement abusive. Malgré cela, des agences de renseignement, y compris la **National Security Agency (NSA)**, auraient obtenu un accès au modèle. Plus tôt dans l'année, **Anthropic** a refusé d'assouplir les restrictions sur l'utilisation de ses systèmes, y compris les limitations sur la surveillance intérieure et les armes entièrement autonomes. Cela a conduit le **Pentagone** à désigner l'entreprise comme un "risque pour la chaîne d'approvisionnement", une étiquette généralement réservée aux fournisseurs étrangers dont la technologie pourrait introduire des vulnérabilités dans les systèmes gouvernementaux. Un ordre ultérieur de la **Maison Blanche** visant à éliminer progressivement l'utilisation des outils d'**Anthropic** a été temporairement bloqué par un juge fédéral, le gouvernement prévoyant de faire appel. ### Confiance, sécurité et contrôle dans l'adoption de l'IA Cet épisode souligne un problème fondamental : les États-Unis adoptent rapidement l'**IA** pour la sécurité nationale tout en s'appuyant sur un écosystème commercial qui ne correspond pas toujours aux priorités militaires, en particulier en ce qui concerne la tolérance au risque et le contrôle. Les planificateurs militaires se concentrent non seulement sur la vitesse et la qualité des décisions pilotées par l'**IA**, mais aussi sur la sécurisation de ces systèmes contre la manipulation, l'empoisonnement des données et les comportements involontaires. Ces risques ne sont pas purement théoriques. Des questions ont été soulevées quant à l'utilisation potentielle de systèmes d'**IA** dans une frappe mortelle sur une école iranienne, soulignant la nécessité de tests rigoureux, d'audits et de gouvernance de ces outils. Le général Caine a également souligné la nécessité de meilleurs contrats adaptés à un logiciel en constante évolution nécessitant des mises à jour de sécurité continues. Il a préconisé le partage des risques entre le gouvernement et les entreprises privées pour garantir à la fois l'efficacité et la résilience. ### L'obstacle de l'approvisionnement Le général Caine a également désigné le propre système d'approvisionnement du gouvernement comme un obstacle. "Nous devons rédiger de meilleurs contrats", a-t-il déclaré, arguant que les cadres d'acquisition actuels sont mal adaptés aux logiciels qui évoluent continuellement et nécessitent des mises à jour de sécurité permanentes. Les contrats traditionnels, conçus pour les systèmes matériels fixes, peuvent ralentir le déploiement de technologies critiques et laisser des lacunes en matière de responsabilité. Alors que le **Pentagone** s'enfonce dans la guerre assistée par l'**IA**, le défi central passe de la fonctionnalité de la technologie à sa fiabilité, sa sécurité et sa contrôlabilité dans des environnements à enjeux élevés où les erreurs sont inacceptables. [](https://www.recordedfuture.com/?utm_source=therecord&utm_medium=ad)