La lutte en cours du **Department of Defense** avec **Anthropic** concernant l'utilisation de l'IA pour la surveillance de masse met en évidence un débat crucial. Désormais, la **GSA** tente de réécrire les règles d'acquisition gouvernementales, exacerbant potentiellement ces préoccupations. ### L'acquisition comme politique L'utilisation de l'acquisition pour atteindre des objectifs politiques est une pratique courante. Les gouvernements allouent des ressources à des projets alignés sur l'intérêt public, tels que les logiciels open-source ou le droit à la réparation, tout en évitant ceux qui présentent une sécurité inadéquate, comme on l'a vu avec des contractants douteux et leurs violations de données. ### Les nouvelles directives de la GSA Les règles proposées par la **GSA**, destinées à promouvoir l'innovation américaine en matière d'IA "idéologiquement neutre", vont bien au-delà. Les commentaires déposés par le **Center for Democracy and Technology**, le **Protect Democracy Project** et l'**Electronic Privacy Information Center** révèlent des dispositions qui pourraient rendre les outils d'IA moins sûrs et moins utiles. Vous pouvez lire l'intégralité des commentaires [ici](https://www.eff.org/document/gsar-552239-7001-basic-safeguarding-artificial-intelligence-systems). ### "Tous les objectifs légaux" Une préoccupation majeure est l'exigence que les contractants concèdent sous licence leurs systèmes d'IA au gouvernement pour "tous les objectifs légaux". Compte tenu de l'historique du gouvernement en matière d'interprétations juridiques étendues et de pratiques de surveillance, cela soulève de sérieux risques pour la vie privée. Le potentiel d'utilisation abusive des données personnelles est important, même pour des données bureaucratiques de routine. ### Désactivation des garde-fous de sécurité Les projets de règles imposent également que "les systèmes d'IA ne doivent pas refuser de produire des sorties de données ou d'effectuer des analyses basées sur les politiques discrétionnaires du contractant ou du fournisseur de services". Cela signifie que les entreprises pourraient être contraintes de désactiver les garde-fous de sécurité si le gouvernement demande des données que ces garde-fous bloqueraient autrement. Limiter les protections nécessaires est une approche malavisée, compte tenu des préoccupations publiques concernant la sécurité de l'IA. ### Autres problèmes Au-delà de ces problèmes majeurs, les projets de règles contiennent d'autres éléments problématiques, notamment des exigences "anti-Woke" technologiquement incohérentes. La préoccupation générale est que la proposition ne parvient pas à promouvoir la confidentialité, la sécurité et l'innovation technologique responsable. Les critiques exhortent la **GSA** à reconsidérer et à réviser les règles pour mieux servir l'intérêt public.