# L'EFF plaide pour des garde-fous solides en matière d'IA afin de protéger les droits constitutionnels **Washington D.C.** – Les gouvernements ne doivent pas adopter les technologies émergentes et puissantes d'intelligence artificielle (IA) sans mettre simultanément en place des garde-fous clairs et solides pour protéger les droits constitutionnels. C'était le message principal délivré par le Dr **Matthew Guariglia**, analyste principal des politiques de l'**Electronic Frontier Foundation (EFF)**, lors de son témoignage aujourd'hui devant le **Sous-comité sur la cybersécurité et la protection des infrastructures du Comité de la sécurité intérieure de la Chambre des représentants**. ## La menace de surveillance de l'IA générative Lors de l'audience, intitulée "[The AI Security Landscape: How Frontier Models, Agentic AI, and AI Coding Tools Are Reshaping Cybersecurity and Critical Infrastructure Resilience](https://homeland.house.gov/hearing/the-ai-security-landscape-how-frontier-models-agentic-ai-and-ai-coding-tools-are-reshaping-cybersecurity-and-critical-infrastructure-resilience/)", le Dr Guariglia a souligné les risques profonds associés à l'utilisation gouvernementale de l'IA générative. Il a averti que le déploiement d'une telle technologie pour la surveillance de masse pourrait "amplifier les violations inconstitutionnelles des libertés civiles". ## Le problème de la "boîte noire" et des infrastructures critiques Le Dr Guariglia a également mis en évidence le double défi du secret gouvernemental et de la nature propriétaire de la "boîte noire" des technologies d'IA à but lucratif. Cette combinaison, a-t-il expliqué, empêche le public et les législateurs de comprendre quand les modèles d'IA commettent des erreurs critiques. De telles erreurs, a-t-il averti, pourraient avoir de sérieuses implications pour la cybersécurité des infrastructures critiques vitales et pour la vie des individus. ## Un historique d'erreurs coûteuses Illustrant ses préoccupations, le Dr Guariglia a cité des exemples concrets d'échecs de l'IA. "L'IA a également un historique d'erreurs, allant de fausses citations dans des documents juridiques à une [erreur majeure de l'IA](https://www.nbcnews.com/politics/immigration/ice-error-meant-recruits-sent-field-offices-proper-training-sources-sa-rcna254054) qui a envoyé des recrues du **DHS** sur le terrain sans formation adéquate", a-t-il déclaré dans ses remarques liminaires. Il a suggéré que de nombreuses autres erreurs importantes restent probablement inconnues en raison de la classification, ce qui empêche une comptabilisation complète des lacunes de l'IA. ## Maîtriser les agences, pas seulement l'IA En réponse à une question de la membre du sous-comité **Delia Ramirez**, D-Ill., le Dr Guariglia a articulé la perspective plus large de l'**EFF** : "À ce niveau, la question n'est pas de savoir comment nous maîtrisons l'IA, mais comment nous maîtrisons les agences qui déchaîneraient l'IA sur le public américain." Cette déclaration résume l'accent mis par l'**EFF** sur la responsabilité gouvernementale et la nécessité pour les agences de faire preuve de retenue et de mettre en œuvre une surveillance robuste lors de l'examen du déploiement de l'IA. Les lecteurs peuvent accéder au témoignage complet préparé du Dr Guariglia [ici](https://www.eff.org/document/06-04-2024-matthew-guariglias-prepared-testimony-house-subcommittee).