# EFF insta salvaguardias sólidas para la IA para proteger derechos constitucionales **Washington D.C.** – Los gobiernos no deben adoptar tecnologías emergentes y potentes de inteligencia artificial (IA) sin implementar simultáneamente salvaguardias sólidas y claras para proteger los derechos constitucionales. Este fue el mensaje central entregado por el Analista Principal de Políticas de la **Electronic Frontier Foundation (EFF)**, el **Dr. Matthew Guariglia**, durante su testimonio hoy ante el **Subcomité de Ciberseguridad e Infraestructura de Seguridad Nacional de la Cámara de Representantes**. ## La Amenaza de Vigilancia de la IA Generativa Durante la audiencia, titulada "[El panorama de seguridad de la IA: Cómo los modelos de frontera, la IA agentiva y las herramientas de codificación de IA están remodelando la ciberseguridad y la resiliencia de la infraestructura crítica](https://homeland.house.gov/hearing/the-ai-security-landscape-how-frontier-models-agentic-ai-and-ai-coding-tools-are-reshaping-cybersecurity-and-critical-infrastructure-resilience/)", el Dr. Guariglia subrayó los profundos riesgos asociados con el uso gubernamental de la IA generativa. Advirtió que la implementación de dicha tecnología para la vigilancia masiva podría "potenciar violaciones inconstitucionales de las libertades civiles". ## El Problema de la "Caja Negra" y la Infraestructura Crítica El Dr. Guariglia también destacó el doble desafío del secreto gubernamental y la naturaleza propietaria de "caja negra" de las tecnologías de IA con fines de lucro. Esta combinación, explicó, impide tanto al público como a los legisladores comprender cuándo los modelos de IA cometen errores críticos. Tales errores, advirtió, podrían tener serias implicaciones para la ciberseguridad de la infraestructura crítica vital y las vidas de las personas. ## Un Historial de Errores Costosos Ilustrando sus preocupaciones, el Dr. Guariglia señaló ejemplos concretos de fallos de la IA. "La IA también tiene un historial de cometer errores, desde falsas citas en escritos legales hasta un [importante error de IA](https://www.nbcnews.com/politics/immigration/ice-error-meant-recruits-sent-field-offices-proper-training-sources-sa-rcna254054) que envió a reclutas del **DHS** al campo sin la capacitación adecuada", declaró en sus comentarios iniciales. Sugirió que es probable que muchos más errores consecuentes permanezcan desconocidos debido a la clasificación, lo que dificulta una contabilidad exhaustiva de las deficiencias de la IA. ## Controlar a las Agencias, No Solo a la IA En respuesta a una pregunta de la Miembro de Rango del Subcomité, **Delia Ramirez**, D-Ill., el Dr. Guariglia articuló la perspectiva más amplia de la **EFF**: "A este nivel, la pregunta no es cómo controlamos la IA, sino cómo controlamos a las agencias que desatarían la IA sobre el público estadounidense". Esta declaración resume el enfoque de la **EFF** en la rendición de cuentas gubernamental y la necesidad de que las agencias ejerzan moderación e implementen una supervisión sólida al considerar la implementación de la IA. Los lectores pueden acceder al testimonio completo preparado por el Dr. Guariglia [aquí](https://www.eff.org/document/06-04-2024-matthew-guariglias-prepared-testimony-house-subcommittee).