# EFF fordert starke KI-Schutzmaßnahmen zum Schutz verfassungsmäßiger Rechte **Washington D.C.** – Regierungen dürfen aufkommende und leistungsstarke künstliche Intelligenz (KI)-Technologien nicht einführen, ohne gleichzeitig starke und klare Schutzmaßnahmen zum Schutz verfassungsmäßiger Rechte zu implementieren. Dies war die Kernbotschaft von **Electronic Frontier Foundation (EFF)** Senior Policy Analyst **Dr. Matthew Guariglia** während seiner heutigen Aussage vor dem **House Homeland Security Subcommittee on Cybersecurity and Infrastructure Protection**. ## Die Überwachungsbedrohung durch generative KI Während der Anhörung mit dem Titel „[The AI Security Landscape: How Frontier Models, Agentic AI, and AI Coding Tools Are Reshaping Cybersecurity and Critical Infrastructure Resilience](https://homeland.house.gov/hearing/the-ai-security-landscape-how-frontier-models-agentic-ai-and-ai-coding-tools-are-reshaping-cybersecurity-and-critical-infrastructure-resilience/)“ unterstrich Dr. Guariglia die tiefgreifenden Risiken, die mit dem staatlichen Einsatz von generativer KI verbunden sind. Er warnte, dass der Einsatz solcher Technologien zur Massenüberwachung „unverhältnismäßige Verletzungen der bürgerlichen Freiheiten verschärfen“ könne. ## Das „Black Box“-Problem und kritische Infrastrukturen Dr. Guariglia hob auch die doppelte Herausforderung der staatlichen Geheimhaltung und der proprietären „Black Box“-Natur von kommerziellen KI-Technologien hervor. Diese Kombination, so erklärte er, hindere sowohl die Öffentlichkeit als auch die Gesetzgeber daran zu verstehen, wann KI-Modelle kritische Fehler machen. Solche Fehler, so warnte er, könnten schwerwiegende Auswirkungen auf die Cybersicherheit lebenswichtiger kritischer Infrastrukturen und das Leben von Einzelpersonen haben. ## Eine Erfolgsbilanz kostspieliger Fehler Zur Veranschaulichung seiner Bedenken verwies Dr. Guariglia auf konkrete Beispiele für KI-Fehler. „KI hat auch eine Erfolgsbilanz bei Fehlern – von falschen Zitationen in Schriftsätzen bis hin zu einem [großen KI-Fehler](https://www.nbcnews.com/politics/immigration/ice-error-meant-recruits-sent-field-offices-proper-training-sources-sa-rcna254054), bei dem **DHS**-Rekruten ohne ordnungsgemäße Schulung ins Feld geschickt wurden“, sagte er in seiner Eröffnungsrede. Er deutete an, dass viele weitere folgenschwere Fehler aufgrund von Klassifizierung wahrscheinlich unbekannt bleiben und eine gründliche Erfassung der Mängel von KI behindern. ## Agenturen im Zaum halten, nicht nur KI Als Antwort auf eine Frage der Ranking Member des Unterausschusses, **Delia Ramirez**, D-Ill., formulierte Dr. Guariglia die breitere Perspektive der **EFF**: „Auf dieser Ebene ist die Frage nicht, wie wir die KI im Zaum halten, sondern wie wir die Agenturen im Zaum halten, die KI auf die amerikanische Öffentlichkeit loslassen würden.“ Diese Aussage fasst den Fokus der **EFF** auf die staatliche Rechenschaftspflicht und die Notwendigkeit für Agenturen, Zurückhaltung zu üben und eine robuste Aufsicht zu implementieren, wenn sie den Einsatz von KI in Erwägung ziehen. Leser können die vollständige vorbereitete Aussage von Dr. Guariglia [hier](https://www.eff.org/document/06-04-2024-matthew-guariglias-prepared-testimony-house-subcommittee) einsehen.