Der Justizausschuss des Senats hat am Donnerstag einen Gesetzentwurf verabschiedet, der künstliche Intelligenz-Unternehmen daran hindern würde, Kindern die Nutzung von KI-Begleitern zu gestatten. ### Details des GUARD Act Das Gesetz, bekannt als **GUARD Act**, verlangt, dass KI-Chatbots Nutzern jeden Alters mitteilen, dass sie keine Menschen sind und keine professionellen Qualifikationen besitzen. Es macht es auch zu einem Verbrechen für KI-Begleiter, wissentlich sexuelle Inhalte von Kindern zu verlangen oder diese zu produzieren. Die Gesetzgebung, eingebracht vom federführenden Senator **Josh Hawley** (R-MO), wurde vom Ausschuss in einer einstimmigen überparteilichen Abstimmung verabschiedet. ### Bedenken hinsichtlich breiter Formulierungen Bürgerrechtsgruppen und Datenschutzbefürworter haben das Gesetz kritisiert, da es ihrer Meinung nach zu breite Formulierungen enthält, die Kinder daran hindern könnten, Chatbots für Hausaufgabenhilfe oder zur Interaktion mit Kundendienstmitarbeitern zu nutzen. Der GUARD Act verlangt eine Altersverifizierung für alle Internetnutzer, die ihr Alter mit einem „angemessenen System zur Altersverifizierung“ bestätigen müssen, bevor sie mit einem KI-Begleiter interagieren. Das Gesetz verlangt auch eine fortlaufende Verifizierung, was bedeutet, dass Nutzer jedes Mal, wenn sie mit einem KI-Begleiter sprechen, einen Ausweis, biometrische Identifikatoren oder Finanzdaten vorlegen müssen. Das Gesetz definiert einen KI-Chatbot breit, indem es jedes System abdeckt, das Antworten liefert, die von den Entwicklern nicht „vollständig vorbestimmt“ sind. ### Mögliche Auswirkungen auf Unternehmen und Nutzer Unternehmen, die gegen das Gesetz verstoßen, können mit einer Geldstrafe von bis zu 100.000 US-Dollar pro Verstoß belegt werden. Bürgerrechtler sagen, dass die hohen Strafen dazu führen werden, dass Unternehmen überreagieren und Minderjährige sogar von der Nutzung grundlegender KI-Tools, einschließlich Suchmaschinen, ausschließen werden. „Angesichts rechtlicher Unsicherheit und erheblicher Haftung werden Unternehmen keine feinen Unterschiede machen. Sie werden den Zugang einschränken, Funktionen limitieren oder Minderjährige ganz sperren“, sagte die **Electronic Frontier Foundation** in einem Blogbeitrag am Montag. „Junge Menschen – und alle Menschen – verdienen Schutz vor wirklich schädlichen Produkten. Aber dieses Gesetz tut das nicht. Es tauscht Privatsphäre, Zugang und nützliche Technologie gegen ein stumpfes System ein, das sein Ziel verfehlt.“ ### Argumente für das Gesetz Die Senatoren hinter dem Gesetz sagen, es adressiere die ernste Bedrohung, die Chatbots für Kinder darstellen. Sie argumentieren, dass Chatbots sexuelle Austausche mit Minderjährigen ermöglicht und einige dazu ermutigt haben, Selbstmord zu begehen. Im Februar 2024 tötete sich der 14-jährige Sewell Setzer, nachdem er mehrere Stunden täglich mit einem Chatbot interagiert hatte, der ihm in ihrem letzten Gespräch sagte, er solle „nach Hause kommen“. Im April 2025 beging der 16-jährige Adam Raine Selbstmord, nachdem er zwanghaft mit **ChatGPT** interagiert hatte. Raines Eltern sagen, der Chatbot habe mit ihm über Selbstmordmethoden gesprochen.