# xAI will Deepfake-Opfer in wegweisender Klage enttarnen **xAI**, das von **Elon Musk** gegründete Unternehmen für künstliche Intelligenz, drängt auf die öffentliche Identifizierung von vier Personen, die behaupten, mit sexualisierten Deepfake-Bildern, die von seinem Chatbot **Grok** generiert wurden, ins Visier genommen worden zu sein. Diese Forderungen sind Teil einer bundesweiten Sammelklage, wobei neu eingereichte Gerichtsunterlagen den schweren emotionalen Stress offenlegen, den die Kläger erlitten haben. ## Kläger befürchten Doxing und weitere Belästigung Die vier Hauptkläger, derzeit identifiziert als **South Carolina Doe**, **South Carolina Roe**, **New Jersey Doe** und **Ohio Doe**, reichten am 29. Mai eidesstattliche Versicherungen ein, in denen sie die emotionale Belastung durch die angeblichen Deepfakes, die Anfang des Jahres erstellt wurden, detailliert darlegen. Sie äußern tiefgreifende Angst vor weiterer Online-Belästigung und Doxing, sollten sie gezwungen sein, ihre wahren Namen in der Klage gegen **xAI** preiszugeben. **Sophia Rios**, eine Anwältin, die die Personen für die Anwaltskanzlei **Berger Montague** vertritt, kritisierte die Haltung von **xAI** in einer kürzlich eingereichten Klageschrift. „Nachdem sie ihnen die Kleider vom Leib gerissen hat, versucht **xAI** nun, den Klägern ihre Pseudonyme zu entreißen, in einem offensichtlichen Versuch, die Kläger einzuschüchtern und sie zur Rücknahme der Klage zu bewegen, indem die gleichen Schäden, die sie beheben wollen, noch verstärkt werden“, schrieb Rios. Sie fügte hinzu, dass die Forderung von **xAI** darauf hindeute, dass der von ihnen begangene Missbrauch „keine große Sache“ sei. ## Groks umstrittene Geschichte mit Deepfakes Die Kontroverse begann im Januar, als **Grok**, das Musk gehört, weltweite Empörung auslöste. Zahlreiche Nutzer nutzten das generative KI-System, um nicht einvernehmliche Deepfake-Bilder zu erstellen, die hauptsächlich Frauen „entblößt“ oder im Bikini zeigten. Beunruhigenderweise schienen einige dieser Bilder Kinder zu sexualisieren. Analysen des **Center for Countering Digital Hate** ergaben, dass **Grok** innerhalb von nur 11 Tagen zur Generierung von etwa 3 Millionen sexualisierten Bildern verwendet wurde, wobei 23.000 potenziell Kinder betrafen. Angesichts einer Welle von Klagen und zunehmender behördlicher Überprüfung weltweit hat **SpaceX**, dem **xAI** jetzt gehört, Berichten zufolge über 500 Millionen US-Dollar bereitgestellt, um die potenziellen Folgen dieser Probleme zu bewältigen. ## Der Rechtsstreit um Anonymität Die Sammelklage gegen **xAI** wurde ursprünglich im Januar mit einem einzigen pseudonymen Hauptkläger eingereicht. Ein Richter am US-Bezirksgericht für den nördlichen Bezirk von Kalifornien genehmigte eine Anordnung, die die Verwendung eines Jane Doe-Pseudonyms erlaubte. Der Fall wurde Anfang Mai mit den vier aktuellen pseudonymen Klägern neu eingereicht, wobei die ursprüngliche Jane Doe zu **South Carolina Doe** wurde. Die rechtlichen Erklärungen der Kläger deuten auf die Bereitschaft hin, ihre wahren Namen und persönlichen Daten privat an **xAI** weiterzugeben, aber sie bestehen auf der Verwendung von Pseudonymen in öffentlichen Einreichungen, um ihre Privatsphäre zu schützen, öffentliche Assoziationen mit den Bildern zu vermeiden und weitere Online-Belästigungen zu mindern. Die Deepfake-Bilder selbst wurden nicht in öffentliche Gerichtsakten aufgenommen. Mitte Mai reichte **xAI** zwei Anträge beim Bundesbezirksgericht ein, mit dem Ziel, die Entscheidung aufzuheben, die die Verwendung von Pseudonymen zuließ. Die Anwälte von **xAI** argumentieren, dass Zivilgerichtsgesetze im Allgemeinen verlangen, dass alle Parteien namentlich genannt werden, wobei Ausnahmen selten sind. Sie behaupten ein öffentliches Interesse an den Identitäten derjenigen, die das Unternehmen verklagen, führen an, dass keine spezifischen Beweise für weitere Schäden vorgelegt wurden, und schlagen vor, dass die Versiegelung der Deepfake-Bilder Datenschutzbedenken ausräumen sollte. „Wenn man das Deepfake-Bild selbst außer Acht lässt – da es unter Verschluss bleiben wird –, gibt es nichts Wesentlich stigmatisierendes daran, die Tatsache preiszugeben, dass ein Deepfake-Bild von **South Carolina Doe** erstellt wurde, ohne das Bild selbst preiszugeben“, schrieben die Anwälte von **xAI** in einer Einreichung vom 15. Mai. „Infolgedessen beinhaltet dieser Fall einfach nicht die Art von zwingenden Datenschutzinteressen, die traditionell als pseudonymitätserforderlich anerkannt werden.“ ## Die menschlichen Kosten und Expertenmeinung **Danielle Citron**, eine Rechtsprofessorin an der University of Virginia School of Law, die sich auf digitale Gewalt spezialisiert hat, warnt davor, dass die Zwangsbeschäftigung von Klägern in Datenschutzklagen dazu führen kann, dass Klagen fallen gelassen werden, was eine „inakzeptable und ungerechte“ Situation schaffe. „Die Zwangsbeschäftigung von Klägern in Datenschutzklagen trägt so wenig zur Transparenz des Gerichts bei und so viel zur Abschreckung von Klagen“, erklärte Citron. Tatsächlich haben alle vier pseudonymen Kläger angegeben, dass sie erwägen würden, sich aus dem Verfahren zurückzuziehen, wenn ihre Namen öffentlich bekannt gegeben würden. Ihre Anwälte bekräftigten in jüngsten Einreichungen, dass der Fall „hochgradig persönliche und peinliche Deepfakes betrifft, die Kläger darstellen und ohne ihre Zustimmung verbreitet wurden“. **South Carolina Doe** beschrieb die Entdeckung eines angeblichen Deepfakes von sich selbst, „entblößt in einem freizügigen Bikini“, online und äußerte Ekel und Angst davor, wie Arbeitgeber oder Kollegen reagieren könnten, und vor der Möglichkeit weiterer Online-Angriffe. „Ich war auch von Ekel überwältigt bei dem Gedanken, was die Person, die **Grok** gebeten hatte, das Deepfake zu erstellen, mit dem Foto machte“, heißt es in der eidesstattlichen Versicherung. Die Einreichung beschreibt weiter die beunruhigende Aussicht: „Wenn ich gezwungen wäre, meinen Namen öffentlich als Teil dieses Falles preiszugeben, würde ich befürchten, dass diejenigen, die **Elon Musk**, seine Unternehmen und **Grok** unterstützen, die ich online als sehr lautstark beobachtet habe, meinen Namen in den öffentlichen Aufzeichnungen finden, ihn verbreiten, mich doxen und Vergeltungsmaßnahmen gegen mich ergreifen würden, indem sie zusätzliche und extremere Deepfakes von mir erstellen.“ **New Jersey Doe**, ein männlicher Kläger, berichtete, dass er **Grok** gebeten hatte, keine Bilder von ihm ohne Zustimmung zu erstellen, nur um am nächsten Tag zwei Deepfake-Bilder von sich selbst zu entdecken, eines davon in einer sehr expliziten Weise dargestellt. Er glaubt, dass seine Anfrage an **Grok** versehentlich die Aufmerksamkeit von „Online-Trollen“ auf sich gezogen hat, die dann die KI nutzten, um ihn zu belästigen. In einem besonders verstörenden Bericht behauptet **South Carolina Roe**, dass **Grok** zur Erstellung expliziter Bilder von ihnen als Kind verwendet wurde. Gerichtsakten besagen, dass die Polizei im Februar das Haus von **South Carolina Roe** im Zusammenhang mit strafrechtlichen Anklagen gegen ihren Vater wegen des Besitzes und der Verbreitung von sexuellem Kindesmissbrauchsmaterial (CSAM) durchsuchte. „Ich habe erfahren, dass **Grok** mehrere Bilder von mir in einem Bett mit meinem Vater verändert hat. **Grok** hat die Bilder so verändert, dass es so aussieht, als hätten wir gerade einen sexuellen Akt vollzogen“, heißt es in den Dokumenten, und die Person hat die Bilder selbst nicht gesehen. **South Carolina Roe** beschrieb sich als „verzweifelt“ und befürchtet, dass die Bilder von Online-Raubtieren geteilt werden könnten, und erklärte, dass „die öffentliche Identifizierung von mir mir unermesslichen Schaden zufügen würde“. Das Ergebnis von **xAI**s Antrag, diese Kläger zu entlarven, wird erhebliche Auswirkungen auf die Datenschutzrechte im Zeitalter der generativen KI und der Deepfake-Technologie haben.