Trotz Versprechungen, Einschränkungen gegen schädliche sexualisierte Deepfakes einzuführen, ist Elon Musks **Grok Imagine** generative KI-System weiterhin an der Erstellung und dem Hosting nicht-einvernehmlicher expliziter Bilder und Videos beteiligt. Eine aktuelle Analyse öffentlicher Kreationen ergab Dutzende von sexualisierten KI-Bildern und -Videos, einige fotorealistisch und mit plausiblen realen Szenarien, darunter Prominente und eine Politikerin. ### Anhaltende Probleme und öffentliche Weitergabe **WIRED** überprüfte Hunderte von öffentlichen **Grok Imagine**-Links, die auf Grok.com gehostet wurden, und fand zahlreiche Fälle von nicht-einvernehmlichen expliziten Inhalten. Einige dieser Links wurden anschließend auf **X** (ehemals Twitter) geteilt, was Bedenken hinsichtlich der Fähigkeit der Plattform aufwirft, die Verbreitung solcher Materialien zu kontrollieren. Obwohl die Generierungen standardmäßig nicht öffentlich zu sein scheinen, stellen die entdeckten Beiträge eine Momentaufnahme des potenziellen Missbrauchs dar. ### Unzureichende Schutzmaßnahmen im Vergleich zu Wettbewerbern Experten wie **Henry Ajder**, ein Deepfake-Spezialist, kritisieren die Sicherheitsvorkehrungen von **Grok** und stellen fest, dass diese im Vergleich zu anderen Mainstream-generativen KI-Tools unzureichend sind. „Obwohl Grok und X möglicherweise einige Änderungen an ihrem Modell vorgenommen haben… haben sie immer noch keine ausreichende Arbeit geleistet, um es auf den Standard der anderen verfügbaren Mainstream-Tools zu bringen“, kommentierte Ajder. ### Rechtliche Herausforderungen und behördliche Überprüfung **xAI** sah sich seit Januar einer Welle von Klagen und behördlicher Überprüfung gegenüber, als die Integration von **Grok** auf **X** zu einer Flut von „Nudification“-Bildern führte. Diese Fälle umfassten angeblich die Sexualisierung von Bildern von offensichtlichen Minderjährigen, laut einer Sammelklage in Kalifornien. Trotz der Behauptungen von **xAI**, Schutzmaßnahmen implementiert und kinderpornografisches Material (**CSAM**) verboten zu haben, bestehen die Probleme fort. Nach Anfragen von **WIRED** wurden einige explizite Bilder und Videos auf Grok.com entfernt, und **Grok Imagine**-Links, die auf **X** geteilt wurden, wurden wegen Richtlinienverstößen entfernt. **X**'s Sicherheitskonto bekräftigte: „Wir verbieten Nutzern strengstens die Erstellung nicht-einvernehmlicher expliziter Deepfakes und die Nutzung unserer Tools, um reale Personen zu entkleiden.“ ### Beunruhigende Inhalte und Umgehungstaktiken Unter den identifizierten Inhalten zeigten Bilder und Videos von Prominenten und der US-Abgeordneten **Alexandria Ocasio-Cortez** in sexuell anzüglichen und nicht-einvernehmlichen Szenarien. Prompts, die zur Erstellung einiger dieser Materialien verwendet wurden, wurden von Wettbewerbern wie **OpenAI**s **ChatGPT**, **Meta AI** und **Anthropic**s **Claude** als unangemessen abgelehnt. Während **Google**s **Gemini** ein ähnliches Bild erstellte, lehnte es einen weiteren Prompt ab. Bemerkenswerterweise schien ein **Grok Imagine**-Video, das ebenfalls auf **X** gepostet wurde, **Ashley St. Clair**, eine ehemalige Partnerin von **Musk** und Mutter eines seiner Kinder, im Bikini tanzend darzustellen. St. Clair leitete im Januar rechtliche Schritte gegen **xAI** ein, nachdem ähnliche Deepfakes angeblich auf **X** aufgetaucht waren. **Carrie Goldberg**, Anwältin von St. Clair, hob die beispiellose Natur der sofortigen Veröffentlichung digitaler Nacktbilder durch KI hervor. **Imran Ahmed**, CEO des **Center for Countering Digital Hate (CCDH)**, teilte diese Bedenken und behauptete, **Elon Musk** habe „wissentlich eine perverse Funktion zu seiner Plattform hinzugefügt, die Nutzern hilft, Frauen und Kinder mit einem Klick zu entkleiden“. ### „Spicy“- und „Unhinged“-Modi unter Beschuss Im Gegensatz zu anderen generativen KI-Systemen haben **Grok** und **xAI** die Zulassung sexueller Inhalte nicht gescheut und zuvor die Modi „Spicy“ und „Unhinged“ eingeführt. **Musk** hat erklärt, dass **Grok** „Oberkörper-Nacktheit von imaginären erwachsenen Menschen zulassen soll“ und mit Inhalten von Filmen mit R-Rating übereinstimmen soll. Die neuesten Nutzungsbedingungen von **xAI** erwähnen, dass das System mit „sexuellen Situationen“ antworten kann, verbieten den Nutzern jedoch gleichzeitig, „Schaden zu verursachen oder missbräuchliches Verhalten zu begehen“. Forscher weisen darauf hin, dass Änderungen, die von **X** und **Grok** eingeführt wurden, zwar die Erstellung von „Nudification“-Bildern von echten Personen erschwert haben, Nutzer jedoch Umwege bei Beschreibungen in Prompts verwenden, um Schutzmaßnahmen zu umgehen, was zur Erstellung expliziter, vollständig KI-generierter Inhalte führt. ### Finanzielle und regulatorische Konsequenzen Vor dem Börsengang von **SpaceX** hat das Unternehmen potenzielle Investoren gewarnt und 530 Millionen US-Dollar zur Bewältigung laufender Rechtsstreitigkeiten, einschließlich derer, die mit **Grok** verbunden sind, zurückgestellt. Eine Einreichung im Mai räumte die „erhöhten Risiken, einschließlich Reputationsschäden, der Erstellung potenziell expliziter Inhalte und Fehlinformationen oder täuschender Ausgaben, potenziell nicht-einvernehmlicher oder ausbeuterischer Bilder“ ein. Darüber hinaus hat der **Privacy Commissioner of Canada** kürzlich vorläufige Ergebnisse einer Untersuchung der Deepfake-Verstöße von **xAI** und **Grok** veröffentlicht. Die Untersuchung behauptet, dass **xAI** Kanadas bundesstaatliches Datenschutzgesetz für den privaten Sektor verletzt hat, indem es „von Anfang an keine angemessenen Schutzmaßnahmen implementiert hat“. Obwohl **xAI** behauptet, neue Schutzmaßnahmen eingeführt zu haben, deuten die anhaltenden Probleme auf eine erhebliche Lücke zwischen Politik und Praxis hin.