Ein niederländischer Richter hat am Donnerstag den KI-Assistenten **Grok** angewiesen, die Erstellung von Nacktbildern ohne Zustimmung der abgebildeten Personen einzustellen, mit der Begründung, dass die Bemühungen des Unternehmens zur Eindämmung dieser Praxis möglicherweise nicht ausgereicht haben. **Grok** – das **Elon Musk**s **xAI** gehört – muss bei Nichteinhaltung eine Strafe von 100.000 € (115.000 $) pro Tag zahlen. Laut dem Urteil könnten sogar bis zu 10 Millionen € (11,5 Millionen $) Strafen verhängt werden, wenn **xAI** das Problem nicht behebt. **X** und **Grok** gerieten Anfang des Jahres in die Kritik, weil sie es Nutzern erlaubten, manipulierte Bilder von Personen – einschließlich Minderjährigen – in sexuellen Kontexten zu generieren und zu teilen. Die **Europäische Kommission** untersucht die Unternehmen, und der **Europäische Rat** hat einen Vorschlag zur Änderung des KI-Gesetzes der EU vorgelegt, der ein Verbot von KI-Nudifikationswerkzeugen vorsieht. **X** hat einige Anstrengungen unternommen, um die Verbreitung nicht einvernehmlicher Nacktbilder zu stoppen, sagte der Richter, fügte aber hinzu, dass Beweise, die von der Klägerin – einer gemeinnützigen Organisation namens **Offlimits** – vorgelegt wurden, darauf hindeuten, dass unklar ist, ob die Änderungen tatsächlich funktionieren. Die Plattform sollte mit Geldstrafen belegt werden, um „sicherzustellen, dass die Beklagten tatsächlich das tun, wofür sie angeblich eintreten“, sagte der Richter. Darüber hinaus verbot das Gericht **xAI**, „sexuelle Bilder in den Niederlanden zu produzieren, zu vertreiben, anzubieten, öffentlich anzuzeigen und/oder zu besitzen, soweit dies die Nutzung einer Funktionalität beinhaltet, bei der Bilder generiert werden, die nach niederländischem Recht als Kinderpornografie gelten“. Ein Sprecher von **X** reagierte nicht sofort auf eine Anfrage nach einem Kommentar. **X** hatte erklärt, die Nudifikationsfunktion von **Grok** im Januar eingeschränkt zu haben, nachdem es eine weltweite Gegenreaktion auf die Millionen von Nacktbildern gab, die der Chatbot kurz nach Beginn des Zeitraums Ende Dezember teilte. In einer damals veröffentlichten Erklärung sagte **X**: „Wir bleiben bestrebt, **X** zu einer sicheren Plattform für alle zu machen und haben weiterhin null Toleranz für jegliche Formen sexueller Ausbeutung von Kindern, nicht einvernehmlicher Nacktheit und unerwünschter sexueller Inhalte“. **Offlimits** begrüßte die Entscheidung des Gerichts. „Heute hat das Gericht eine klare Grenze gezogen: Technologie ist keine Lizenz zur Verletzung von Menschenrechten online“, sagte **Robbert Hoving**, Geschäftsführer von **Offlimits**, in einer Erklärung. „Da **Grok** den Standort des Opfers nicht berücksichtigt, erstreckt sich diese bahnbrechende Entscheidung über die niederländischen Grenzen hinaus; sie gilt weltweit“. „Die Botschaft ist klar: Die Menschenwürde steht immer über dem kommerziellen Gewinn“.