Um juiz holandês ordenou na quinta-feira que o assistente de IA **Grok** pare de criar imagens nuas sem o consentimento dos sujeitos, argumentando que os esforços da empresa para conter a prática podem não ter sido suficientes. **Grok** — que pertence à **xAI** de **Elon Musk** — será forçado a pagar multas de €100.000 ($115.000) por dia se não cumprir, de acordo com a decisão, que também afirmou que multas de até €10 milhões ($11,5 milhões) poderiam ser impostas se a **xAI** não retificar o problema. **X** e **Grok** foram criticados no início deste ano por permitirem que usuários gerassem e compartilhassem imagens alteradas de indivíduos — incluindo menores — em contextos sexuais. A **Comissão Europeia** está investigando as empresas, e o **Conselho Europeu** apresentou uma proposta para modificar o Ato de IA do bloco para incluir a proibição de ferramentas de "nudificação" por IA. **X** fez algum trabalho para interromper a disseminação de nudes não consensuais, disse o juiz, mas acrescentou que evidências apresentadas pela autora — uma organização sem fins lucrativos chamada **Offlimits** — sugerem que não está claro se as mudanças estão realmente funcionando. A plataforma deve ser sujeita a multas para "garantir que os réus realmente façam o que afirmam estar buscando", disse o juiz. Adicionalmente, o tribunal baniu a **xAI** de "produzir, distribuir, oferecer, exibir publicamente e/ou possuir imagens sexuais na Holanda, na medida em que isso envolva o uso de funcionalidade pela qual imagens são geradas que se qualificam como pornografia infantil sob a lei holandesa." Um porta-voz da **X** não respondeu imediatamente a um pedido de comentário. **X** afirmou que restringiu a função de "nudificação" do **Grok** em janeiro, após uma reação global a milhões de imagens nuas que o chatbot compartilhou em um curto período, começando no final de dezembro. Em um comunicado divulgado na época, **X** disse: "permanecemos comprometidos em tornar **X** uma plataforma segura para todos e continuamos a ter tolerância zero para qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado." **Offlimits** saudou a decisão do tribunal. "Hoje, o tribunal traçou uma linha clara: a tecnologia não é uma licença para violar direitos humanos online", disse **Robbert Hoving**, diretor-gerente da **Offlimits**, em um comunicado. "Como **Grok** não leva em consideração a localização da vítima, esta decisão inovadora se estende além das fronteiras holandesas; ela se aplica mundialmente." "A mensagem é clara: a dignidade humana sempre vem antes do ganho comercial."