Un juez holandés ordenó el jueves al asistente de IA **Grok** que deje de crear imágenes de desnudos sin el consentimiento de las personas, argumentando que los esfuerzos de la compañía para frenar la práctica podrían no haber sido suficientes. **Grok**, propiedad de **xAI** de **Elon Musk**, se verá obligado a pagar daños de €100,000 ($115,000) al día si no cumple, según la resolución, que también indicó que se podrían imponer daños de hasta €10 millones ($11.5 millones) si **xAI** no rectifica el problema. **X** y **Grok** recibieron críticas a principios de este año por permitir a los usuarios generar y compartir imágenes alteradas de personas —incluidos menores— en contextos sexuales. La **Comisión Europea** está investigando a las compañías, y el **Consejo Europeo** ha presentado una propuesta para modificar la Ley de IA del bloque para incluir la prohibición de herramientas de "nudificación" con IA. **X** ha realizado algunos esfuerzos para detener la difusión de desnudos no consensuados, dijo el juez, pero agregó que la evidencia presentada por la demandante —una organización sin fines de lucro llamada **Offlimits**— sugiere que no está claro si los cambios están funcionando realmente. La plataforma debería ser sujeta a multas para "asegurar que los demandados realmente hagan lo que afirman estar buscando", dijo el juez. Adicionalmente, el tribunal prohibió a **xAI** "producir, distribuir, ofrecer, exhibir públicamente y/o poseer imágenes sexuales en los Países Bajos en la medida en que esto involucre el uso de una funcionalidad mediante la cual se generen imágenes que califiquen como pornografía infantil según la ley holandesa". Un portavoz de **X** no respondió de inmediato a una solicitud de comentarios. **X** ha dicho que restringió la función de "nudificación" de **Grok** en enero después de una reacción global a los millones de imágenes de desnudos que el chatbot compartió en un corto período a partir de finales de diciembre. En un comunicado emitido en ese momento, **X** dijo: "seguimos comprometidos a hacer de **X** una plataforma segura para todos y continuamos teniendo tolerancia cero ante cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado". **Offlimits** celebró la decisión del tribunal. "Hoy, el tribunal ha trazado una línea clara: la tecnología no es una licencia para violar los derechos humanos en línea", dijo **Robbert Hoving**, director general de **Offlimits**, en un comunicado. "Dado que **Grok** no tiene en cuenta la ubicación de la víctima, esta decisión pionera se extiende más allá de las fronteras holandesas; se aplica a nivel mundial". "El mensaje es claro: la dignidad humana siempre está por encima de la ganancia comercial".