Un juge néerlandais a ordonné jeudi à l'assistant IA **Grok** de cesser de créer des images dénudées sans le consentement des personnes concernées, arguant que les efforts de l'entreprise pour freiner cette pratique n'avaient peut-être pas été suffisants. **Grok** — détenu par **xAI** d'**Elon Musk** — sera contraint de payer des dommages et intérêts de 100 000 € (115 000 $) par jour s'il ne se conforme pas, selon la décision, qui a également indiqué que des dommages allant jusqu'à 10 millions d'euros (11,5 millions de dollars) pourraient être infligés si **xAI** ne rectifie pas le problème. **X** et **Grok** ont fait l'objet de critiques plus tôt cette année pour avoir permis aux utilisateurs de générer et de partager des images modifiées d'individus — y compris des mineurs — dans des contextes sexuels. La **Commission européenne** enquête sur ces entreprises, et le **Conseil européen** a dévoilé une proposition visant à modifier le règlement européen sur l'IA pour inclure une interdiction des outils de nudification par IA. **X** a fait des efforts pour arrêter la propagation des images dénudées non consensuelles, a déclaré le juge, mais a ajouté que les preuves apportées par le plaignant — une organisation à but non lucratif nommée **Offlimits** — suggèrent qu'il n'est pas clair si les changements fonctionnent réellement. La plateforme devrait être soumise à des amendes pour « garantir que les défendeurs font réellement ce qu'ils prétendent rechercher », a déclaré le juge. De plus, le tribunal a interdit à **xAI** de « produire, distribuer, offrir, afficher publiquement et/ou posséder des images sexuelles aux Pays-Bas dans la mesure où cela implique l'utilisation d'une fonctionnalité par laquelle des images sont générées qui se qualifient de pornographie infantile en vertu de la loi néerlandaise ». Un porte-parole de **X** n'a pas immédiatement répondu à une demande de commentaire. **X** a déclaré avoir restreint la fonction de nudification de **Grok** en janvier après un tollé mondial face aux millions d'images dénudées que le chatbot a partagées en peu de temps, à partir de fin décembre. Dans un communiqué publié à l'époque, **X** a déclaré : « nous restons déterminés à faire de **X** une plateforme sûre pour tous et continuons d'avoir une tolérance zéro pour toute forme d'exploitation sexuelle d'enfants, de nudité non consensuelle et de contenu sexuel non désiré ». **Offlimits** s'est félicité de la décision du tribunal. « Aujourd'hui, le tribunal a tracé une ligne claire : la technologie n'est pas une licence pour violer les droits de l'homme en ligne », a déclaré **Robbert Hoving**, directeur général d'**Offlimits**, dans un communiqué. « Comme **Grok** ne tient pas compte de la localisation de la victime, cette décision révolutionnaire s'étend au-delà des frontières néerlandaises ; elle s'applique dans le monde entier. » « Le message est clair : la dignité humaine prime toujours sur le gain commercial. »