Apesar das promessas de introduzir restrições contra deepfakes sexualizados prejudiciais, o sistema de IA generativa **Grok Imagine** de **Elon Musk** continua a ser implicado na criação e hospedagem de imagens e vídeos explícitos não consensuais. Uma análise recente de criações públicas revelou dezenas de imagens e vídeos sexualizados gerados por IA, alguns fotorrealistas e retratando cenários plausíveis do mundo real, incluindo celebridades e um político. ### Problemas Persistentes e Compartilhamento Público A **WIRED** revisou centenas de links públicos do **Grok Imagine** hospedados em Grok.com, encontrando inúmeros casos de conteúdo explícito não consensual. Alguns desses links foram subsequentemente compartilhados no **X** (anteriormente Twitter), levantando preocupações sobre a capacidade da plataforma de controlar a disseminação de tal material. Embora as gerações não pareçam ser públicas por padrão, as postagens descobertas representam um instantâneo do uso indevido potencial. ### Salvaguardas Inadequadas em Comparação com Concorrentes Especialistas como **Henry Ajder**, um especialista em deepfakes, criticam as salvaguardas de segurança do **Grok**, afirmando que elas ficam aquém em comparação com outras ferramentas de IA generativa mainstream. "Embora Grok e X possam ter feito algumas alterações em seu modelo... eles ainda não fizeram um trabalho suficiente para trazê-lo ao padrão das outras ferramentas mainstream disponíveis", comentou Ajder. ### Desafios Legais e Escrutínio Regulatório A **xAI** enfrentou uma onda de processos e escrutínio regulatório desde janeiro, quando a integração do **Grok** no **X** levou a um fluxo de imagens de "nudificação". Essas instâncias supostamente incluíram a sexualização de imagens de aparentes menores de idade, de acordo com um processo coletivo movido na Califórnia. Apesar das alegações da **xAI** de implementar salvaguardas e proibir material de abuso sexual infantil (**CSAM**), os problemas persistem. Após inquéritos da **WIRED**, algumas imagens e vídeos explícitos no Grok.com foram removidos, e os links do **Grok Imagine** compartilhados no **X** foram derrubados por violações de política. A conta de segurança do **X** reiterou: "Proibimos estritamente os usuários de gerar deepfakes explícitos não consensuais e de usar nossas ferramentas para despir pessoas reais." ### Conteúdo Perturbador e Táticas de Circunvenção Entre o conteúdo identificado, imagens e vídeos retratavam celebridades e a Representante dos EUA **Alexandria Ocasio-Cortez** em cenários sexualmente sugestivos e não consensuais. Prompts usados para gerar parte desse material foram rejeitados por concorrentes como **ChatGPT** da **OpenAI**, **Meta AI** e **Claude** da **Anthropic** por serem inadequados. Enquanto o **Gemini** do **Google** criou uma imagem semelhante, ele rejeitou outro prompt. Notavelmente, um vídeo do **Grok Imagine**, também postado no **X**, parecia retratar **Ashley St. Clair**, uma ex-parceira de **Musk** e mãe de um de seus filhos, dançando de biquíni. St. Clair iniciou uma ação legal contra a **xAI** em janeiro após deepfakes semelhantes supostamente aparecerem no **X**. **Carrie Goldberg**, advogada de St. Clair, destacou a natureza sem precedentes da publicação instantânea de imagens digitais nuas via IA. **Imran Ahmed**, CEO do **Center for Countering Digital Hate (CCDH)**, ecoou essas preocupações, alegando que **Elon Musk** "adicionou propositalmente um recurso perverso à sua plataforma que ajuda os usuários a despir mulheres e crianças com um clique de botão". ### Modos "Spicy" e "Unhinged" Sob Fogo Ao contrário de outros sistemas de IA generativa, **Grok** e **xAI** não evitaram permitir conteúdo sexual, tendo introduzido anteriormente os modos "Spicy" e "Unhinged". **Musk** afirmou que o **Grok** "deve permitir nudez da parte superior do corpo de humanos adultos imaginários" e ser consistente com o conteúdo de filmes com classificação R. Os termos de serviço mais recentes da **xAI** mencionam que o sistema pode responder com "situações sexuais", ao mesmo tempo em que proíbe os usuários de "causar danos ou se envolver em atividades abusivas". Pesquisadores indicam que, embora as mudanças introduzidas pelo **X** e **Grok** tenham tornado mais difícil criar imagens de "nudificação" de pessoas reais, os usuários estão empregando descrições indiretas em prompts para contornar as salvaguardas, levando à criação de conteúdo explícito, inteiramente gerado por IA. ### Consequências Financeiras e Regulatórias Antes do IPO da **SpaceX**, a empresa alertou potenciais investidores, reservando US$ 530 milhões para lidar com reclamações legais em andamento, incluindo aquelas ligadas ao **Grok**. Um documento de maio reconheceu os "riscos elevados, incluindo danos à reputação, a geração de conteúdo potencialmente explícito e desinformação ou resultados enganosos, imagens potencialmente não consensuais ou exploratórias". Além disso, o **Comissário de Privacidade do Canadá** publicou recentemente descobertas preliminares de uma investigação sobre as transgressões de deepfake da **xAI** e do **Grok**. A investigação alega que a **xAI** violou a lei federal de privacidade do setor privado do Canadá por não implementar "salvaguardas apropriadas desde o início". Embora a **xAI** afirme ter introduzido novas salvaguardas, os problemas contínuos sugerem uma lacuna significativa entre a política e a prática.