# xAI busca desmascarar vítimas de deepfakes em processo histórico **xAI**, a empresa de inteligência artificial fundada por **Elon Musk**, está pressionando pela identificação pública de quatro indivíduos que afirmam ter sido alvo de imagens sexualizadas em deepfake geradas por seu chatbot, **Grok**. Essas exigências vêm como parte de um processo federal coletivo, com documentos judiciais recém-apresentados revelando o grave sofrimento emocional suportado pelos autores. ## Autores temem doxing e mais assédio Os quatro principais reclamantes, atualmente identificados como **South Carolina Doe**, **South Carolina Roe**, **New Jersey Doe** e **Ohio Doe**, apresentaram declarações juramentadas em 29 de maio detalhando o impacto emocional dos supostos deepfakes criados no início deste ano. Eles expressam profundo medo de mais assédio online e doxing caso sejam obrigados a revelar seus nomes reais no processo contra a **xAI**. **Sophia Rios**, advogada representando os indivíduos pela firma de advocacia **Berger Montague**, criticou a posição da **xAI** em um recente arquivamento. "Tendo tirado suas roupas, a **xAI** agora busca tirar dos autores seus pseudônimos em um esforço óbvio para intimidar os autores a desistirem do litígio, agravando os mesmos danos que buscam remediar", escreveu Rios. Ela acrescentou que o pedido da **xAI** sugere que "o abuso que perpetuou não é grande coisa". ## Histórico controverso do Grok com deepfakes A controvérsia começou em janeiro, quando o **Grok**, de propriedade de **Musk**, gerou indignação global. Numerosos usuários exploraram o sistema de IA generativa para criar imagens de deepfake não consensuais, principalmente retratando mulheres "despidas" ou de biquíni. Perturbadoramente, algumas dessas imagens pareciam sexualizar crianças. Análises do **Center for Countering Digital Hate** afirmaram que o **Grok** foi usado para gerar aproximadamente 3 milhões de imagens sexualizadas em apenas 11 dias, com 23.000 potencialmente envolvendo crianças. Enfrentando uma onda de processos e crescente escrutínio regulatório em todo o mundo, a **SpaceX**, que agora possui a **xAI**, supostamente alocou mais de US$ 500 milhões para gerenciar as potenciais consequências desses problemas. ## A batalha legal pela anonimidade O processo coletivo contra a **xAI** foi inicialmente apresentado em janeiro com um único autor principal anônimo. Um juiz do Tribunal Distrital dos EUA para o Distrito Norte da Califórnia aprovou uma ordem permitindo o uso de um pseudônimo Jane Doe. O caso foi posteriormente reaberto no início de maio com os quatro autores anônimos atuais, com a Jane Doe original se tornando **South Carolina Doe**. As declarações legais dos autores indicam uma disposição em divulgar seus nomes reais e informações pessoais à **xAI** privadamente, mas eles insistem em usar pseudônimos em arquivamentos públicos para proteger sua privacidade, evitar associação pública com as imagens e mitigar mais assédio online. As próprias imagens de deepfake não foram incluídas em arquivamentos legais públicos. Em meados de maio, a **xAI** apresentou duas moções ao tribunal distrital federal, buscando derrubar a decisão que permitiu o uso de pseudônimos. Advogados da **xAI** argumentam que as leis de tribunais civis geralmente exigem que todas as partes sejam nomeadas, com exceções sendo raras. Eles afirmam um interesse público nas identidades daqueles que processam a empresa, alegam que nenhuma evidência específica de danos adicionais foi apresentada e sugerem que manter as imagens de deepfake seladas deveria aliviar as preocupações com a privacidade. "Fatorando a própria imagem de deepfake - pois ela permanecerá sob sigilo - não há nada inerentemente estigmatizante em revelar o fato de que uma imagem de deepfake foi criada de **South Carolina Doe** sem revelar a própria imagem", escreveram os advogados da **xAI** em um arquivamento de 15 de maio. "Como resultado, este caso simplesmente não envolve os tipos de interesses de privacidade convincentes tradicionalmente reconhecidos como exigindo pseudonimato." ## O custo humano e a opinião de especialistas **Danielle Citron**, professora de direito da University of Virginia School of Law especializada em abuso digital, adverte que forçar autores em ações de privacidade a revelar seus nomes pode levar ao abandono dos processos, criando uma situação "inaceitável e injusta". "Forçar autores em ações de privacidade a processar em seus nomes faz muito pouco pela transparência judicial e muito para dissuadir litígios", afirmou Citron. De fato, todos os quatro autores anônimos indicaram que considerariam se retirar dos procedimentos caso seus nomes fossem revelados publicamente. Seus advogados reiteraram em arquivamentos recentes que o caso envolve "deepfakes altamente pessoais e embaraçosos retratando os autores que foram disseminados sem seu consentimento". **South Carolina Doe** descreveu a descoberta de um suposto deepfake de si mesma "despida em um biquíni revelador" online, expressando nojo e medo sobre como empregadores ou colegas poderiam reagir, e o potencial de mais alvos online. "Fiquei também dominada pelo nojo com a ideia do que o indivíduo que pediu ao **Grok** para criar o deepfake estava fazendo com a foto", diz a declaração juramentada. O arquivamento detalha ainda a perspectiva assustadora: "Se eu fosse forçada a revelar meu nome publicamente como parte deste caso, eu temeria que aqueles que apoiam **Elon Musk**, suas empresas e o **Grok**, que observei serem muito vocais online, encontrassem meu nome no registro público, o disseminassem, me fizessem doxing e retaliassem contra mim criando deepfakes adicionais e mais extremos de mim." **New Jersey Doe**, um autor do sexo masculino, relatou ter pedido ao **Grok** para não criar imagens dele sem consentimento, apenas para descobrir duas imagens de deepfake dele no dia seguinte, uma retratando-o de maneira altamente explícita. Ele acredita que seu pedido ao **Grok** inadvertidamente atraiu a atenção de "trolls online" que então usaram a IA para assediá-lo. Em um relato particularmente perturbador, **South Carolina Roe** alega que o **Grok** foi usado para criar imagens explícitas dele como criança. Arquivamentos judiciais afirmam que em fevereiro, a polícia revistou a casa de **South Carolina Roe** em conexão com acusações criminais contra seu pai relacionadas à posse e distribuição de material de abuso sexual infantil (CSAM). "Aprendi que o **Grok** alterou várias imagens me retratando em uma cama com meu pai. O **Grok** alterou as imagens para fazer parecer que havíamos acabado de consumar um ato sexual", afirmam os documentos, acrescentando que o indivíduo não viu as imagens. **South Carolina Roe** descreveu estar "desolado" e teme que as imagens possam ser compartilhadas online por predadores, afirmando que "Me identificar publicamente me causaria danos incalculáveis". O resultado da moção da **xAI** para desmascarar esses autores terá implicações significativas para os direitos de privacidade na era da IA generativa e da tecnologia de deepfake.