Nudez Deepfake: Uma Crise Global em Escolas Explorando IA
Uma tendência perturbadora está emergindo globalmente: adolescentes do sexo masculino estão usando aplicativos 'nudify' com IA para criar imagens falsas de nudez de suas colegas de classe, muitas vezes obtidas de redes sociais. Este abuso está impactando escolas em todo o mundo, com centenas de alunos afetados e levantando sérias preocupações sobre a acessibilidade e o uso indevido da tecnologia de IA.
Geralmente começa com uma foto baixada de redes sociais.
Em todo o mundo, adolescentes do sexo masculino estão salvando imagens do **Instagram** e **Snapchat** de garotas que conhecem da escola e usando aplicativos "nudify" prejudiciais para criar fotos ou vídeos falsos de nudez delas. Esses deepfakes podem ser rapidamente compartilhados em escolas inteiras, deixando as vítimas sentindo-se humilhadas, violadas, sem esperança e com medo de que as imagens as assombrem para sempre.
A crise de deepfake que atinge as escolas começou lentamente há alguns anos, mas cresceu consideravelmente à medida que a tecnologia usada para criar as imagens explícitas se tornou mais acessível. Incidentes de abuso sexual com deepfakes atingiram cerca de 90 escolas globalmente e impactaram mais de 600 alunos, de acordo com uma revisão de incidentes relatados publicamente pela **WIRED** e **Indicator**, uma publicação focada em engano digital e desinformação.
As descobertas mostram que, desde 2023, alunos escolares – na maioria meninos do ensino médio – em pelo menos 28 países foram acusados de usar IA generativa para atingir seus colegas com deepfakes sexualizados. As imagens explícitas, contendo menores, são consideradas material de abuso sexual infantil (CSAM). Acredita-se que esta análise seja a primeira a revisar casos reais de abuso de deepfake por IA ocorrendo em escolas globalmente.
No geral, a análise mostra o alcance mundial da tecnologia prejudicial de "nudificação" por IA, que pode render milhões de dólares por ano aos seus criadores, e mostra que em muitos incidentes, escolas e autoridades policiais muitas vezes não estão preparadas para responder aos sérios incidentes de abuso sexual.
Na América do Norte, houve quase 30 casos relatados de abuso sexual com deepfake desde 2023 – incluindo um com mais de 60 vítimas alegadas, um onde a vítima foi temporariamente expulsa da escola e outros onde alunos de várias escolas foram supostamente alvejados simultaneamente. Mais de 10 casos foram relatados publicamente na América do Sul, mais de 20 na Europa e mais uma dúzia na Austrália e Ásia Oriental combinadas.
<figure data-testid="IframeEmbed"><div data-testid="IframeEmbedContainer" data-hasconsent="true"><p>A coleta e análise de dados para este mapa foram produzidas em parceria entre WIRED e Indicator.</p></div></figure>
A verdadeira escala do abuso sexual com deepfake ocorrendo em escolas é provavelmente muito maior. Uma pesquisa da agência infantil **Unicef** das **Nações Unidas** estima que 1,2 milhão de crianças tiveram deepfakes sexuais criados delas no ano passado. Um em cada cinco jovens na Espanha disse a pesquisadores da **Save the Children** que nudes deepfake foram criados delas. O grupo de proteção infantil **Thorn** descobriu que um em cada oito adolescentes conhece alguém que foi alvo, e em 2024, 15% dos alunos pesquisados pelo **Center for Democracy and Technology** disseram saber sobre deepfakes gerados por IA ligados às suas escolas.
"Acho que seria difícil encontrar uma escola que não tenha sido afetada por isso", diz Lloyd Richardson, diretor de tecnologia do Canadian Centre for Child Protection. "A coisa mais importante é como podemos ajudar as vítimas quando isso acontece, porque os efeitos disso podem ser massivos."
A análise da WIRED e Indicator examinou incidentes que foram relatados publicamente com detalhes específicos, como locais de escolas e contagens potenciais de vítimas. Na maioria, são relatos em inglês, com falta de dados disponíveis para muitos países. Muitos incidentes nunca são relatados na imprensa, podem não incluir detalhes específicos se o forem, e em vez disso podem ser tratados privadamente por escolas e autoridades policiais.
No entanto, existem padrões claros que aparecem. Em quase todos os casos, adolescentes do sexo masculino são supostamente responsáveis pela criação das imagens ou vídeos. Eles são frequentemente compartilhados em aplicativos de redes sociais ou via mensagens instantâneas com colegas de classe. E eles são extremamente prejudiciais para as vítimas. "Tenho medo de que toda vez que me veem, vejam aquelas fotos", disse uma vítima em Iowa no início deste ano. "Ela tem chorado. Ela não tem comido", disse a família de outra.
Em várias instâncias, as vítimas muitas vezes não querem ir à escola ou ter que encarar aqueles que criaram imagens ou vídeos explícitos delas. "Ela se sente sem esperança porque sabe que essas imagens provavelmente chegarão à internet e atingirão pedófilos", diz o advogado Shane Vogt, e três estudantes da Yale Law School, Catharine Strong, Tony Sjodin e Suzanne Castillo, que estão representando uma adolescente anônima de Nova Jersey em ação legal contra um serviço de "nudificação". "Ela está severamente angustiada com o conhecimento de que essas imagens estão por aí, e ela terá que monitorar a internet pelo resto da vida para impedir que elas se espalhem."