Desnudez Deepfake: Una Crisis Global en Escuelas que Explota la IA
Una tendencia alarmante emerge a nivel mundial: adolescentes varones utilizan aplicaciones de 'nudify' impulsadas por IA para crear imágenes falsas de desnudos de sus compañeras, a menudo obtenidas de redes sociales. Este abuso afecta a escuelas en todo el mundo, con cientos de alumnos impactados y planteando serias preocupaciones sobre la accesibilidad y el uso indebido de la tecnología de IA.
Normalmente comienza con una foto descargada de redes sociales.
Alrededor del mundo, adolescentes varones guardan imágenes de **Instagram** y **Snapchat** de chicas que conocen de la escuela y utilizan aplicaciones dañinas de "nudify" para crear fotos o videos falsos de desnudos de ellas. Estos deepfakes pueden compartirse rápidamente en escuelas enteras, dejando a las víctimas sintiéndose humilladas, violadas, sin esperanza y asustadas de que las imágenes las persigan para siempre.
La crisis de deepfakes que afecta a las escuelas comenzó lentamente hace un par de años, pero desde entonces ha crecido considerablemente a medida que la tecnología utilizada para crear las imágenes explícitas se ha vuelto más accesible. Los incidentes de abuso sexual con deepfakes han afectado a alrededor de 90 escuelas a nivel mundial y han impactado a más de 600 alumnos, según una revisión de incidentes reportados públicamente por **WIRED** e **Indicator**, una publicación centrada en el engaño digital y la desinformación.
Los hallazgos muestran que desde 2023, escolares —la mayoría varones en escuelas secundarias— en al menos 28 países han sido acusados de usar IA generativa para dirigirse a sus compañeras con deepfakes sexualizados. Las imágenes explícitas, que contienen menores, se consideran material de abuso sexual infantil (CSAM). Se cree que este análisis es el primero en revisar casos del mundo real de abuso de deepfakes con IA que ocurren en escuelas a nivel mundial.
En general, el análisis muestra el alcance mundial de la dañina tecnología de "nudificación" con IA, que puede generar a sus creadores millones de dólares al año, y demuestra que en muchos incidentes, las escuelas y los funcionarios encargados de hacer cumplir la ley a menudo no están preparados para responder a los graves incidentes de abuso sexual.
En América del Norte, ha habido casi 30 casos reportados de abuso sexual con deepfakes desde 2023, incluido uno con más de 60 presuntas víctimas, otro en el que la víctima fue temporalmente expulsada de la escuela, y otros en los que alumnos de múltiples escuelas supuestamente fueron atacados simultáneamente. Se han reportado públicamente más de 10 casos en América del Sur, más de 20 en Europa y una docena más combinados en Australia y Asia Oriental.
<figure data-testid="IframeEmbed"><div data-testid="IframeEmbedContainer" data-hasconsent="true"><p>La recopilación y análisis de datos para este mapa fueron producidos en asociación entre WIRED e Indicator.</p></div></figure>
La verdadera escala del abuso sexual con deepfakes que ocurre en las escuelas es probablemente mucho mayor. Una encuesta de **Unicef**, la agencia de las Naciones Unidas para la infancia, estima que el año pasado se crearon deepfakes sexuales de 1.2 millones de niños. Uno de cada cinco jóvenes en España dijo a investigadores de **Save the Children** que se habían creado desnudos deepfake de ellos. El grupo de protección infantil **Thorn** encontró que uno de cada ocho adolescentes conoce a alguien que ha sido blanco de este tipo de ataques, y en 2024, el 15 por ciento de los estudiantes encuestados por el **Center for Democracy and Technology** dijo que conocía deepfakes generados por IA vinculados a su escuela.
“Creo que sería difícil encontrar una escuela que no se haya visto afectada por esto”, dice Lloyd Richardson, director de tecnología del Centro Canadiense de Protección Infantil. “Lo más importante es cómo podemos ayudar a las víctimas cuando esto sucede, porque los efectos pueden ser masivos”.
El análisis de WIRED e Indicator examinó incidentes que han sido reportados públicamente con detalles específicos, como ubicaciones de escuelas y recuentos potenciales de víctimas. En su mayoría, se trata de informes en inglés, con una falta de datos disponibles para muchos países. Muchos incidentes nunca se informan en la prensa, pueden no incluir detalles específicos si lo hacen, y en cambio pueden ser manejados de forma privada por las escuelas y los funcionarios encargados de hacer cumplir la ley.
Sin embargo, hay patrones claros que aparecen. En casi todos los casos, se alega que adolescentes varones son responsables de la creación de las imágenes o videos. A menudo se comparten en aplicaciones de redes sociales o a través de mensajería instantánea con compañeros de clase. Y son enormemente perjudiciales para las víctimas. “Me preocupa que cada vez que me vean, vean esas fotos”, dijo una víctima en Iowa a principios de este año. “Ella ha estado llorando. No ha estado comiendo”, dijo la familia de otra.
En múltiples instancias, las víctimas a menudo no quieren asistir a la escuela o enfrentarse a ver a quienes crearon imágenes o videos explícitos de ellas. “Ella se siente desesperanzada porque sabe que es probable que estas imágenes lleguen a Internet y a los pedófilos”, dice el abogado Shane Vogt, y tres estudiantes de la Facultad de Derecho de Yale, Catharine Strong, Tony Sjodin y Suzanne Castillo, quienes representan a una adolescente anónima de Nueva Jersey en acciones legales contra un servicio de "nudificación". “Ella está gravemente angustiada por saber que estas imágenes están ahí fuera, y tendrá que monitorear Internet por el resto de su vida para evitar que se propaguen”.