Normalerweise beginnt es mit einem Foto, das aus sozialen Medien heruntergeladen wird. Weltweit speichern Jungen **Instagram**- und **Snapchat**-Bilder von Mädchen, die sie aus der Schule kennen, und verwenden schädliche „Nudify“-Apps, um gefälschte Nacktfotos oder -videos von ihnen zu erstellen. Diese Deepfakes können schnell in ganzen Schulen verbreitet werden, wodurch sich die Opfer gedemütigt, verletzt, hoffnungslos und verängstigt fühlen, dass die Bilder sie für immer verfolgen werden. Die Deepfake-Krise, die Schulen heimsucht, begann vor ein paar Jahren langsam, hat sich aber seitdem erheblich ausgeweitet, da die Technologie zur Erstellung expliziter Bilder zugänglicher geworden ist. Laut einer Überprüfung öffentlich berichteter Vorfälle durch **WIRED** und **Indicator**, eine Publikation, die sich mit digitaler Täuschung und Fehlinformationen befasst, haben Deepfake-sexuelle Missbrauchsfälle rund 90 Schulen weltweit getroffen und mehr als 600 Schüler betroffen. Die Ergebnisse zeigen, dass seit 2023 Schüler – meist Jungen in High Schools – in mindestens 28 Ländern beschuldigt wurden, generative KI genutzt zu haben, um ihre Klassenkameraden mit sexualisierten Deepfakes zu behelligen. Die expliziten Bilder, die Minderjährige enthalten, gelten als Material des sexuellen Kindesmissbrauchs (CSAM). Diese Analyse wird als die erste angesehen, die reale Fälle von KI-Deepfake-Missbrauch an Schulen weltweit überprüft. Insgesamt zeigt die Analyse die weltweite Reichweite schädlicher KI-Nudifizierungs-Technologie, die ihren Schöpfern Millionen von Dollar pro Jahr einbringen kann, und zeigt, dass Schulen und Strafverfolgungsbehörden in vielen Fällen oft nicht auf die schwerwiegenden sexuellen Missbrauchsfälle vorbereitet sind. In Nordamerika gab es seit 2023 fast 30 gemeldete Deepfake-sexuelle Missbrauchsfälle – darunter einer mit mehr als 60 mutmaßlichen Opfern, einer, bei dem das Opfer vorübergehend von der Schule verwiesen wurde, und andere, bei denen Schüler an mehreren Schulen angeblich gleichzeitig ins Visier genommen wurden. Mehr als 10 Fälle wurden in Südamerika öffentlich gemeldet, mehr als 20 in Europa und ein weiteres Dutzend in Australien und Ostasien zusammen. <figure data-testid="IframeEmbed"><div data-testid="IframeEmbedContainer" data-hasconsent="true"><p>Die Datenerhebung und -analyse für diese Karte wurde in Partnerschaft zwischen WIRED und Indicator erstellt.</p></div></figure> Das wahre Ausmaß des sexuellen Deepfake-Missbrauchs an Schulen ist wahrscheinlich noch viel höher. Eine Umfrage des Kinderhilfswerks der **Vereinten Nationen**, **Unicef**, schätzt, dass im letzten Jahr 1,2 Millionen Kinder sexuelle Deepfakes von sich erstellen ließen. Einer von fünf jungen Menschen in Spanien sagte **Save the Children**-Forschern, dass Deepfake-Nacktfotos von ihnen erstellt worden seien. Die Kinderschutzgruppe **Thorn** fand heraus, dass jeder achte Teenager jemanden kennt, der ins Visier genommen wurde, und im Jahr 2024 gaben 15 Prozent der von **Center for Democracy and Technology** befragten Schüler an, von KI-generierten Deepfakes im Zusammenhang mit ihrer Schule zu wissen. „Ich glaube, es wäre schwer, eine Schule zu finden, die davon nicht betroffen ist“, sagt Lloyd Richardson, Direktor für Technologie am Canadian Centre for Child Protection. „Das Wichtigste ist, wie wir den Opfern helfen können, wenn so etwas passiert, denn die Auswirkungen können immens sein.“ Die Analyse von WIRED und Indicator untersuchte Vorfälle, die öffentlich mit spezifischen Details wie Schulstandorten und potenziellen Opferzahlen gemeldet wurden. Meist handelt es sich um englischsprachige Berichte, wobei für viele Länder Daten fehlen. Viele Vorfälle werden nie in der Presse gemeldet, enthalten möglicherweise keine spezifischen Details, wenn sie es tun, und werden stattdessen privat von Schulen und Strafverfolgungsbehörden behandelt. Dennoch gibt es klare Muster. In fast allen Fällen sind angeblich jugendliche Jungen für die Erstellung der Bilder oder Videos verantwortlich. Sie werden oft in Social-Media-Apps oder über Instant Messaging mit Klassenkameraden geteilt. Und sie sind für die Opfer äußerst schädlich. „Ich mache mir Sorgen, dass sie jedes Mal, wenn sie mich sehen, diese Fotos sehen“, sagte ein Opfer in Iowa Anfang dieses Jahres. „Sie weint. Sie hat nicht gegessen“, sagte die Familie eines anderen. In mehreren Fällen möchten die Opfer oft nicht zur Schule gehen oder sich denen stellen, die explizite Bilder oder Videos von ihnen erstellt haben. „Sie fühlt sich hoffnungslos, weil sie weiß, dass diese Bilder wahrscheinlich ins Internet gelangen und Pädophile erreichen werden“, sagt Anwalt Shane Vogt und drei Studenten der Yale Law School, Catharine Strong, Tony Sjodin und Suzanne Castillo, die eine anonyme Teenagerin aus New Jersey in einem Rechtsstreit gegen einen Nudifizierungsdienst vertreten. „Sie ist schwer beunruhigt durch die Erkenntnis, dass diese Bilder da draußen sind, und sie wird den Rest ihres Lebens das Internet überwachen müssen, um zu verhindern, dass sie sich verbreiten.“