Die Beschwerde klingt vertraut. „Ich bin enttäuscht, dass Sie daran arbeiten, KI-Müll in die Seite zu integrieren“, sagte eine verärgerte Person, die anonym postete, in einer Online-Nachricht. „Niemand fragt danach – wir wollen, dass Sie die Seite verbessern, hören Sie auf, für neue Funktionen Geld zu verlangen.“ Nur ist dies kein normaler Internetnutzer, der sich darüber beschwert, dass KI in seine Lieblings-App gezwungen wird. Stattdessen beschweren sie sich über die Pläne eines Cybercrime-Forums, mehr generative KI einzuführen. Wie Millionen andere sind auch Betrüger, Schwindler und niedrigschwellige Hacker genervt davon, dass KI in ihr Leben eindringt und minderwertiger KI-Müll in ihren Online-Communities gepostet wird. ### KI-Skepsis wächst in Underground-Foren „Die Leute mögen es nicht“, sagt **Ben Collier**, Sicherheitsforscher und Dozent an der **University of Edinburgh**. Im Rahmen einer aktuellen Studie darüber, wie niedrigschwellige Cyberkriminelle KI einsetzen, stellten Collier und seine Kollegen einen zunehmenden Widerstand gegen den Einsatz generativer KI in Underground-Cybercrime-Foren und Hacking-Gruppen fest. Während des Booms und der Hype-Zyklen der generativen KI in den letzten Jahren haben sich einige Personen, die auf Hacking-Foren posten, von einer positiven Haltung gegenüber der Frage, wie KI beim Hacking helfen kann, zu einer größeren Skepsis gegenüber der Technologie entwickelt, so die Studie, an der auch Forscher der **University of Cambridge** und der **University of Strathclyde** beteiligt waren. Die Forscher analysierten 97.895 KI-bezogene Gespräche in Cybercrime-Foren seit der Einführung von **ChatGPT** im Jahr 2022 bis Ende letzten Jahres. Sie stellten Beschwerden über Personen fest, die „bullet-pointed Erklärungen“ grundlegender Cybersicherheitskonzepte posteten, sich über die Anzahl minderwertiger Beiträge beschwerten und Bedenken hinsichtlich der KI-Suchübersichten von **Google** äußerten, die die Anzahl der Besucher der Foren verringerten. ### Community vs. KI: Ein Kulturkampf Seit Jahrzehnten ermöglichen Cybercrime-Message-Boards und Marktplätze, oft russischen Ursprungs, Betrügern, Geschäfte miteinander zu machen. Es sind Orte, an denen gestohlene Daten gehandelt werden können, Hacking-Jobs ausgeschrieben werden und Betrüger über ihre Rivalen „shitposten“. Während Betrüger oft versuchen, sich gegenseitig zu betrügen, haben die Foren auch ein Gemeinschaftsgefühl. Zum Beispiel bauen Nutzer Reputationen als zuverlässig auf, und Forenbetreiber veranstalten Schreibwettbewerbe. „Das sind im Wesentlichen soziale Räume. Sie hassen es wirklich, wenn andere Leute [KI] in den Foren benutzen“, sagt Collier. Er meint, dass die soziale Dynamik der Gruppen durch potenzielle Cyberkriminelle gestört werden kann, die versuchen, sich einen besseren Ruf zu verschaffen, indem sie KI-generierte Hacking-Erklärungen posten. „Ich glaube, viele von ihnen sind der KI gegenüber etwas ambivalent, weil sie ihren Anspruch untergräbt, eine fähige Person zu sein.“ Von **WIRED** überprüfte Beiträge auf **Hack Forums**, einem selbsternannten Raum für alle, die sich für Hacking und den Austausch von Techniken interessieren, zeigen eine Irritation, die durch Personen verursacht wird, die Beiträge mit KI erstellen. „Ich sehe viele Mitglieder, die KI nutzen, um ihre Threads/Posts zu erstellen, und das nervt mich, weil sie sich nicht einmal die Mühe machen, einen einfachen Satz oder zwei zu schreiben“, schrieb ein Poster. Ein anderer drückte es deutlicher aus: „Hört auf, KI-Scheiße zu posten.“ In mehreren Fällen, so Collier, scheinen Nutzer mehrerer Foren von KI-Posts genervt zu sein, weil sie Freunde finden wollen. „Wenn ich mit einem KI-Chatbot sprechen wollte, gibt es dafür viele Websites … Ich komme hierher für menschliche Interaktion“, heißt es in einem in der Forschung zitierten Beitrag. ### KI's begrenzter Einfluss (bisher) Seit dem Aufkommen von ChatGPT Ende 2022 gibt es ein erhebliches Interesse an KI-Hacking-Fähigkeiten und daran, wie die Technologie Online-Kriminalität verändern kann. Sowohl hochentwickelte Hacker als auch weniger fähige Personen versuchen, KI in ihren Angriffen einzusetzen. Während einige organisierte Betrüger ihre Operationen mit immer realistischerer KI-Gesichtstauschtechnologie und KI-übersetzten Social-Engineering-Nachrichten verbessert haben, konzentriert sich viel Aufmerksamkeit auf die Fähigkeiten generativer KI, bösartigen Code zu schreiben und Schwachstellen zu entdecken. „Fortgeschrittenere Bedrohungsakteure sind sich der Mängel kommerzieller Modelle mit Schutzmechanismen bewusst und kennen Wege, diese Prompts zu umgehen“, sagt **Ian Gray**, Vizepräsident für Intelligence bei der Sicherheitsfirma **Flashpoint**, und bezieht sich dabei auf die von **OpenAI**, **Anthropic** und Google implementierten Sicherheitsmechanismen. „Sie sind auch vorsichtig bei KI-generierten Projekten in Foren oder Marktplätzen – es gibt Schwächen und Schwachstellen, die manchmal die zugrunde liegende Infrastruktur offenlegen“, so Gray. Flashpoint hat beobachtet, wie Hacker kürzlich über die potenziellen Fähigkeiten von **Claude Mythos Preview**, dem neuesten Frontier-KI-Modell von Anthropic, diskutierten. Einige Cyberkriminelle haben auch andere dafür verunglimpft, angeblich KI in ihren Hacking-Operationen einzusetzen – „alles, was sie tun können, ist, KI zu benutzen“, sagte eine Gruppe laut Flashpoint-Analyse. Collier sagt, dass es bisher bei den von seiner Studie verfolgten niedrigschwelligen Cyberkriminellen – nicht bei hochentwickelten oder staatlich unterstützten Hackern – keine offensichtlichen Anzeichen für eine „echte Störung“ durch KI gab. „Es hat die Eintrittsbarriere für Fähigkeiten nicht signifikant gesenkt, noch hat es zu ernsthaften Störungen etablierter Geschäftsmodelle oder Praktiken geführt“, heißt es in der Studie. „Stattdessen hat es sich hauptsächlich auf bereits stark automatisierte Bereiche wie SEO-Betrug, Social-Media-Bots und einige Formen von Romance Scams ausgewirkt.“ ### Die Zukunft der KI in der Cyberkriminalität: Eine vorsichtige Akzeptanz? Trotz des frostigen Empfangs der KI in Cybercrime-Foren sehen andere Potenzial. Einige Poster auf Hack Forums haben gesagt, dass sie vielleicht einen KI-Assistenten begrüßen würden, der ihnen hilft, ihre Beiträge zu strukturieren und die Grammatik zu verbessern, aber sie ziehen eine Grenze bei einer KI, die vollständig für sie posten kann. „Ein KI-Generator für Posts würde dies in ein klappriges Forum verwandeln, in dem KIs miteinander reden“, schrieb eine Person. Inzwischen haben Flashpoint-Forscher Hacker dabei beobachtet, wie sie die Idee diskutierten, einen „KI-gestützten“ Cybercrime-Markt aufzubauen, der als Möglichkeit angepriesen wurde, gestohlene Daten und Online-Konten schneller zu kaufen. Nicht jeder war dafür. Wie eine Person schrieb: „ES IST EINE DUMME VERDAMMTE IDEE, KI IN IHREN MARKT ZU INTEGRIEREN.“