Forscher der **Google Threat Intelligence Group (GTIG)** haben Beweise aufgedeckt, die darauf hindeuten, dass ein Zero-Day-Exploit, der auf ein weit verbreitetes Open-Source-Web-Admin-Tool abzielt, wahrscheinlich mithilfe künstlicher Intelligenz entwickelt wurde. Der Exploit, der darauf ausgelegt war, die Zwei-Faktor-Authentifizierung (2FA) zu umgehen, wurde entdeckt, bevor er weit verbreitet eingesetzt werden konnte. ### KI-gestützte Exploit-Entwicklung Laut **GTIG** deuten die Struktur und der Inhalt des Python-Exploit-Codes stark auf die Verwendung eines KI-Modells zur Identifizierung und Ausnutzung der Schwachstelle hin. „Zum Beispiel enthält das Skript eine Fülle von lehrreichen Docstrings, einschließlich eines halluzinierten **CVSS**-Scores, und verwendet ein strukturiertes, lehrbuchmäßiges Python-Format, das für LLM-Trainingsdaten sehr charakteristisch ist“, heißt es in dem Bericht. Das spezifische verwendete Large Language Model (LLM) bleibt unbekannt, aber **Google** hat die Beteiligung seines eigenen **Gemini**-Modells ausgeschlossen.  Weitere Beweise deuten auf die Art des Fehlers selbst hin – ein semantischer Logikfehler auf hoher Ebene, den KI-Systeme besonders gut identifizieren können, im Gegensatz zu herkömmlichen Methoden wie Fuzzing oder statischer Analyse, die typischerweise Speicherbeschädigungen oder Probleme bei der Eingabevalidierung aufdecken. ### Schnelle Maßnahmen und Abhilfe **Google** informierte den betroffenen Softwareentwickler umgehend, was es ihm ermöglichte, schnell Maßnahmen zur Abwehr der Bedrohung zu ergreifen und eine weit verbreitete Ausnutzung zu verhindern. „Zum ersten Mal hat **GTIG** einen Bedrohungsakteur identifiziert, der einen Zero-Day-Exploit verwendet, von dem wir glauben, dass er mit KI entwickelt wurde“, betonten die **GTIG**-Forscher. ### Breiterer Trend von KI in der Cyberkriminalität Dieser Vorfall ist kein Einzelfall. **Google** stellt fest, dass chinesische und nordkoreanische Hacking-Gruppen, darunter **APT27**, **APT45**, **UNC2814**, **UNC5673** und **UNC6201**, KI-Modelle für die Schwachstellenentdeckung und Exploit-Entwicklung nutzen und damit auf Trends aufbauen, die Anfang des Jahres beobachtet wurden. Russischsprachige Akteure wurden ebenfalls dabei beobachtet, KI-generierten Ködercode zu verwenden, um Malware wie **CANFAIL** und **LONGSTREAM** zu verschleiern.  **Google** hob auch „Overload“ hervor, eine russische Operation, die KI-gestützte Stimmenklonung einsetzte, um Journalisten in Desinformationskampagnen gegen die Ukraine zu imitieren. Die **PromptSpy**-Backdoor für **Android**, die von **ESET** dokumentiert wurde, wurde ebenfalls wegen ihrer Integration mit **Gemini**-APIs erwähnt, die eine autonome Geräteinteraktion ermöglicht. Diese Malware verwendet ein Modul namens „GeminiAutomationAgent“ mit einem fest kodierten Prompt, um Sicherheitsfunktionen zu umgehen und die UI-Geometrie für die automatisierte Geräteinteraktion zu berechnen, einschließlich des Wiederholens von Authentifizierungsmustern oder PINs. Bedrohungsakteure industrialisieren zunehmend den Zugang zu Premium-KI-Modellen durch automatisierte Kontoerstellung, Proxy-Relais und Account-Pooling-Infrastrukturen, so **Google**.