### KI-gestützte Exploit-Entwicklung Am Montag gab **Google** bekannt, dass ein unbekannter Bedrohungsakteur einen Zero-Day-Exploit nutzte, der vermutlich mit einem System für künstliche Intelligenz (KI) entwickelt wurde. Dies stellt einen bedeutenden Meilenstein dar, da es der erste dokumentierte Fall ist, in dem KI zur Schwachstellenerkennung und Exploit-Generierung in einem Live-Angriff eingesetzt wurde. Laut der **Google Threat Intelligence Group (GTIG)** scheint es sich bei dieser Aktivität um eine koordinierte Anstrengung von Cyberkriminalitätsakteuren zu handeln, die an einer "Massenoperation zur Ausnutzung von Schwachstellen" beteiligt sind. Die gezielte Schwachstelle, die in einem Python-Skript gefunden wurde, ermöglicht es Angreifern, die Zwei-Faktor-Authentifizierung (2FA) eines weit verbreiteten Open-Source-Webadministrations-Tools zu umgehen. **Google** hat mit dem betroffenen Anbieter zusammengearbeitet, um den Fehler verantwortungsvoll offenzulegen und zu beheben, obwohl das spezifische Tool nicht genannt wurde. ### Merkmale von KI-generiertem Code Obwohl es keine direkten Beweise für eine Verbindung des **Google Gemini** KI-Tools mit dem Angriff gibt, schätzt **GTIG** mit hoher Zuversicht, dass ein KI-Modell die Entdeckung und Waffenfähigkeit der Schwachstelle ermöglichte. Das im Exploit verwendete Python-Skript weist Merkmale von Code auf, der von großen Sprachmodellen (LLMs) generiert wurde. "Zum Beispiel enthält das Skript eine Fülle von lehrreichen Docstrings, darunter eine halluzinierte **CVSS**-Punktzahl, und verwendet ein strukturiertes, lehrbuchhaftes Python-Format, das für LLM-Trainingsdaten sehr charakteristisch ist (z. B. detaillierte Hilfemenüs und die saubere _C ANSI-Farbklasse)", bemerkte **GTIG**. Die Schwachstelle, eine 2FA-Umgehung, erfordert gültige Benutzeranmeldeinformationen und ergibt sich aus einem semantischen Logikfehler auf hoher Ebene aufgrund einer hartkodierten Vertrauensannahme – ein Bereich, in dem LLMs hervorragend sind. ### Beschleunigte Ausnutzung von Schwachstellen Ryan Dewhurst, Leiter der Threat Intelligence bei watchTowr, betonte das beschleunigte Tempo der Ausnutzung von Schwachstellen. "KI beschleunigt bereits die Entdeckung von Schwachstellen und reduziert den Aufwand, der für die Identifizierung, Validierung und Waffenfähigkeit von Fehlern erforderlich ist. Dies ist die heutige Realität: Entdeckung, Waffenfähigkeit und Ausnutzung sind schneller." ### KI-gestützte Malware: Der Fall PromptSpy Diese Entwicklung fällt mit dem zunehmenden Einsatz von KI durch Angreifer zur Entwicklung polymorpher Malware und zur Durchführung autonomer Operationen zusammen. Ein Beispiel ist **PromptSpy**, eine Android-Malware, die **Gemini** nutzt, um den aktuellen Bildschirm zu analysieren und Anweisungen zu erhalten, die bösartige App in der Liste der zuletzt verwendeten Apps zu fixieren.  **PromptSpy** kann biometrische Daten erfassen, um Authentifizierungsgesten wiederzugeben und eine Deinstallation zu verhindern, indem es die Deinstallationsschaltfläche überlagert. **Google** hat gegen **PromptSpy** Maßnahmen ergriffen, indem es zugehörige Assets deaktiviert hat, und es wurden keine Instanzen im Play Store gefunden. ### KI-Missbrauch durch staatliche Akteure **Google** hat auch staatliche Akteure beobachtet, die KI-Modelle für böswillige Zwecke missbrauchen: * Eine mutmaßliche chinesische Cyber-Spionagegruppe, **UNC2814**, nutzte **Gemini** zur Erforschung von Schwachstellen in eingebetteten Geräten. * Der nordkoreanische Bedrohungsakteur **APT45** analysierte verschiedene **CVEs** und validierte Proof-of-Concept (PoC) Exploits. * Eine chinesische Hackergruppe, **APT27**, nutzte **Gemini** zur Entwicklung einer Flottenmanagement-Anwendung, möglicherweise zur Verwaltung eines Operational Relay Box (ORB)-Netzwerks. * Russische Einbruchsaktivitäten zielten auf ukrainische Organisationen mit KI-gestützter Malware wie CANFAIL und LONGSTREAM ab und nutzten LLM-generierten Köder-Code. Bedrohungsakteure haben auch mit dem **GitHub**-Repository "wooyun-legacy" experimentiert, einem Claude-Code-Skill-Plugin mit über 5.000 realen Schwachstellenfällen von der chinesischen Plattform zur Offenlegung von Schwachstellen WooYun.  ### Automatisierte Entdeckung und anonymisierter Zugriff Ein mutmaßlicher China-naher Bedrohungsakteur setzte agentenbasierte Tools wie Hexstrike AI und Strix in Angriffen ein, die auf ein japanisches Technologieunternehmen und eine große ostasiatische Cybersicherheitsplattform abzielten, um eine automatisierte Entdeckung zu ermöglichen. **Google** beobachtet weiterhin, wie Akteure von Informationsoperationen (IO) aus Russland, dem Iran, China und Saudi-Arabien KI für Produktivitätsaufgaben nutzen. Sie stellten auch fest, dass **UNC6201** ein Python-Skript verwendete, um Premium-LLM-Konten automatisch zu registrieren und zu stornieren. "Bedrohungsakteure streben nun anonymisierten Premium-Zugang zu Modellen über professionalisierte Middleware und automatisierte Registrierungs-Pipelines an, um Nutzungslimits illegal zu umgehen. Diese Infrastruktur ermöglicht den groß angelegten Missbrauch von Diensten."