### Développement d'exploits assisté par l'IA Lundi, **Google** a révélé qu'un acteur de menace inconnu avait exploité un exploit zero-day, dont on soupçonne qu'il a été développé à l'aide d'un système d'intelligence artificielle (IA). Cela marque une étape importante en tant que premier cas documenté d'IA utilisée comme arme pour la découverte de vulnérabilités et la génération d'exploits dans une attaque en direct. Selon le **Google Threat Intelligence Group (GTIG)**, cette activité semble être un effort coordonné par des acteurs de la cybercriminalité engagés dans une "opération d'exploitation massive de vulnérabilités". La vulnérabilité ciblée, trouvée dans un script Python, permet aux attaquants de contourner l'authentification à deux facteurs (2FA) sur un outil d'administration système web open-source largement utilisé. **Google** a collaboré avec le fournisseur concerné pour divulguer et corriger la faille de manière responsable, bien que l'outil spécifique reste anonyme. ### Caractéristiques du code généré par l'IA Bien qu'il n'y ait aucune preuve directe reliant l'outil d'IA **Gemini** de **Google** à l'attaque, le **GTIG** estime avec une grande confiance qu'un modèle d'IA a facilité la découverte et l'utilisation malveillante de la vulnérabilité. Le script Python utilisé dans l'exploit présente les caractéristiques du code généré par les grands modèles linguistiques (LLM). "Par exemple, le script contient une abondance de docstrings éducatifs, y compris un score **CVSS** halluciné, et utilise un format Pythonique structuré et didactique très caractéristique des données d'entraînement des LLM (par exemple, des menus d'aide détaillés et la classe de couleur propre _C ANSI)", a noté le **GTIG**. La vulnérabilité, un contournement de la 2FA, nécessite des identifiants utilisateur valides et découle d'une faille logique sémantique de haut niveau due à une hypothèse de confiance codée en dur – un domaine où les LLM excellent. ### Exploitation accélérée des vulnérabilités Ryan Dewhurst, responsable de la Threat Intelligence chez watchTowr, a souligné le rythme accéléré de l'exploitation des vulnérabilités. "L'IA accélère déjà la découverte de vulnérabilités, réduisant l'effort nécessaire pour identifier, valider et exploiter les failles. C'est la réalité d'aujourd'hui : la découverte, l'exploitation et l'utilisation malveillante sont plus rapides." ### Malware activé par l'IA : Le cas de PromptSpy Ce développement coïncide avec l'utilisation croissante de l'IA par les attaquants pour développer des malwares polymorphes et mener des opérations autonomes. Un exemple est **PromptSpy**, un malware Android qui utilise **Gemini** pour analyser l'écran actuel et recevoir des instructions pour épingler l'application malveillante dans la liste des applications récentes.  **PromptSpy** peut capturer des données biométriques pour rejouer des gestes d'authentification et empêcher la désinstallation en superposant le bouton de désinstallation. **Google** a pris des mesures contre **PromptSpy** en désactivant les actifs associés, et aucune instance n'a été trouvée sur le Play Store. ### Abus de l'IA par des acteurs étatiques **Google** a également observé des acteurs étatiques abuser des modèles d'IA à des fins malveillantes : * Un groupe d'espionnage cybernétique présumé lié à la Chine, **UNC2814**, a utilisé **Gemini** pour rechercher des vulnérabilités dans les appareils embarqués. * L'acteur de menace nord-coréen **APT45** a analysé différents **CVE** et validé des exploits de preuve de concept (PoC). * Un groupe de piratage chinois, **APT27**, a utilisé **Gemini** pour développer une application de gestion de flotte, potentiellement pour gérer un réseau de boîtes relais opérationnelles (ORB). * Une activité d'intrusion russe a ciblé des organisations ukrainiennes avec des malwares activés par l'IA comme CANFAIL et LONGSTREAM, en utilisant du code d'appât généré par LLM. Les acteurs de menace ont également expérimenté le dépôt **GitHub** "wooyun-legacy", un plugin de compétence de code Claude avec plus de 5 000 cas de vulnérabilités réels de la plateforme chinoise de divulgation de vulnérabilités WooYun.  ### Découverte automatisée et accès anonymisé Un acteur de menace présumé aligné sur la Chine a déployé des outils agents comme Hexstrike AI et Strix dans des attaques ciblant une entreprise technologique japonaise et une plateforme majeure de cybersécurité d'Asie de l'Est pour la découverte automatisée. **Google** continue d'observer des acteurs d'opérations d'information (IO) de Russie, d'Iran, de Chine et d'Arabie saoudite utilisant l'IA pour des tâches de productivité. Ils ont également noté que **UNC6201** a utilisé un script Python pour enregistrer et annuler automatiquement des comptes LLM premium. "Les acteurs de menace recherchent désormais un accès anonyme, de niveau premium aux modèles via des middlewares professionnalisés et des pipelines d'enregistrement automatisés pour contourner illicitement les limites d'utilisation. Cette infrastructure permet une mauvaise utilisation à grande échelle des services."