### Desarrollo de Exploits Asistido por IA El lunes, **Google** reveló que un actor de amenazas desconocido aprovechó una vulnerabilidad de día cero (zero-day), que se sospecha fue desarrollada utilizando un sistema de inteligencia artificial (IA). Esto marca un hito significativo como el primer caso documentado de IA siendo utilizada como arma para el descubrimiento de vulnerabilidades y la generación de exploits en un ataque en vivo. Según el **Google Threat Intelligence Group (GTIG)**, esta actividad parece ser un esfuerzo coordinado por actores de ciberdelincuencia involucrados en una "operación de explotación masiva de vulnerabilidades". La vulnerabilidad específica, encontrada en un script de Python, permite a los atacantes eludir la autenticación de dos factores (2FA) en una herramienta de administración web de código abierto ampliamente utilizada. **Google** ha colaborado con el proveedor afectado para divulgar y parchear responsablemente la falla, aunque la herramienta específica no ha sido nombrada. ### Características del Código Generado por IA Aunque no hay evidencia directa que vincule la herramienta de IA **Gemini** de **Google** con el ataque, **GTIG** evalúa con alta confianza que un modelo de IA facilitó el descubrimiento y la utilización de la vulnerabilidad. El script de Python utilizado en el exploit exhibe las características del código generado por modelos de lenguaje grandes (LLM). "Por ejemplo, el script contiene una abundancia de docstrings educativos, incluyendo una puntuación **CVSS** alucinada, y utiliza un formato Pythonic estructurado y de libro de texto, muy característico de los datos de entrenamiento de LLMs (por ejemplo, menús de ayuda detallados y la clase de color _C ANSI limpia)", señaló **GTIG**. La vulnerabilidad, una elusión de 2FA, requiere credenciales de usuario válidas y se deriva de un fallo de lógica semántica de alto nivel debido a una suposición de confianza codificada, un área en la que los LLMs sobresalen. ### Aceleración de la Explotación de Vulnerabilidades Ryan Dewhurst, Jefe de Inteligencia de Amenazas en watchTowr, enfatizó el ritmo acelerado de la explotación de vulnerabilidades. "La IA ya está acelerando el descubrimiento de vulnerabilidades, reduciendo el esfuerzo necesario para identificar, validar y utilizar fallas. Esta es la realidad de hoy: el descubrimiento, la utilización y la explotación son más rápidos." ### Malware Habilitado por IA: El Caso de PromptSpy Este desarrollo coincide con el creciente uso de IA por parte de los atacantes para desarrollar malware polimórfico y realizar operaciones autónomas. Un ejemplo es **PromptSpy**, un malware para Android que utiliza **Gemini** para analizar la pantalla actual y recibir instrucciones para fijar la aplicación maliciosa en la lista de aplicaciones recientes.  **PromptSpy** puede capturar datos biométricos para reproducir gestos de autenticación y evitar la desinstalación superponiendo el botón de desinstalación. **Google** ha tomado medidas contra **PromptSpy** deshabilitando activos relacionados, y no se han encontrado instancias en Play Store. ### Abuso de IA por Actores de Estados-Nación **Google** también ha observado a actores de estados-nación abusando de modelos de IA para fines maliciosos: * Un grupo de ciberespionaje presuntamente vinculado a China, **UNC2814**, utilizó **Gemini** para investigar vulnerabilidades en dispositivos embebidos. * El actor de amenazas norcoreano **APT45** analizó diferentes **CVEs** y validó exploits de prueba de concepto (PoC). * Un grupo de hackers chino, **APT27**, utilizó **Gemini** para desarrollar una aplicación de gestión de flotas, potencialmente para administrar una red de cajas de retransmisión operativa (ORB). * Actividad de intrusión rusa apuntó a organizaciones ucranianas con malware habilitado por IA como CANFAIL y LONGSTREAM, utilizando código señuelo generado por LLM. Los actores de amenazas también han experimentado con el repositorio de **GitHub** "wooyun-legacy", un plugin de habilidad de código de Claude con más de 5,000 casos de vulnerabilidades del mundo real de la plataforma china de divulgación de vulnerabilidades WooYun.  ### Descubrimiento Automatizado y Acceso Anonimizado Un actor de amenazas presuntamente alineado con China desplegó herramientas agentivas como Hexstrike AI y Strix en ataques dirigidos a una firma tecnológica japonesa y una importante plataforma de ciberseguridad de Asia Oriental para el descubrimiento automatizado. **Google** continúa observando a actores de operaciones de información (IO) de Rusia, Irán, China y Arabia Saudita utilizando IA para tareas de productividad. También notaron que **UNC6201** utilizó un script de Python para registrar y cancelar automáticamente cuentas premium de LLM. "Los actores de amenazas ahora buscan acceso anonimizado de nivel premium a modelos a través de middleware profesionalizado y pipelines de registro automatizado para eludir ilícitamente los límites de uso. Esta infraestructura permite el uso indebido a gran escala de los servicios."