### Desenvolvimento de Exploits Assistido por IA Na segunda-feira, o **Google** revelou que um ator de ameaças desconhecido utilizou um exploit zero-day, suspeito de ter sido desenvolvido com o auxílio de um sistema de inteligência artificial (IA). Este marca um marco significativo como o primeiro caso documentado de IA sendo "armada" para descoberta de vulnerabilidades e geração de exploits em um ataque ao vivo. De acordo com o **Google Threat Intelligence Group (GTIG)**, essa atividade parece ser um esforço coordenado por atores de cibercrime envolvidos em uma "operação massiva de exploração de vulnerabilidades". A vulnerabilidade visada, encontrada em um script Python, permite que atacantes contornem a autenticação de dois fatores (2FA) em uma ferramenta de administração de sistemas baseada na web e de código aberto amplamente utilizada. O **Google** trabalhou com o fornecedor afetado para divulgar e corrigir a falha de forma responsável, embora a ferramenta específica permaneça sem nome. ### Características de Código Gerado por IA Embora não haja evidências diretas ligando a ferramenta de IA **Gemini** do **Google** ao ataque, o **GTIG** avalia com alta confiança que um modelo de IA facilitou a descoberta e a "armamento" da vulnerabilidade. O script Python usado no exploit exibe características de código gerado por modelos de linguagem grandes (LLMs). "Por exemplo, o script contém uma abundância de docstrings educacionais, incluindo uma pontuação **CVSS** alucinada, e usa um formato Pythonic estruturado e didático, altamente característico dos dados de treinamento de LLMs (por exemplo, menus de ajuda detalhados e a classe limpa de cores _C ANSI)", observou o **GTIG**. A vulnerabilidade, um bypass de 2FA, requer credenciais de usuário válidas e decorre de uma falha de lógica semântica de alto nível devido a uma suposição de confiança codificada – uma área onde os LLMs se destacam. ### Aceleração da Exploração de Vulnerabilidades Ryan Dewhurst, Head de Threat Intelligence na watchTowr, enfatizou o ritmo acelerado da exploração de vulnerabilidades. "A IA já está acelerando a descoberta de vulnerabilidades, reduzindo o esforço necessário para identificar, validar e "armar" falhas. Esta é a realidade de hoje: descoberta, "armamento" e exploração são mais rápidos." ### Malware Habilitado por IA: O Caso do PromptSpy Este desenvolvimento coincide com o uso crescente de IA por atacantes para desenvolver malware polimórfico e conduzir operações autônomas. Um exemplo é o **PromptSpy**, um malware Android que utiliza o **Gemini** para analisar a tela atual e receber instruções para fixar o aplicativo malicioso na lista de aplicativos recentes.  O **PromptSpy** pode capturar dados biométricos para reproduzir gestos de autenticação e impedir a desinstalação sobrepondo o botão de desinstalação. O **Google** tomou medidas contra o **PromptSpy** desabilitando ativos relacionados, e nenhuma instância foi encontrada na Play Store. ### Abuso de IA por Atores de Estado-Nação O **Google** também observou atores de estado-nação abusando de modelos de IA para fins maliciosos: * Um grupo de espionagem cibernética com nexo na China, **UNC2814**, usou o **Gemini** para pesquisar vulnerabilidades em dispositivos embarcados. * O ator de ameaças norte-coreano **APT45** analisou diferentes **CVEs** e validou exploits de prova de conceito (PoC). * Um grupo de hackers chinês, **APT27**, utilizou o **Gemini** para desenvolver um aplicativo de gerenciamento de frota, potencialmente para gerenciar uma rede de caixa de retransmissão operacional (ORB). * Atividade de intrusão russa visou organizações ucranianas com malware habilitado por IA como CANFAIL e LONGSTREAM, usando código chamariz gerado por LLM. Atores de ameaças também experimentaram com o repositório **GitHub** "wooyun-legacy", um plugin de habilidade de código Claude com mais de 5.000 casos de vulnerabilidade do mundo real da plataforma chinesa de divulgação de vulnerabilidades WooYun.  ### Descoberta Automatizada e Acesso Anonimizado Um ator de ameaças alinhado à China implantou ferramentas agentivas como Hexstrike AI e Strix em ataques visando uma empresa de tecnologia japonesa e uma importante plataforma de cibersegurança do Leste Asiático para descoberta automatizada. O **Google** continua a observar atores de operações de informação (IO) da Rússia, Irã, China e Arábia Saudita usando IA para tarefas de produtividade. Eles também notaram que **UNC6201** usou um script Python para registrar e cancelar automaticamente contas premium de LLM. "Atores de ameaças agora buscam acesso anonimizado e de nível premium a modelos por meio de middleware profissionalizado e pipelines de registro automatizados para contornar ilicitamente os limites de uso. Essa infraestrutura permite o uso indevido em larga escala dos serviços."