A IA está mudando rapidamente a forma como o software é escrito, implantado e utilizado. As tendências apontam para um futuro onde as IAs podem escrever software personalizado de forma rápida e fácil: "software instantâneo". Levado ao extremo, pode ser mais fácil para um usuário ter uma IA escrevendo um aplicativo sob demanda – uma planilha, por exemplo – e deletá-lo quando terminar de usá-lo do que comprar um comercialmente. Sistemas futuros podem incluir uma mistura: tanto software tradicional de longo prazo quanto software instantâneo efêmero que está sendo constantemente escrito, implantado, modificado e deletado. A IA também está mudando a cibersegurança. Em particular, os sistemas de IA estão se tornando melhores em encontrar e corrigir vulnerabilidades em código. Isso tem implicações tanto para atacantes quanto para defensores, dependendo das maneiras como esta e tecnologias relacionadas melhoram. Neste ensaio, quero ter uma visão otimista do progresso da IA e especular como seria a cibersegurança dominada por IA na era do software instantâneo. Existem várias incógnitas que influenciarão como a corrida armamentista entre atacante e defensor pode se desenrolar. ## Como a Descoberta de Falhas Pode Funcionar Do lado do atacante, a capacidade das IAs de encontrar e explorar vulnerabilidades automaticamente aumentou dramaticamente nos últimos meses. Já estamos vendo hackers governamentais e criminosos usando IA para atacar sistemas. A parte de exploração é crítica aqui, pois dá a um atacante não sofisticado capacidades muito além de sua compreensão. À medida que as IAs melhoram, espere que mais atacantes automatizem seus ataques usando IA. E à medida que indivíduos e organizações podem cada vez mais executar modelos de IA poderosos localmente, as empresas de IA que monitoram e interrompem o uso malicioso de IA se tornarão cada vez mais irrelevantes. Espere que o software de código aberto, incluindo bibliotecas de código aberto incorporadas em software proprietário, seja o mais visado, pois as vulnerabilidades são mais fáceis de encontrar no código-fonte. Incógnita nº 1 é o quão bem as ferramentas de descoberta de vulnerabilidades de IA funcionarão contra pacotes de software comercial de código fechado. Acredito que em breve serão boas o suficiente para encontrar vulnerabilidades apenas analisando uma cópia de um produto enviado, sem acesso ao código-fonte. Se isso for verdade, o software comercial também será vulnerável. Particularmente vulneráveis serão softwares em dispositivos IoT: coisas como carros conectados à internet, geladeiras e câmeras de segurança. Também software industrial de IoT em nossa rede elétrica conectada à internet, refinarias de petróleo e oleodutos, usinas químicas, e assim por diante. O software IoT tende a ser de qualidade muito inferior, e o software industrial de IoT tende a ser legado. O software instantâneo é diferentemente vulnerável. Não é de mercado de massa. É criado para uma pessoa, organização ou rede específica. O atacante geralmente não terá acesso a nenhum código para analisar, o que torna menos provável que seja explorado por atacantes externos. Se for efêmero, quaisquer vulnerabilidades terão uma vida útil curta. Mas muito software instantâneo viverá em redes por um longo tempo. E se for carregado em bibliotecas de ferramentas compartilhadas, os atacantes poderão baixar e analisar esse código. Tudo isso aponta para um futuro onde as IAs se tornarão ferramentas poderosas de ciberataque, capazes de encontrar e explorar automaticamente vulnerabilidades em sistemas em todo o mundo. ## Automatizando a Criação de Patches Mas isso é apenas metade da corrida armamentista. Defensores também podem usar IA. Essas mesmas tecnologias de IA para encontrar vulnerabilidades são ainda mais valiosas para a defesa. Quando o lado defensivo encontra uma vulnerabilidade explorável, ele pode corrigir o código e negá-la aos atacantes para sempre. Como isso funciona na prática depende de outra capacidade relacionada: a capacidade das IAs de corrigir software vulnerável, que está intimamente ligada à sua capacidade de escrever código seguro em primeiro lugar. As IAs não são muito boas nisso hoje; o software instantâneo que as IAs criam geralmente é repleto de vulnerabilidades, tanto porque as IAs escrevem código inseguro quanto porque as pessoas que programam não entendem de segurança. **OpenClaw** é um bom exemplo disso. Incógnita nº 2 é o quão melhores as IAs se tornarão na escrita de código seguro. O fato de serem treinadas em corpus massivos de código mal escrito e inseguro é um obstáculo, mas elas estão melhorando. Se puderem escrever código livre de vulnerabilidades de forma confiável, seria uma vantagem enorme para o defensor. E a descoberta de vulnerabilidades baseada em IA facilita o treinamento de uma IA para escrever código seguro. Podemos vislumbrar um futuro onde ferramentas de IA que encontram e corrigem vulnerabilidades fazem parte do processo típico de desenvolvimento de software. Não podemos dizer que o código seria livre de vulnerabilidades – esse é um objetivo impossível – mas poderia estar sem quaisquer vulnerabilidades facilmente encontráveis. Se a tecnologia se tornasse realmente boa, o código poderia se tornar essencialmente livre de vulnerabilidades. ## Atrasos de Patch e Software Legado Para software novo – tanto comercial quanto instantâneo – este futuro favorece o defensor. Para software comercial e de código aberto convencional, não é tão simples. Atualmente, o mundo está repleto de software legado. Grande parte dele – como o software de dispositivos IoT – não tem uma equipe de segurança dedicada para atualizá-lo. Às vezes, é incapaz de ser corrigido. Assim como é mais difícil para as IAs encontrarem vulnerabilidades quando não têm acesso ao código-fonte, é mais difícil para as IAs corrigirem software quando não estão incorporadas ao processo de desenvolvimento. Não estou tão confiante de que os sistemas de IA conseguirão corrigir vulnerabilidades tão facilmente quanto encontrá-las, porque a correção geralmente requer testes e compreensão mais holísticos. Essa é a Incógnita nº 3: quão rapidamente as IAs conseguirão criar atualizações de software confiáveis para as vulnerabilidades que encontram, e quão rapidamente os clientes poderão atualizar seus sistemas. Hoje, há um lapso de tempo entre quando um fornecedor emite um patch e os clientes instalam essa atualização. Esse lapso de tempo é ainda maior para software de grandes organizações; o risco de uma atualização quebrar o sistema de software subjacente é muito grande para que as organizações implementem atualizações sem testá-las primeiro. Mas se a IA puder ajudar a acelerar esse processo, escrevendo patches mais rapidamente e de forma mais confiável, e testando-os em algum ambiente gêmeo gerado por IA, a vantagem vai para o defensor. Caso contrário, o atacante ainda terá uma janela para atacar sistemas até que uma vulnerabilidade seja corrigida. ## Rumo à Autocura Em um futuro verdadeiramente otimista, podemos imaginar uma rede de autocura. Agentes de IA escaneiam continuamente o corpus em constante evolução de software comercial e personalizado gerado por IA em busca de vulnerabilidades e os corrigem automaticamente ao descobri-las. Para que isso funcione, os contratos de licença de software precisarão mudar. Atualmente, os fornecedores de software controlam a cadência de patches de segurança. Dar aos compradores de software essa capacidade tem implicações sobre compatibilidade, o direito de reparar e responsabilidade. Quaisquer soluções aqui são do domínio da política, não da tecnologia. Se a defesa puder encontrar, mas não conseguir corrigir de forma confiável, falhas em software legado, é aí que os atacantes concentrarão seus esforços. Se for esse o caso, podemos imaginar uma detecção de intrusão contínua e em evolução, alimentada por IA, escaneando continuamente as entradas e bloqueando ataques maliciosos antes que cheguem a softwares vulneráveis. Não tão transformador quanto corrigir automaticamente vulnerabilidades em código em execução, mas ainda assim valioso. A força desses sistemas de IA defensivos aumenta se eles puderem se coordenar entre si e compartilhar vulnerabilidades e atualizações. Uma descoberta por uma IA pode se espalhar rapidamente para todos que usam o software afetado. Novamente: Vantagem para o defensor. Existem outras variáveis a serem consideradas. O sucesso relativo de atacantes e defensores também depende de quão abundantes são as vulnerabilidades, quão fáceis são de encontrar, se as IAs serão capazes de encontrar as vulnerabilidades mais sutis e obscuras, e quanta coordenação existe entre diferentes atacantes. Tudo isso compreende a Incógnita nº 4. ## Economia de Vulnerabilidades Presumivelmente, as IAs limparão primeiro as coisas óbvias, o que significa que quaisquer vulnerabilidades restantes serão sutis. Encontrá-las exigirá recursos de computação de IA. No cenário otimista, os defensores agrupam recursos por meio do compartilhamento de informações, amortizando efetivamente o custo da defesa. Se o compartilhamento de informações não funcionar por algum motivo, a defesa se torna muito mais cara, pois os defensores individuais precisarão fazer sua própria pesquisa. Mas o software instantâneo significa muito mais diversidade de código: uma vantagem para o defensor. Isso precisa ser equilibrado com o custo relativo dos atacantes em encontrar vulnerabilidades. Os atacantes já têm uma maneira inerente de amortizar os custos de encontrar uma nova vulnerabilidade e criar um novo exploit. Eles podem caçar vulnerabilidades em várias plataformas, fornecedores e sistemas, e podem usar o que encontram para atacar vários alvos simultaneamente. Corrigir uma vulnerabilidade comum geralmente requer cooperação entre todas as plataformas, fornecedores e sistemas relevantes. Novamente, o software instantâneo é uma vantagem para o defensor. Mas essas vulnerabilidades difíceis de encontrar se tornam mais valiosas. Os atacantes tentarão fazer o que as principais agências de inteligência fazem hoje.