O **Pentágono** está enfrentando um obstáculo significativo ao incorporar inteligência artificial (**IA**) em suas capacidades de guerra: garantir a segurança e o controle do software que impulsionará as decisões no campo de batalha. ### A Ascensão das Armas Autônomas De acordo com o Presidente dos Chefes do Estado-Maior Conjunto, General Dan Caine, as armas autônomas estão prestes a se tornar uma "parte chave e essencial de tudo o que fazemos". Essa mudança exige uma infraestrutura digital robusta, abrangendo redes de comando e controle e modelos de aprendizado de máquina, que possam ser confiáveis mesmo sob condições adversárias. ### Preenchendo a Lacuna Entre IA Militar e do Setor Privado Uma dependência crescente de sistemas de software desenvolvidos privadamente, não projetados inicialmente para aplicações militares, levanta sérias preocupações. Estas incluem vulnerabilidades, riscos na cadeia de suprimentos e o potencial de exploração por adversários. O General Caine destacou a crescente lacuna entre o desenvolvimento de **IA** militar e do setor privado, instando o **Departamento de Defesa** a se tornar um dos primeiros a adotar tecnologias como modelos de linguagem grandes (LLMs). ### Impasse com a Anthropic Destaca Riscos na Cadeia de Suprimentos As complexidades desse desafio são exemplificadas por um recente impasse com a **Anthropic**, uma empresa líder em **IA**. A **Anthropic** adiou o lançamento público de seu modelo **Mythos Preview** devido a riscos de cibersegurança e potencial uso indevido. Apesar disso, agências de inteligência, incluindo a **Agência de Segurança Nacional (NSA)**, teriam obtido acesso ao modelo. No início do ano, a **Anthropic** recusou-se a aliviar as restrições ao uso de seus sistemas, incluindo limitações à vigilância doméstica e armas totalmente autônomas. Isso levou o **Pentágono** a designar a empresa como um "risco na cadeia de suprimentos", um rótulo tipicamente reservado para fornecedores estrangeiros cuja tecnologia poderia introduzir vulnerabilidades em sistemas governamentais. Uma ordem subsequente da **Casa Branca** para eliminar gradualmente o uso de ferramentas da **Anthropic** foi temporariamente bloqueada por um juiz federal, com o governo planejando um recurso. ### Confiança, Segurança e Controle na Adoção de IA Este episódio ressalta uma questão fundamental: os EUA estão adotando rapidamente **IA** para a segurança nacional, ao mesmo tempo em que dependem de um ecossistema comercial que nem sempre se alinha com as prioridades militares, particularmente em relação à tolerância a riscos e controle. Os planejadores militares estão focados não apenas na velocidade e qualidade das decisões impulsionadas por **IA**, mas também em proteger esses sistemas contra manipulação, envenenamento de dados e comportamento não intencional. Esses riscos não são meramente teóricos. Questões foram levantadas sobre o uso potencial de sistemas de **IA** em um ataque fatal a uma escola iraniana, destacando a necessidade de testes rigorosos, auditoria e governança dessas ferramentas. O General Caine também enfatizou a necessidade de melhores contratos que sejam adequados para software em constante evolução, exigindo atualizações de segurança contínuas. Ele defendeu o compartilhamento de riscos entre o governo e empresas privadas para garantir eficácia e resiliência. ### O Obstáculo da Aquisição O General Caine também apontou o próprio sistema de aquisição do governo como um obstáculo. "Temos que escrever melhores contratos", disse ele, argumentando que os atuais quadros de aquisição são inadequados para software que evolui continuamente e requer atualizações de segurança contínuas. Contratos tradicionais, projetados para sistemas de hardware fixos, podem atrasar a implantação de tecnologias críticas e deixar lacunas na responsabilidade. À medida que o **Pentágono** se aprofunda na guerra habilitada por **IA**, o desafio central é mudar da funcionalidade da tecnologia para sua confiabilidade, segurança e controlabilidade em ambientes de alto risco, onde erros são inaceitáveis. [](https://www.recordedfuture.com/?utm_source=therecord&utm_medium=ad)