El **Pentágono** se enfrenta a un obstáculo significativo al avanzar en la incorporación de la inteligencia artificial (**IA**) en sus capacidades de combate: garantizar la seguridad y el control del software que impulsará las decisiones en el campo de batalla. ### El Auge de las Armas Autónomas Según el Presidente de los Jefes de Estado Mayor Conjunto, el General Dan Caine, las armas autónomas están destinadas a convertirse en una "parte clave y esencial de todo lo que hacemos". Este cambio requiere una infraestructura digital robusta, que abarque redes de comando y control y modelos de aprendizaje automático, en la que se pueda confiar incluso en condiciones adversarias. ### Cerrando la Brecha entre la IA Militar y del Sector Privado Una creciente dependencia de sistemas de software desarrollados privadamente, no diseñados inicialmente para aplicaciones militares, genera serias preocupaciones. Estas incluyen vulnerabilidades, riesgos en la cadena de suministro y el potencial de explotación por parte de adversarios. El General Caine destacó la brecha creciente entre el desarrollo de **IA** militar y del sector privado, instando al **Departamento de Defensa** a convertirse en adoptantes tempranos de tecnologías como los modelos de lenguaje grandes (LLMs). ### El Enfrentamiento con Anthropic Resalta los Riesgos de la Cadena de Suministro Las complejidades de este desafío se ven ejemplificadas por un reciente enfrentamiento con **Anthropic**, una empresa líder en **IA**. **Anthropic** retuvo el lanzamiento público de su modelo **Mythos Preview** debido a riesgos de ciberseguridad y posible uso indebido. A pesar de esto, se informa que agencias de inteligencia, incluida la **Agencia de Seguridad Nacional (NSA)**, han obtenido acceso al modelo. A principios de año, **Anthropic** se negó a relajar las restricciones sobre el uso de sus sistemas, incluidas las limitaciones a la vigilancia doméstica y las armas totalmente autónomas. Esto llevó al **Pentágono** a designar a la empresa como un "riesgo en la cadena de suministro", una etiqueta típicamente reservada para proveedores extranjeros cuya tecnología podría introducir vulnerabilidades en los sistemas gubernamentales. Una posterior orden de la **Casa Blanca** para eliminar gradualmente el uso de las herramientas de **Anthropic** fue bloqueada temporalmente por un juez federal, y el gobierno planea apelar. ### Confianza, Seguridad y Control en la Adopción de IA Este episodio subraya un problema fundamental: Estados Unidos está adoptando rápidamente la **IA** para la seguridad nacional mientras depende de un ecosistema comercial que no siempre se alinea con las prioridades militares, particularmente en lo que respecta a la tolerancia al riesgo y el control. Los planificadores militares se centran no solo en la velocidad y la calidad de las decisiones impulsadas por **IA**, sino también en asegurar estos sistemas contra la manipulación, el envenenamiento de datos y el comportamiento no deseado. Estos riesgos no son meramente teóricos. Se han planteado preguntas sobre el uso potencial de sistemas de **IA** en un ataque mortal contra una escuela iraní, lo que resalta la necesidad de pruebas rigurosas, auditorías y gobernanza de estas herramientas. El General Caine también enfatizó la necesidad de mejores contratos que se adapten a un software en continua evolución que requiere actualizaciones de seguridad constantes. Abogó por el reparto de riesgos entre el gobierno y las empresas privadas para garantizar tanto la efectividad como la resiliencia. ### El Obstáculo de la Adquisición El General Caine también señaló el propio sistema de adquisición del gobierno como un obstáculo. "Tenemos que escribir mejores contratos", dijo, argumentando que los marcos de adquisición actuales son inadecuados para software que evoluciona continuamente y requiere actualizaciones de seguridad constantes. Los contratos tradicionales, diseñados para sistemas de hardware fijos, pueden ralentizar el despliegue de tecnologías críticas y dejar lagunas en la rendición de cuentas. A medida que el **Pentágono** profundiza en la guerra habilitada por **IA**, el desafío central está cambiando de la funcionalidad de la tecnología a su confiabilidad, seguridad y controlabilidad en entornos de alto riesgo donde los errores son inaceptables. [](https://www.recordedfuture.com/?utm_source=therecord&utm_medium=ad)