Das **Pentagon** steht vor einer erheblichen Hürde bei der Integration künstlicher Intelligenz (**KI**) in seine Kriegsführungskapazitäten: die Gewährleistung der Sicherheit und Kontrolle der Software, die Entscheidungen auf dem Schlachtfeld steuern wird. ### Der Aufstieg autonomer Waffen Laut dem Vorsitzenden der Joint Chiefs of Staff, General Dan Caine, werden autonome Waffen zu einem "Schlüssel- und wesentlichen Bestandteil von allem, was wir tun" werden. Dieser Wandel erfordert eine robuste digitale Infrastruktur, die Kommando- und Kontrollnetzwerke sowie maschinelle Lernmodelle umfasst, denen auch unter gegnerischen Bedingungen vertraut werden kann. ### Die Lücke zwischen militärischer und privater KI schließen Eine wachsende Abhängigkeit von privat entwickelten Softwaresystemen, die nicht ursprünglich für militärische Anwendungen konzipiert wurden, wirft ernsthafte Bedenken auf. Dazu gehören Schwachstellen, Lieferkettenrisiken und das Potenzial für Ausnutzung durch Gegner. General Caine hob die wachsende Kluft zwischen militärischer und privater **KI**-Entwicklung hervor und drängte das **Verteidigungsministerium**, frühzeitig Technologien wie große Sprachmodelle (LLMs) zu übernehmen. ### Anthropic-Konflikt unterstreicht Risiken in der Lieferkette Die Komplexität dieser Herausforderung wird durch einen kürzlichen Konflikt mit **Anthropic**, einem führenden **KI**-Unternehmen, verdeutlicht. **Anthropic** verzögerte die öffentliche Freigabe seines **Mythos Preview**-Modells aufgrund von Cybersicherheitsrisiken und potenziellem Missbrauch. Trotzdem sollen Geheimdienste, einschließlich der **National Security Agency (NSA)**, angeblich Zugang zu dem Modell erhalten haben. Anfang des Jahres lehnte **Anthropic** eine Lockerung der Beschränkungen für die Nutzung seiner Systeme ab, einschließlich Einschränkungen bei der heimischen Überwachung und vollautonomen Waffen. Dies führte dazu, dass das **Pentagon** das Unternehmen als "Lieferkettenrisiko" einstufte, eine Bezeichnung, die normalerweise ausländischen Anbietern vorbehalten ist, deren Technologie Schwachstellen in Regierungssystemen einführen könnte. Eine nachfolgende Anordnung des **Weißen Hauses** zur schrittweisen Abschaffung der Nutzung von **Anthropic**-Tools wurde vorübergehend von einem Bundesrichter blockiert, wobei die Regierung Berufung einlegen will. ### Vertrauen, Sicherheit und Kontrolle bei der KI-Einführung Diese Episode unterstreicht ein grundlegendes Problem: Die USA übernehmen schnell **KI** für die nationale Sicherheit, während sie sich auf ein kommerzielles Ökosystem verlassen, das nicht immer mit militärischen Prioritäten übereinstimmt, insbesondere in Bezug auf Risikobereitschaft und Kontrolle. Militärische Planer konzentrieren sich nicht nur auf die Geschwindigkeit und Qualität **KI**-gesteuerter Entscheidungen, sondern auch auf die Absicherung dieser Systeme gegen Manipulation, Datenvergiftung und unbeabsichtigtes Verhalten. Diese Risiken sind nicht rein theoretisch. Es wurden Fragen zum potenziellen Einsatz von **KI**-Systemen bei einem tödlichen Angriff auf eine iranische Schule aufgeworfen, was die Notwendigkeit rigoroser Tests, Audits und Governance dieser Werkzeuge unterstreicht. General Caine betonte auch die Notwendigkeit besserer Verträge, die für sich ständig weiterentwickelnde Software geeignet sind und laufende Sicherheitsupdates erfordern. Er plädierte für eine Risikoteilung zwischen Regierung und privaten Unternehmen, um sowohl Effektivität als auch Widerstandsfähigkeit zu gewährleisten. ### Das Beschaffungshindernis General Caine wies auch auf das eigene Beschaffungssystem der Regierung als Hindernis hin. "Wir müssen bessere Verträge schreiben", sagte er und argumentierte, dass die aktuellen Beschaffungsrahmen für Software, die sich ständig weiterentwickelt und laufende Sicherheitsupdates erfordert, ungeeignet seien. Traditionelle Verträge, die für feste Hardwaresysteme konzipiert sind, können die Bereitstellung kritischer Technologien verlangsamen und Lücken in der Rechenschaftspflicht hinterlassen. Während das **Pentagon** tiefer in die **KI**-gestützte Kriegsführung eintaucht, besteht die zentrale Herausforderung darin, von der Funktionalität der Technologie zu deren Vertrauenswürdigkeit, Sicherheit und Kontrollierbarkeit in Hochrisikoumgebungen zu wechseln, in denen Fehler inakzeptabel sind. [](https://www.recordedfuture.com/?utm_source=therecord&utm_medium=ad)