国防総省は、人工知能（AI）を戦力に組み込む上で、戦場での意思決定を左右するソフトウェアのセキュリティと制御を確保するという重大な障害に直面しています。 ### 自律型兵器の台頭 統合参謀本部議長のダン・ケイン将軍によると、自律型兵器は「我々のあらゆる活動の主要かつ不可欠な部分」になる poised です。この変化は、敵対的な状況下でも信頼できる、コマンド・アンド・コントロール・ネットワークや機械学習モデルを含む堅牢なデジタルインフラを必要とします。 ### 軍と民間セクターのAI間のギャップの橋渡し 軍事用途を想定して設計されていない民間で開発されたソフトウェアシステムへの依存度の高まりは、深刻な懸念を引き起こしています。これには、脆弱性、サプライチェーンリスク、敵対者による悪用の可能性が含まれます。ケイン将軍は、軍と民間セクターのAI開発の間のギャップの拡大を強調し、国防総省が大規模言語モデル（LLM）のような技術の早期採用者になるよう促しました。 ### Anthropicの対立がサプライチェーンリスクを浮き彫りに この課題の複雑さは、主要なAI企業であるAnthropicとの最近の対立によって例示されています。Anthropicは、サイバーセキュリティリスクと潜在的な誤用の可能性から、Mythos Previewモデルの一般公開を保留しました。それにもかかわらず、国家安全保障局（NSA）を含む諜報機関は、モデルへのアクセスを許可されたと報じられています。 今年の初め、Anthropicは、国内監視や完全自律型兵器の使用制限を緩和することを拒否しました。これにより、国防総省は同社を「サプライチェーンリスク」と指定しました。これは通常、政府システムに脆弱性を導入する可能性のある外国ベンダーに reserved されるラベルです。その後のホワイトハウスによるAnthropicのツールの使用段階的廃止命令は、連邦判事によって一時的に阻止され、政府は控訴を計画しています。 ### AI導入における信頼、セキュリティ、制御 このエピソードは、根本的な問題を浮き彫りにしています。米国は国家安全保障のためにAIを急速に採用していますが、リスク許容度と制御に関して、軍事的な優先事項と必ずしも一致しない商用エコシステムに依存しています。軍の計画担当者は、AI駆動型意思決定の速度と品質だけでなく、これらのシステムを操作、データ汚染、意図しない動作から保護することにも焦点を当てています。 これらのリスクは単なる理論的なものではありません。イランの学校への致命的な攻撃でAIシステムが使用される可能性についての疑問が提起されており、これらのツールの厳格なテスト、監査、ガバナンスの必要性が強調されています。ケイン将軍はまた、継続的なセキュリティアップデートを必要とする継続的に進化するソフトウェアに適した、より良い契約の必要性も強調しました。彼は、有効性と回復力の両方を確保するために、政府と民間企業の間でのリスク共有を提唱しました。 ### 調達の障害 ケイン将軍は、政府自身の調達システムも障害であると指摘しました。「私たちはより良い契約を書かなければならない」と彼は述べ、現在の調達フレームワークは、継続的に進化し、継続的なセキュリティアップデートを必要とするソフトウェアには不適切であると主張しました。固定されたハードウェアシステム向けに設計された従来の契約は、重要な技術の展開を遅らせ、説明責任のギャップを残す可能性があります。 国防総省がAIを活用した戦争にさらに深く踏み込むにつれて、中心的な課題は、技術の機能性から、エラーが許容されないハイリスク環境におけるその信頼性、セキュリティ、制御可能性へと移行することです。 [](https://www.recordedfuture.com/?utm_source=therecord&utm_medium=ad)