AIは、ソフトウェアの記述、展開、使用方法を急速に変化させています。トレンドは、AIがカスタムソフトウェアを迅速かつ容易に作成できる未来を示唆しています。「インスタントソフトウェア」です。極端な場合、ユーザーが商用ソフトウェアを購入するよりも、AIにオンデマンドでアプリケーション（例えばスプレッドシート）を作成させて、使い終わったら削除する方が簡単になるかもしれません。将来のシステムは、従来の長期的なソフトウェアと、常に作成、展開、変更、削除される一時的なインスタントソフトウェアの混合を含む可能性があります。 AIはサイバーセキュリティも変えています。特に、AIシステムはコード内の脆弱性を発見し、パッチを適用する能力を高めています。これは、この技術や関連技術の進歩の仕方によって、攻撃者と防御者の両方に影響を与えます。 このエッセイでは、AIの進歩について楽観的な見方を取り、インスタントソフトウェア時代のAI支配的なサイバーセキュリティがどのようなものになるかを推測したいと思います。攻撃者と防御者の間の軍拡競争がどのように展開するかを左右する、多くの未知数があります。 ## 脆弱性の発見はどのように機能するか 攻撃者側では、AIが自動的に脆弱性を発見し、悪用する能力が過去数ヶ月で劇的に向上しました。すでに政府および犯罪ハッカーがAIを使用してシステムを攻撃しているのを目にしています。悪用部分はここで重要です。なぜなら、それは洗練されていない攻撃者に、彼らの理解をはるかに超えた能力を与えるからです。AIが向上するにつれて、より多くの攻撃者がAIを使用して攻撃を自動化すると予想されます。また、個人や組織がローカルで強力なAIモデルを実行できるようになるにつれて、悪意のあるAIの使用を監視および阻止するAI企業はますます無関係になるでしょう。 脆弱性はソースコードで見つけやすいため、プロプライエタリソフトウェアに組み込まれているオープンソースライブラリを含むオープンソースソフトウェアが最も標的になると予想されます。未知数1は、AI脆弱性発見ツールがクローズドソースの商用ソフトウェアパッケージに対してどれだけうまく機能するかです。ソースコードにアクセスせずに、出荷された製品のコピーを分析するだけで脆弱性を発見できるほど、すぐに十分になると私は信じています。それが真実であれば、商用ソフトウェアも脆弱になるでしょう。 特に脆弱なのは、IoTデバイスのソフトウェアです。インターネットに接続された自動車、冷蔵庫、セキュリティカメラなどです。また、インターネットに接続された電力網、石油精製所、パイプライン、化学プラントなどの産業用IoTソフトウェアです。IoTソフトウェアは品質が低い傾向があり、産業用IoTソフトウェアはレガシーである傾向があります。 インスタントソフトウェアは、異なる脆弱性を持ちます。それはマスマーケットではありません。特定の個人、組織、またはネットワークのために作成されます。攻撃者は通常、分析するコードにアクセスできないため、外部攻撃者による悪用の可能性は低くなります。それが一時的であれば、脆弱性は短い寿命を持つことになります。しかし、多くのインスタントソフトウェアは長期間ネットワーク上に存在します。そして、共有ツールライブラリにアップロードされると、攻撃者はそのコードをダウンロードして分析できるようになります。 これらすべては、AIがサイバー攻撃の強力なツールとなり、世界中のシステムで脆弱性を自動的に発見し、悪用できるようになる未来を示唆しています。 ## パッチ作成の自動化 しかし、それは軍拡競争の半分にすぎません。防御者もAIを使用できます。これらの同じAI脆弱性発見技術は、防御にとってさらに価値があります。防御側が悪用可能な脆弱性を発見した場合、コードにパッチを適用して、攻撃者から永遠にそれを奪うことができます。 これが実際にどのように機能するかは、別の関連能力にかかっています。それは、AIが脆弱なソフトウェアにパッチを適用する能力であり、そもそも安全なコードを書く能力に密接に関連しています。 今日のAIはこれにあまり得意ではありません。AIが作成するインスタントソフトウェアは、AIが安全でないコードを記述することと、コーディングする人々がセキュリティを理解していないことの両方から、一般的に脆弱性に満ちています。**OpenClaw**はその良い例です。 未知数2は、AIが安全なコードを書く能力をどれだけ向上させるかです。それらが不適切に記述され、安全でないコードの巨大なコーパスでトレーニングされているという事実はハンディキャップですが、それらは改善しています。それらが信頼性の高い脆弱性のないコードを書くことができるなら、それは防御者にとって計り知れない利点となるでしょう。そして、AIベースの脆弱性発見により、AIが安全なコードを書くためのトレーニングが容易になります。 脆弱性を発見し、パッチを適用するAIツールが、典型的なソフトウェア開発プロセスの一部となる未来を想像できます。コードが脆弱性のないものになるとは言えません。それは不可能な目標です。しかし、容易に見つけられる脆弱性のないものにすることはできます。技術が本当に良くなれば、コードは実質的に脆弱性のないものになる可能性があります。 ## パッチの遅延とレガシーソフトウェア 新しいソフトウェア（商用およびインスタントの両方）にとって、この未来は防御者に有利です。商用および従来のオープンソースソフトウェアについては、それほど単純ではありません。現在、世界はレガシーソフトウェアで満ちています。その多く（IoTデバイスのソフトウェアなど）には、更新するための専用セキュリティチームがありません。時にはパッチを適用できないこともあります。AIがソースコードにアクセスできない場合に脆弱性を発見するのが難しいのと同じように、AIが開発プロセスに組み込まれていない場合にソフトウェアにパッチを適用するのが難しくなります。 AIシステムが脆弱性を発見するのと同じくらい簡単にパッチを適用できるかどうかについては、それほど確信が持てません。なぜなら、パッチ適用はしばしばより全体的なテストと理解を必要とするからです。それが未知数3です。AIが発見した脆弱性に対して、どれだけ迅速に信頼性の高いソフトウェアアップデートを作成できるか、そして顧客がシステムをどれだけ迅速に更新できるかです。 今日、ベンダーがパッチを発行してから顧客がそのアップデートをインストールするまでの間に時間遅延があります。大規模な組織ソフトウェアの場合、その時間遅延はさらに長くなります。アップデートが基盤となるソフトウェアシステムを破損するリスクは、組織が更新をテストせずに展開するには大きすぎます。しかし、AIがパッチをより迅速かつ信頼性高く記述し、AI生成のツイン環境でテストすることで、そのプロセスをスピードアップするのに役立つなら、利点は防御者に行きます。そうでない場合、脆弱性がパッチされるまで、攻撃者にはシステムを攻撃するウィンドウが残ります。 ## 自己修復に向けて 真に楽観的な未来では、自己修復ネットワークを想像できます。AIエージェントは、商用およびカスタムAI生成ソフトウェアの絶えず進化するコーパスの脆弱性を継続的にスキャンし、発見時に自動的にパッチを適用します。 それが機能するためには、ソフトウェアライセンス契約を変更する必要があります。現在、ソフトウェアベンダーがセキュリティパッチのペースを制御しています。ソフトウェア購入者にこの能力を与えることは、互換性、修理権、および責任に関する影響を伴います。ここでの解決策は、技術ではなくポリシーの領域です。 防御側がレガシーソフトウェアの欠陥を発見できるが、信頼性高くパッチできない場合、そこが攻撃者が努力を集中する場所になります。その場合、継続的に進化するAI搭載の侵入検知を想像できます。これは、入力を継続的にスキャンし、脆弱なソフトウェアに到達する前に悪意のある攻撃をブロックします。実行中のコードの脆弱性を自動的にパッチするほど変革的ではありませんが、それでも価値があります。 これらの防御AIシステムのパワーは、互いに連携し、脆弱性とアップデートを共有できる場合に増加します。1つのAIによる発見は、影響を受けるソフトウェアを使用しているすべての人に迅速に広がる可能性があります。再び：防御者に有利です。 考慮すべき他の変数もあります。攻撃者と防御者の相対的な成功は、脆弱性がどれだけ豊富か、それらを見つけるのがどれだけ容易か、AIがより微妙で曖昧な脆弱性を見つけることができるかどうか、そして異なる攻撃者間の連携の度合いにも依存します。これらすべてが未知数4を構成します。 ## 脆弱性経済学 おそらく、AIはまず明白なものをクリーンアップするでしょう。これは、残りの脆弱性が微妙であることを意味します。それらを見つけるには、AIコンピューティングリソースが必要です。楽観的なシナリオでは、防御者は情報共有を通じてリソースをプールし、防御コストを効果的に償却します。何らかの理由で情報共有がうまくいかない場合、個々の防御者は独自の調査を行う必要があるため、防御ははるかに高価になります。しかし、インスタントソフトウェアはコードの多様性を大幅に増加させます。これは防御者に有利です。 これは、攻撃者が脆弱性を発見する相対的なコストとバランスを取る必要があります。攻撃者はすでに、新しい脆弱性を発見し、新しいエクスプロイトを作成するコストを償却するための固有の方法を持っています。それらはクロスプラットフォーム、クロスベンダー、クロスシステムで脆弱性を検索でき、それらを使用して複数のターゲットを同時に攻撃できます。共通の脆弱性を修正するには、しばしばすべての関連プラットフォーム、ベンダー、およびシステム間の協力が必要です。再び、インスタントソフトウェアは防御者に有利です。 しかし、それらの見つけにくい脆弱性はより価値が高くなります。攻撃者は、今日の主要な諜報機関が行っていることを試みるでしょう。