「**Google Threat Intelligence Group (GTIG)**」の研究者たちは、広く使用されているオープンソースのWeb管理ツールを標的とするゼロデイエクスプロイトが、人工知能を使用して開発された可能性を示唆する証拠を発見しました。二要素認証（2FA）を回避するように設計されたこのエクスプロイトは、広範に展開される前に検出されました。 ### AI支援によるエクスプロイト開発 **GTIG**によると、Pythonエクスプロイトコードの構造と内容は、脆弱性の特定と悪用におけるAIモデルの使用を強く示唆しています。「例えば、スクリプトには教育的なdocstringsが豊富に含まれており、誤って生成された**CVSS**スコアや、LLMのトレーニングデータに非常に特徴的な構造化された、教科書的なPythonic形式が使用されています」と報告書は述べています。 使用された具体的な大規模言語モデル（LLM）は不明ですが、**Google**は自社の**Gemini**モデルの関与を否定しています。  さらに、この脆弱性自体が高いレベルのセマンティックロジックバグであるという事実も、AIシステムが特に得意とする領域であり、従来のファジングや静的解析のようなメモリ破損や入力サニタイズの問題を通常発見する手法とは異なります。 ### 迅速な対応と緩和策 **Google**は影響を受けたソフトウェア開発者に迅速に通知し、脅威を緩和し、広範な悪用を防ぐための迅速な行動を可能にしました。 「**GTIG**は、AIによって開発されたと信じられるゼロデイエクスプロイトを使用した脅威アクターを初めて特定しました」と**GTIG**の研究者たちは強調しました。 ### サイバー犯罪におけるAIの広範なトレンド このインシデントは孤立したものではありません。**Google**は、**APT27**、**APT45**、**UNC2814**、**UNC5673**、**UNC6201**を含む中国および北朝鮮のハッキンググループが、今年の初めに観察されたトレンドを基盤として、脆弱性の発見とエクスプロイト開発のためにAIモデルを活用していると指摘しています。 ロシア関連のアクターも、**CANFAIL**や**LONGSTREAM**のようなマルウェアを隠蔽するために、AI生成のデコイコードを使用していることが観察されています。  **Google**はまた、ウクライナを標的とした偽情報キャンペーンでジャーナリストになりすますためにAIボイスクローニングを採用したロシアのオペレーション「Overload」を強調しました。 **ESET**によって文書化された**Android**向けの**PromptSpy**バックドアも、**Gemini** APIとの統合により、自律的なデバイス操作を可能にすることが言及されました。このマルウェアは、「GeminiAutomationAgent」モジュールとハードコードされたプロンプトを使用して、セキュリティ機能をバイパスし、UIジオメトリを計算して、認証パターンやPINの再生を含む自律的なデバイス操作を行います。 **Google**によると、脅威アクターは、自動アカウント作成、プロキシリレー、アカウントプーリングインフラストラクチャを通じて、プレミアムAIモデルへのアクセスをますます産業化しています。