2024年後半、私たちは**Google**と**Amazon**に対し、イスラエル国防省およびイスラエル保安庁を含むクラウドコンピューティング契約であるプロジェクト・ニンバスがもたらすリスクに対処するため、人権へのコミットメントを遵守し、より透明性を高め、実質的な行動をとるよう求めました。それ以来、一連の追加報告が、私たちの懸念が正当であったことを裏付けています。しかし、深刻なリスクの証拠が増加しているにもかかわらず、両社は行動を拒否しています。 **Amazon**は、私たちの当初の書簡およびフォローアップ書簡に完全に無視を決め込んでいます。一方、**Google**は繰り返し私たちの質問に回答すると約束してきました。しかし、1年半以上が経過した現在も、どちらの企業からも実質的な行動は見られません。これらの企業が掲げる人権へのコミットメントを考慮すると、どちらのアプローチも容認できるものではありません。 さらに、**Microsoft**は、公に情報が漏洩するまで、イスラエル政府が自社のサービスを**Microsoft**の公的な人権へのコミットメントに違反する方法で誤用していることを調査し、発見する義務を感じませんでした。これは、**Google**と**Amazon**の両方にとって、詳細な調査を行い、その結果を公表する追加の理由となるはずでしたが、そのような動きは一切ありませんでした。 このような状況下で、決定的な証拠を待つことは、責任あるリスク管理ではなく、意図的な盲目です。 ### **Google：既知のリスク、実質的な行動なし** **Google**自身の社内評価では、プロジェクト・ニンバス契約締結前からそのリスクについて警告していました。主要な報道機関によると、**Google**はプロジェクト・ニンバスの下で、イスラエル政府に大規模なデータストレージ、画像・動画分析、AIモデル開発ツールを含む高度なクラウドおよびAIサービスを提供しています。これらの機能は非常に強力で、適応性が高く、監視および軍事用途に適しています。 これらの警告、およびその後イスラエル政府のまさにその部分が**Google**と**Amazon**のサービスを利用して人権侵害を行っているという複数の報告にもかかわらず、両社は通常通り事業を継続しています。彼らは、メディアや他の外部組織が国際人権法または人道法への具体的な違反に使用されたという決定的な証拠を提示しない限り、方針を変更したり、公に説明したりする必要はないという立場をとっているようです。すべての企業に対して決定的な公開証拠がまだ出ていないとしても、リスクは明白であり、彼らはそれを認識しています。**Amazon**と**Google**は、堅牢で透明性のある人権デューデリジェンスを実施する代わりに、常に見て見ぬふりをしています。 **Google**自身の社内評価は、その公的な姿勢を損なうものです。報道によると、**Google**の弁護士と政策担当者は、**Google Cloud**サービスが人権侵害の助長に関連付けられる可能性があると警告していました。同じ報告書で、**Google**の従業員は、同社のクラウドおよびAIツールが監視やその他の軍事化された目的で使用される可能性があると懸念を表明しており、これはイスラエル政府がパレスチナ人を管理・監視するために高度なデータ駆動型システムに長年依存してきたことを考えると、非常に可能性が高いと思われます。 **Google**は、プロジェクト・ニンバスは「高度に機密性の高い、機密情報または軍事的なワークロードを対象としたものではない」と公に主張し、標準の利用規約によって管理されていると述べています。しかし、報道によると、イスラエル政府は**Google**のクラウドカタログで提供されるあらゆるサービスをいかなる目的にも使用できる可能性を示唆するなど、契約条件に関して矛盾した表現が明らかになっています。**Google**はこれらの矛盾を公に解決することを拒否しており、その透明性の欠如は問題です。**Google**が公に述べていることと、内部で知っていることとの間には、同社の企業の人権へのコミットメントを真剣に受け止めたいと願う誰もが懸念すべきギャップがあります。 ### **GoogleとAmazonのAI原則は、積極的な行動を要求する** 昨年改訂された後も、**Google**のAI原則は、同社が技術の責任ある開発と展開を行うことを引き続き約束しており、これには適切な人間の監督、デューデリジェンス、および有害な結果を軽減し、広く受け入れられている国際法および人権の原則に沿ったセーフガードの実装が含まれます。改訂された原則は、もはや有害な使用の全カテゴリーを回避することを明示的に約束していませんが、それでも同社には予見可能なリスクを評価し、厳格な監視と緩和措置を採用し、AI開発と展開の全ライフサイクルを通じて責任ある行動をとることを求めています。 **Amazon**も同様に、AWSサービスの責任あるAIフレームワークを通じて、責任あるAIの実践に取り組むことを約束しています。同社は、AIの設計、開発、運用の全ライフサイクルにわたって責任あるAIの考慮事項を統合することを目指しており、公平性、説明責任、プライバシーとセキュリティ、安全性、透明性、ガバナンスなどのセーフガードを強調しています。**Amazon**はまた、AIサービスは、監視およびリスク緩和のためのメカニズムを備えて設計されており、有害な出力や誤用を防ぎ、さまざまなユースケースにわたって責任ある展開を可能にすると述べています。 **Google**と**Amazon**は、知識、交渉力、そして行動する責任を持っています。行動しないことも、依然として選択です。 ここでは、リスクは推測的なものでも、遠いものでもありません。それらは予見可能で、十分に文書化されており、プロジェクト・ニンバスが運用されている文脈、すなわち広範な民間人の被害とジェノサイドを含む重大な人権侵害の正当な申し立てを特徴とする進行中の軍事作戦によって悪化しています。このような状況下で、決定的な証拠を待つことは、責任あるリスク管理ではなく、意図的な盲目です。 最新のクラウドおよびAIシステムは、柔軟性、カスタマイズ性、および大規模展開が可能であり、多くの場合、ベンダーの直接的な可視性を超えています。その現実こそが、人権デューデリジェンスが積極的でなければならない理由です。**Microsoft**のケースで起こったような、直接的な誤用を示すリークされた文書や内部告発者の証言を待つことは、すでに損害が発生するまで待つことを意味します。 ### **Microsoftの経験は十分な警告となるはずだった** 前述のように、イスラエル軍による**Microsoft**のコミットメントに違反する形での**Microsoft**技術の誤用に関する最近の暴露は、この様子見アプローチの危険性を示しています。**Google**と**Amazon**は、同様のインシデントがなくても、何が危機に瀕しているかを認識する必要があるはずです。類似技術の実証された誤用は、プロジェクト・ニンバスに伴うリスクに関する**Google**と**Amazon**自身の知識と相まって、すでに措置を講じるのに十分であるはずです。 適切な対応は、責任ある、そして積極的な行動です。 **Google**と**Amazon**は直ちに以下を行うべきです： * プロジェクト・ニンバスの人権影響評価を実施し、公表する。 * 高リスクの政府契約において、AI原則の遵守をどのように評価、監視、強制するかを開示する。これには、特に