セキュアなコミュニケーションアプリ**Signal**の創設者であり、広く利用されているオープンソース暗号化プロトコルで知られるプライバシー擁護活動家**Moxie Marlinspike**氏は、今週、自身のプライバシー重視AIプラットフォーム**Confer**が**Meta**のAIシステムへの統合を開始すると発表しました。 毎日、**Signal**、**Meta**傘下の**WhatsApp**、**Apple**のMessagesを通じて送信される数十億ものメッセージは、エンドツーエンド暗号化によって保護されています。この機能は、テクノロジー企業などがメッセージを盗聴することを防ぎ、すでに主流となっています。しかし、生成AIプラットフォームの人気が高まるにつれて、AIチャットボットとの毎日の数十億もの対話にはこの保護がなく、AI企業がアクセス可能になっています。 # プライバシー重視AIへの推進 プラットフォームはしばしば広範なユーザーデータでAIモデルをトレーニングするため、オプトアウトが困難になっています。チャットボットやAIエージェントの能力が向上するにつれて、技術者や企業は、より制約的でプライバシー重視のシステムを推進しています。 「LLMがより多くのことを実行できるようになるにつれて、さらに多くのデータがそれらに流れ込むことを期待すべきです」とMarlinspike氏は**Meta**との協力に関するブログ投稿で述べています。「現在、そのデータはプライベートではありません。AI企業、その従業員、ハッカー、召喚状、政府と共有されています。暗号化されていないデータの場合と同様に、最終的には間違った手に渡ることになります。」 Marlinspike氏は、「Conferのプライバシー技術を統合し、Meta AIの基盤となるように取り組む」と述べています。同氏は、今年初めにデビューした**Confer**が**Meta**とは独立して運営されることを強調しました。このプロジェクトは、「誰もがAIの全能力と暗号化された会話の全プライバシーを得られる」技術を提供することを目的としています。 # MetaとのMarlinspike氏の経歴 2016年、Marlinspike氏は**Meta**傘下の**WhatsApp**と協力し、10億以上のアカウントにエンドツーエンド暗号化を実装しました。最近、**WhatsApp**は、個別のチャットと同じ保護を欠く**Meta AI**チャットボットを導入しました。 **WhatsApp**の責任者であるWill Cathcart氏は、Xで**Confer**との協力について次のように述べています。「人々は非常に個人的な方法でAIを使用しており、機密情報へのアクセスが必要です。人々がプライベートにそれを行う力を与える方法でその技術を構築することが重要です。」 # 課題と今後の方向性 暗号化されたAIの採用はまだ初期段階です。従来のデジタル通信のための既存の暗号化スキームは、生成AIデータの保護に容易に翻訳できません。**Confer**は新しいプロジェクトであり、**Meta**との協力に関する具体的な詳細はまだ明らかになっていません。 ニューヨーク大学の暗号研究者である**Mallory Knodel**氏は、「Meta AIを使用するチャットボットを使用する人々が、その交換内で機密性とプライバシーを持つことは素晴らしいことだ」と考えています。Knodel氏によると、これは**Meta**がトレーニングのためにAIチャットデータをアクセスできないことを意味します。同氏は最近、エンドツーエンド暗号化とAIに関する研究を発表しました。「より多くのAIチャットボットがこのアプローチを採用することを本当に願っています。」 Knodel氏の初期評価では、**Confer**は完璧ではないものの、プライベートAIチャットボット構築に向けた重要な一歩であると示唆しています。 Taurusの最高セキュリティ責任者である暗号研究者**JP Aumasson**氏も**Confer**を肯定的に評価しています。「Conferは、あらゆることを考慮すると、おそらく最高のプライベートAIソリューションです。もちろん完璧ではありません。アーキテクチャ、脅威モデル、サプライチェーンのドキュメントが不足しています。しかし、Moxieは何をしているかを知っており、確かな実績があります。」 AIプラットフォーム向けの暗号化スキームの開発は複雑です。プライバシーに関する作業の多くは、アクセス可能なオープンソースモデルに焦点を当てるか、AI企業とエンドユーザーの間にプライバシーレイヤーを作成することに集中してきました。Marlinspike氏は、「Conferの技術は、オープンウェイトモデルの上に構築されてきました。多くの人々がさまざまなタスクでConferを使用することを好む一方で、プロプライエタリモデルの最先端の機能を見逃している人もいます。」と述べています。 **Meta**との協力は、Marlinspike氏にクローズドモデルと直接協力する機会を提供します。「Metaは最先端のモデルを構築しているため、これは世界で最もプライベートなAIチャット技術と世界で最も有能なAIモデルを組み合わせることになります」と彼は書いています。 研究者たちは、この協力がすべての目標を達成するかどうかに関わらず、その重要性を強調しています。 TaurusのAumasson氏は次のように結論付けています。「信頼できるコンピューティング、少なくとも1990年代にさかのぼる概念であるMoxieの提案は、私にとって健全です。基本的な仮定と制限はよく理解されています。これも完璧ではありませんが、ほとんどのユーザーには十分でしょう。課題は、Anthropic、Google、OpenAIの最新の最先端モデルと同等のモデルをサポートすることです。」