有害な性的なディープフェイクに対する制限を導入するという約束にもかかわらず、イーロン・マスク氏のGrok ImagineジェネレーティブAIシステムは、非合意の露骨な画像や動画の作成とホスティングに関与し続けています。最近の公開された生成物の分析により、数十件の性的なAI画像や動画が発見され、中にはフォトリアルで、有名人や政治家を含む現実世界で起こりうるシナリオを描写したものもありました。 ### 継続する問題と公開共有 WIREDはGrok.comでホストされている数百件の公開Grok Imagineリンクをレビューし、非合意の露骨なコンテンツの多数の事例を発見しました。これらのリンクの一部は後にX（旧Twitter）で共有され、そのような素材の拡散を制御するプラットフォームの能力に対する懸念を引き起こしました。生成物はデフォルトで公開されるわけではないようですが、発見された投稿は潜在的な誤用のスナップショットを表しています。 ### 競合他社と比較した不十分なセーフガード ディープフェイクの専門家であるヘンリー・アジェダー氏のような専門家は、Grokの安全ガードレールを批判し、他の主要なジェネレーティブAIツールと比較して不十分であると述べています。「GrokとXはモデルにいくつかの修正を加えたかもしれませんが…他の主要なツールが提供する標準にまで引き上げるには、まだ十分な仕事をしていない」とアジェダー氏はコメントしています。 ### 法的課題と規制上の精査 xAIは、1月にGrokがXに統合されたことで「ヌード化」画像の洪水が発生して以来、一連の訴訟と規制上の精査に直面しています。カリフォルニアで提起された集団訴訟によると、これらの事例には明らかに未成年者の画像が性的に対象化されたものが含まれているとされています。xAIはセーフガードを導入し、児童性的虐待資料（CSAM）を禁止していると主張していますが、問題は続いています。 WIREDからの問い合わせの後、Grok.com上のいくつかの露骨な画像や動画が削除され、Xで共有されたGrok Imagineリンクはポリシー違反で削除されました。Xの安全アカウントは、「非合意の露骨なディープフェイクの生成や、実在の人物を裸にするために当社のツールを使用することを厳しく禁止しています」と改めて表明しました。 ### 憂慮すべきコンテンツと回避戦術 特定されたコンテンツの中には、有名人やアレクサンドリア・オカシオ＝コルテス米国下院議員が性的に示唆的で非合意のシナリオで描かれた画像や動画がありました。これらの素材の一部を生成するために使用されたプロンプトは、OpenAIのChatGPT、Meta AI、AnthropicのClaudeのような競合他社によって不適切として拒否されました。GoogleのGeminiは類似の画像を1つ作成しましたが、別のプロンプトは拒否しました。 注目すべきは、Xにも投稿されたGrok Imagineの動画で、マスク氏の元パートナーで子供の母親であるアシュリー・セントクレア氏がビキニ姿で踊っているように見えるものでした。セントクレア氏は、同様のディープフェイクがXに登場したとされる後、1月にxAIに対して法的措置を開始しました。 セントクレア氏の弁護士であるキャリー・ゴールドバーグ氏は、AIによるデジタルヌード画像の即時公開という前例のない性質を強調しました。デジタルヘイト対策センター（CCDH）のCEOであるイムラン・アーメド氏は、これらの懸念を繰り返し、イーロン・マスク氏は「プラットフォームに、ユーザーがボタンをクリックするだけで女性や子供を裸にするのを助ける、倒錯した機能を知的に追加した」と主張しています。 ### 「スパイシー」および「アンヒンジド」モードが非難の的に 他のジェネレーティブAIシステムとは異なり、GrokとxAIは性的なコンテンツを許可することにためらっておらず、以前から「スパイシー」および「アンヒンジド」モードを導入していました。マスク氏は、Grokは「想像上の成人人間の上半身の裸を許可する」べきであり、R指定映画のコンテンツと一致すると述べています。最新のxAI利用規約では、システムが「性的な状況」で応答する可能性があると記載されていますが、同時にユーザーが「危害を引き起こしたり、虐待的な活動に従事したりすること」を禁止しています。 研究者によると、XとGrokによって導入された変更により、実在の人物の「ヌード化」画像を生成することが難しくなりましたが、ユーザーはプロンプトで迂回的な説明を使用してセーフガードを回避しており、露骨で完全にAI生成されたコンテンツの作成につながっています。 ### 財務的および規制上の結果 SpaceXのIPOを前に、同社は潜在的な投資家に対し、Grokに関連する訴訟を含む継続的な法的苦情に対処するために5億3000万ドルを確保したと警告しています。5月の提出書類では、「評判への損害、潜在的に露骨なコンテンツや誤情報または欺瞞的な出力の生成、潜在的な非合意または搾取的な画像の生成を含む、リスクの増大」を認識しています。 さらに、カナダのプライバシーコミッショナーは最近、xAIとGrokのディープフェイク違反に関する調査の予備的な調査結果を発表しました。この調査では、xAIが「当初から適切なセーフガードを導入しなかった」ことで、カナダの連邦民間部門プライバシー法に違反したと主張しています。xAIは新しいセーフガードを導入したと主張していますが、継続的な問題は、ポリシーと実践の間に大きなギャップがあることを示唆しています。