オランダの裁判官は木曜日、AIアシスタント「Grok」に対し、同意なしにヌード画像を生成することを停止するよう命じました。同社のこの慣行を抑制する努力は、十分ではなかった可能性があると主張しています。 イーロン・マスク氏が所有するxAI傘下のGrokは、判決によると、従わない場合、1日あたり10万ユーロ（11万5000ドル）の損害賠償を支払うことを余儀なくされます。また、xAIが問題を是正しない場合、最大1000万ユーロ（1150万ドル）の損害賠償が課される可能性もあるとされています。 XとGrokは今年初め、ユーザーが未成年者を含む個人の性的な文脈での改変画像を生成・共有することを許可したことで批判を浴びました。欧州委員会は両社を調査しており、欧州理事会は、AIによるヌード化ツールの禁止を含むよう、ブロックのAI法を改正する提案を発表しました。 裁判官は、Xは非合意のヌードの拡散を阻止するためにいくらかの作業を行ってきたと述べましたが、Offlimitsという非営利団体によって提出された証拠は、その変更が実際に機能しているかどうか不明であることを示唆していると付け加えました。プラットフォームは、「被告が実際に主張していることを実行することを保証する」ために罰金の対象となるべきだと裁判官は述べました。 さらに、裁判所はxAIに対し、「オランダの法律で児童ポルノに該当する画像を生成する機能の使用に関して、オランダ国内での性的画像の生成、配布、提供、公衆への表示、および/または所持」を禁止しました。 Xの広報担当者は、コメントの求めにすぐには応じませんでした。 Xは、1月、昨年12月下旬から短期間でチャットボットが共有した数百万ものヌード画像に対する世界的な反発を受けて、Grokのヌード化機能を制限したと述べています。 当時発表された声明で、Xは「私たちはXをすべての人にとって安全なプラットフォームであり続けることにコミットしており、児童性的搾取、非合意のヌード、および望まない性的コンテンツのいかなる形態に対してもゼロトレランスを継続します」と述べました。 Offlimitsは裁判所の決定を称賛しました。「今日、裁判所は明確な一線を引きました。テクノロジーはオンラインでの人権侵害のライセンスではありません」と、OfflimitsのマネージングディレクターであるRobbert Hoving氏は声明で述べました。「Grokは被害者の場所を考慮しないため、この画期的な判決はオランダ国境を越えて適用され、世界中で有効です。」 「メッセージは明確です。人間の尊厳は常に商業的利益に優先します。」