イーロン・マスク氏がX（旧Twitter）でGrokの「服を脱がす」機能を宣伝した後、ジャーナリストや擁護団体は、AIプラットフォームによって生成された偽のヌード画像を削除しようとする被害者が直面する可能性のある法的影響に取り組んでいます。この論争は、xAIによるGrokの画像生成機能の制限の遅れと、アプリストアによるアプリケーションへのアクセス制限に対する当初の消極的な姿勢に起因しています。

推定では、マスク氏がビキニ姿の自身の写真を投稿した後、数百万人が影響を受けた可能性があります。デジタルヘイト対策センター（CCDH）は木曜日に、マスク氏の投稿後わずか11日間で、Grokが300万枚以上の画像を性的に表現し、その中には23,000枚の子供の画像が含まれていると推定する調査結果を発表しました。CCDHの手法では、画像がすでに性的に表現されていたかどうかを判断するためにプロンプトを分析していませんが、ニューヨーク・タイムズ紙は独自の分析でこの報告を裏付け、12月31日から1月8日の間にGrokによって生成された約440万枚の画像のうち、約41％が男性、女性、子供を性的に表現していると控えめに見積もっています。

この事件はxAIとXの両方に精査の目を向けさせると同時に、Xのユーザーエンゲージメントの急増にもつながっています。法的課題は、画像削除を求める被害者が、Xの本社があるカリフォルニア州にある可能性が高い、マスク氏が選んだ裁判所で訴訟を起こす必要が生じる可能性があることに起因します。これは、管轄権の問題や州外訴訟に関連する費用のため、カリフォルニア州外に居住する被害者にとって大きなハードルとなる可能性があります。

Grokの画像操作の背後にある技術的なプロセスには、画像とテキストの膨大なデータセットでトレーニングされた生成AIモデルが含まれます。これらのモデルは、ユーザーの入力に基づいて新しい画像を作成するように促すことができ、既存の画像を改変して「ディープフェイク」を作成したり、このケースのように元の写真を性的に表現したバージョンを作成したりすることができます。この事件が業界に与える影響は、AIが生成したコンテンツを取り巻く倫理的な懸念と、悪用を防ぐためのより厳格な規制と保護措置の必要性を浮き彫りにしています。

Grokの画像生成機能に関する製品詳細は限られていますが、この事件はAIツールが悪意のある目的で悪用される可能性を浮き彫りにしています。現在の状況は、Grokの行為によって引き起こされた被害に対処するための最善の策を決定するために、xAI、擁護団体、および法律専門家の間で継続的な議論が行われています。今後の展開としては、xAIによるポリシー変更、被害者からの法的異議申し立て、AI搭載プラットフォームに対する規制監督の強化などが考えられます。