イーロン・マスク氏のAIツール「Grok」は、現実の人物の写真を編集し、露骨な服装で描写することが、そのような改変が違法となる管轄区域ではできなくなる。この発表は、マスク氏が所有し、2023年にGrokが発表されたソーシャルメディアプラットフォーム「X」で行われたもので、性的AIディープフェイクの可能性に関する広範な懸念を受けたものだ。

Xは、「Grok」アカウントが現実の人物の画像を露骨な服装で編集することを可能にしないための「技術的措置」が実施されたと述べた。この動きは、AI技術の悪用による非同意の性的コンテンツ作成の可能性に関して、規制当局や一般からの批判と監視を受けた後のものだ。

英国政府はこれに対し、XにGrokを管理するよう求めたことの「正当性」を示すものだと述べた。英国の通信規制当局であるOfcomは、この進展を「歓迎する」と述べたが、プラットフォームが英国の法律に違反したかどうかについての調査は「依然として進行中」であることを強調した。Ofcomは、「この問題を解決し、何がうまくいかなかったのか、そしてそれを修正するために何が行われているのかについて、昼夜を問わず取り組んでいる」と述べた。技術担当大臣のリズ・ケンドール氏もこの動きを歓迎し、「Ofcomの継続的な調査によって、事実が完全に、そして確実に確立されることを期待する」と付け加えた。

GrokのようなAIツールが画像を操作できることは、重大な倫理的および法的問題を提起する。既存の画像やビデオの中の人物が別の人に置き換えられる合成メディアであるディープフェイクは、ますます高度化しており、検出が困難になっている。これにより、非同意ポルノ、偽情報キャンペーン、および個人情報の盗難を含む、悪意のある目的での使用の可能性について懸念が高まっている。

Grokがそのような画像を作成することを防ぐためにXが実施した技術的措置は、発表では詳述されなかった。ただし、考えられる解決策としては、性的に露骨なコンテンツの作成を要求するプロンプトを検出してブロックするように設計されたフィルタリングアルゴリズムや、AIによって生成された画像が合成されたものであることを示すための透かしの追加などが考えられる。

キャンペーン参加者や被害者は、この変更はすでに引き起こされた被害を元に戻すには遅すぎると主張している。ジャーナリストでキャンペーン参加者のジェス・デイビス氏は、提供されたソース資料には直接引用されていないが、この問題に関する意識を高める活動に関与している可能性が高い。この事件は、急速に進化するAI技術を規制することの難しさと、その悪用を防ぐための積極的な対策の必要性を浮き彫りにしている。Ofcomによる継続的な調査では、XがGrokが悪意のある目的で使用される可能性をどの程度認識していたか、そしてそのような悪用を防ぐために同社がどのような措置を講じたか（もしあれば）が調査される可能性が高い。調査の結果は、ソーシャルメディアプラットフォームにおけるAI技術の規制に重大な影響を与える可能性がある。