イーロン・マスク氏のAIツール「Grok」は、現実の人物の写真を編集し、露骨な服装をさせた画像を、そのような改変が違法となる管轄区域では作成できなくなる。マスク氏が所有するソーシャルメディアプラットフォーム「X」上での発表は、性的なAIディープフェイクの可能性に関する広範な懸念を受けたものだ。

Xは、「Grokアカウントが現実の人物の画像を露骨な服装で編集することを許可しないようにするための技術的措置を実施した」と述べた。この動きは、AIツールの潜在的な悪用に対する批判と規制当局の監視を受けたものだ。

英国政府はこの変更に対し、XにGrokの管理を求めたことの「正当性を示すもの」と評価した。英国の通信規制当局であるOfcomは、この進展を「歓迎する」と述べたが、Xが英国の法律に違反したかどうかについての調査は「依然として継続中」であることを強調した。Ofcomは、「この件を迅速に進め、何が問題だったのか、そしてそれを解決するために何が行われているのかについて回答を得るために、昼夜を問わず取り組んでいる」と述べた。

リズ・ケンダル技術担当大臣もこの変更を認めつつも、「Ofcomによる継続的な調査によって、事実が完全に、そして確実に立証されることを期待する」と述べた。

2023年に発表されたGrokは、Xプラットフォームに統合されたAIツールである。その機能には画像編集が含まれており、特に非合意的なディープフェイクの作成において、悪用の可能性に関する懸念が高まっている。実施された技術的措置は、AIが現実の個人を、本人の同意なしに性的に露骨な、または露出度の高い状況で描写した画像を生成することを防ぐことを目的としている。

活動家や被害者は、この変更は遅きに失しており、すでに生じた被害を元に戻すものではないと主張している。ジャーナリストであり活動家でもあるジェス・デイビス氏は、AIによって生成された虐待に対するより強力な安全策の必要性を訴えてきた。

Grokがそのような画像を生成することを防ぐためにXが実施した具体的な技術的措置は、発表では詳しく説明されなかった。しかし、そのような措置には通常、コンテンツフィルタリング、画像認識アルゴリズム、およびAIが処理できるプロンプトの種類の制限の組み合わせが含まれる。これらのフィルターは、不適切または有害なコンテンツの作成につながる可能性のあるリクエストを検出し、ブロックするように設計されている。

この事件は、AIを活用したツール、特に画像操作とディープフェイク技術の分野における、増大する課題と倫理的考慮事項を浮き彫りにしている。AI技術の進歩に伴い、開発者とプラットフォームは、悪用を防ぎ、個人を危害から保護するための安全策を実施するよう、ますます圧力を受けている。Ofcomによる継続的な調査は、規制当局の介入の可能性と、AIによって生成されたコンテンツに関する地域の法律および規制をプラットフォームが遵守する必要性を強調している。