イーロン・マスク氏のAIツール「Grok」は、Xでの発表によると、現実の人物の写真を編集してわいせつな服装で描写することが、そのような改変が違法となる地域ではできなくなる。この決定は、プラットフォームによって生成される性的なAIディープフェイクの可能性に関する広範な懸念を受けたものだ。

マスク氏が所有するソーシャルメディアプラットフォームであるXは、Grokアカウントが現実の人物の画像をわいせつな服装で編集することを防ぐための技術的措置を実施したと述べた。この動きは、AIツールの潜在的な悪用に対する批判と規制当局の監視を受けてのものだ。

英国政府はこの変更に対し、XにGrokを管理するよう求めた以前の呼びかけに対する「正当性」だと述べた。規制当局Ofcomは、この進展を「歓迎する」と述べたが、プラットフォームが英国の法律に違反したかどうかについての調査は「継続中である」と強調した。Ofcomは、「この件を迅速に進め、何が問題だったのか、そしてそれを修正するために何が行われているのかについて答えを得るために、昼夜を問わず取り組んでいる」と述べた。

リズ・ケンダル技術担当大臣もこの動きを歓迎したが、「Ofcomによる継続的な調査によって、事実が完全に、そして確実に確立されることを期待する」と述べた。

2023年にXで開始されたGrokは、画像編集を含むさまざまな種類のコンテンツを生成するように設計されたAIツールである。ディープフェイクの作成を防ぐためにXが実施した具体的な技術的措置は、発表では詳しく説明されなかった。しかし、そのような措置には通常、プラットフォームのポリシーおよび法的規制に違反する方法で画像の操作を検出し、防止するように設計されたアルゴリズムが含まれる。

活動家や被害者は、この変更は遅すぎると主張しており、テクノロジーによってすでに引き起こされた害を元に戻すものではないと主張している。ジャーナリストであり活動家のジェス・デイビスは、提供されたソース資料で直接引用されてはいないが、プラットフォームの当初の安全対策の欠如を批判してきた可能性が高い。

この事件は、AIによって生成されたコンテンツとその悪用の可能性、特にディープフェイクの作成における懸念の高まりを浮き彫りにしている。業界は、AIツールを開発すると同時に、悪意のある目的での使用を防ぐという課題に取り組んでいる。規制の状況も進化しており、世界中の政府や規制機関が、AIによって生成されたコンテンツに関連するリスクに対処するための措置を検討している。

現在の状況は、Xが技術的措置を実施し、Ofcomの調査が継続中であることだ。次の展開としては、Ofcomの調査結果と、XのAI安全対策に対するさらなる精査が予想される。