イーロン・マスク氏のAIツール「Grok」は、Xでの発表によると、現実の人物の写真を加工し、露骨な服装で描写することが違法となる地域においては、そのような加工ができなくなる予定です。この決定は、プラットフォームによって生成される性的なAIディープフェイクの可能性に関する広範な懸念を受けたものです。

イーロン・マスク氏が所有するソーシャルメディアプラットフォームであるXは、Grokアカウントが現実の人物の画像を露骨な服装で編集することを許可しないようにするための技術的措置を実施したと述べました。同社は2023年にGrokをローンチしました。

英国政府はこの変更に対応し、Xに対しGrokを管理するよう求めたことの「正当性を示すもの」と呼びました。英国の通信規制当局であるOfcomは、この動きを「歓迎すべき進展」と評しましたが、プラットフォームが英国の法律に違反したかどうかについての調査は「依然として進行中」であることを強調しました。Ofcomは、調査を進め、何が問題だったのか、そしてそれを修正するために何が行われているのかを特定するために取り組んでいると述べました。

リズ・ケンダル技術担当大臣はこの動きを歓迎しましたが、「Ofcomの継続的な調査によって、事実が完全に、そして確実に確立されることを期待する」と述べました。

活動家や被害者は、この変更は技術によってすでに引き起こされた被害を元に戻すには遅すぎると主張しています。ジャーナリストで活動家のジェス・デイビス氏も、懸念を表明している一人です。

Grokの背後にある技術は、多くのAI画像編集ツールと同様に、膨大な画像データセットでトレーニングされた深層学習モデルを利用しています。これらのモデルは、既存の画像をさまざまな方法で変更するために操作でき、衣服の追加または削除も含まれます。懸念が生じるのは、これらの機能が、しばしばディープフェイクと呼ばれる、合意なしの性的に露骨な画像を作成するために使用される場合です。

この決定が業界に与える影響はまだ不明です。他のAI画像編集プラットフォームも、同様の安全対策を実施するための監視と圧力の強化に直面する可能性があります。この事件は、急速に進歩するAI技術に関連する倫理的な課題と、誤用を防ぐための積極的な対策の必要性を浮き彫りにしています。