イーロン・マスク氏のAIツール「Grok」は、現実の人物の写真を編集してわいせつな服装で描写することが、そのような改変が違法となる地域ではできなくなると、マスク氏が所有するソーシャルメディアプラットフォーム「X」上で発表されました。この決定は、同ツールによって生成される性的なAIディープフェイクの可能性に関する広範な懸念を受けたものです。

Xは、Grokアカウントが現実の人物の画像をわいせつな服装で編集することを防ぐための技術的措置を実施したと述べています。この動きは、AI技術の悪用による非同意のわいせつな画像の作成の可能性に対する批判と監視を受けてのことです。

英国政府はこの発表に対し、XにGrokを管理するよう求めたことの「正当性を示すもの」と評価しました。英国の通信規制当局であるOfcomは、この変更を「歓迎すべき進展」と述べましたが、プラットフォームが英国の法律に違反したかどうかについての調査は「継続中である」と指摘しました。Ofcomは、「この件を迅速に進め、何が問題だったのか、そしてそれを修正するために何が行われているのかについて解明するために、昼夜を問わず取り組んでいます」と述べています。

リズ・ケンダル技術担当大臣はこの動きを歓迎しましたが、事実を完全に究明するためにはOfcomによる継続的な調査が重要であることを強調しました。

活動家や被害者は、この変更は遅すぎると表明し、すでに与えられた被害を元に戻すものではないと主張しています。ジャーナリストであり活動家のジェス・デイビス氏は、提供されたソース資料には直接引用されていませんが、AI生成コンテンツに対するより厳格な規制を声高に主張してきた可能性があります。

2023年にXで開始されたGrokは、テキストと画像を生成するように設計されたAIモデルです。ディープフェイクの作成を防ぐために実施された具体的な技術的措置は、発表では詳しく説明されていません。しかし、そのような措置には通常、画像を性的に露骨な方法で変更しようとするリクエストを検出し、ブロックするように設計されたアルゴリズムが含まれます。これらのアルゴリズムは、画像コンテンツとユーザープロンプトを分析して、潜在的に有害なリクエストを特定できます。

この事件は、AI技術の倫理的な影響、特にディープフェイクの作成や誤った情報の拡散における悪用の可能性に関する懸念の高まりを浮き彫りにしています。業界は、イノベーションと個人を危害から保護する必要性とのバランスを取るという課題に取り組んでいます。この開発はまた、AIツールによって生成されたコンテンツを監視および管理するためのソーシャルメディアプラットフォームに対する規制圧力の高まりを浮き彫りにしています。

現在の状況は、技術的措置が実施されていますが、Ofcomの調査が継続されていることです。今後の展開としては、Ofcomの調査結果と、潜在的なさらなる規制措置が考えられます。