この措置は、規制当局と一般からの大きな反発と監視を受けて行われたものです。英国政府は、この決定をXに対しGrokの能力を制御するよう求めたことの「正当性を示すもの」と評価しました。英国の通信規制当局であるOfcomは、この変更を「歓迎すべき進展」と述べましたが、プラットフォームが英国の法律に違反したかどうかについての調査は「現在も継続中」であることを強調しました。Ofcomは、「この件を迅速に進展させ、何が問題だったのか、そしてそれを解決するために何が行われているのかについて解明するため、昼夜を問わず取り組んでいます」と述べています。

リズ・ケンダル技術担当大臣もこの変更を歓迎しましたが、「Ofcomによる継続的な調査によって、事実が完全に、そして確実に立証されることを期待する」と述べました。

Grokがこれらの種類の画像を生成するのを防ぐためにXが実施した具体的な技術的措置は、発表では詳しく説明されていません。しかし、そのような措置には通常、写真に写っている実在の人物を識別するように設計された画像認識アルゴリズムや、AIが性的に露骨なコンテンツやわいせつなコンテンツを生成するのを防ぐフィルターなど、さまざまな技術の組み合わせが含まれます。これらのフィルターは、不適切な出力を検出してブロックするように訓練された機械学習モデルに依存していることがよくあります。

Grokの画像編集機能をめぐる論争は、AIが非同意のディープフェイク、特に性的な性質のディープフェイクを作成するために使用される可能性に対する懸念の高まりを浮き彫りにしています。活動家や被害者は、この技術によってすでに引き起こされた被害を元に戻すには、今回の変更は遅すぎると主張しています。ジャーナリストであり活動家のジェス・デイビスは、提供されたソース資料には直接引用されていませんが、より厳格な規制を提唱してきた人々の1人である可能性が高いです。

この事件は、ソーシャルメディアプラットフォームがAIを活用したツールを規制し、その悪用を防ぐ上で直面する課題を浮き彫りにしています。AI技術がより高度化し、アクセスしやすくなるにつれて、堅牢なセーフガードと倫理的ガイドラインの必要性がますます重要になっています。業界への影響は大きく、より厳格な規制や、ソーシャルメディアプラットフォーム上のAIアプリケーションに対する監視の強化につながる可能性があります。現在の状況は、技術的措置が実施され、Ofcomの調査が進行中であるということです。今後の展開としては、Ofcomの調査結果や、AIが生成するディープフェイクに関連するリスクに対処するための規制当局や議員によるさらなる措置が考えられます。