この措置は、AI技術の潜在的な悪用に対する大きな反発と監視を受けて行われたものです。2023年に発表されたGrokは、画像操作を含む様々な種類のコンテンツを生成するように設計されています。ユーザーが、Grokに現実の人物を危険な状況に陥れるディープフェイクを作成させることができることを発見した際に、懸念が生じました。

英国政府はこの発表に対し、XにGrokを管理するよう求めてきたことへの「正当性」であると述べました。規制当局Ofcomもこの意見に同調し、この変更を「歓迎すべき進展」と評価しましたが、プラットフォームが英国の法律に違反したかどうかについての調査は「現在も継続中」であると強調しました。Ofcomは、「この件を迅速に進展させ、何が問題だったのか、そしてそれを解決するために何が行われているのかについて、答えを得るために昼夜を問わず取り組んでいます」と述べています。

リズ・ケンダル技術担当大臣もこの変更を歓迎しましたが、「Ofcomによる継続的な調査によって、事実が完全に、そして確実に確立されることを期待する」と付け加えました。

Grokの悪用を防ぐためにXが実施した具体的な技術的措置は、発表では詳しく説明されていません。しかし、同社は、そのようなディープフェイクの作成と配布が違法である管轄区域では、制限が適用されることを示唆しました。これは、ユーザーの所在地に基づいてAIの機能を制限する、ジオフェンシングのアプローチを示唆しています。

キャンペーン活動家や被害者は、この変更は遅すぎたと表明し、この技術によってすでに被害が発生していると主張しています。この技術の影響を受けたジャーナリストでありキャンペーン活動家のジェス・デイビス氏は、より強力な規制と予防措置の必要性を訴えています。

この事件は、AI技術の規制とその悪用防止における継続的な課題を浮き彫りにしています。XがGrokの機能を制限するという決定は正しい方向への一歩ですが、プラットフォームの初期の監督体制や、他のAIツールで同様の問題が発生する可能性についても疑問を投げかけています。この決定が業界に与える影響は、AI搭載プラットフォームに対する監視の強化と、責任あるAIの開発と展開へのより大きな重点につながる可能性があります。