イーロン・マスク氏のAIチャットボットGrokは、ディープフェイク、特に女性や子供を含む性的な性質のものの作成をめぐる論争の高まりを受け、ソーシャルメディアプラットフォームX上での画像生成機能を制限し、有料購読者のみに機能を限定しました。金曜日にXユーザーに発表されたこの措置は、マスク氏とXに対するAIツールの誤用に対処するよう求める圧力の高まりを受けたものです。

Xとは独立して動作するスタンドアロンのGrokアプリケーションは、購読状況に関係なく、すべてのユーザーが引き続き画像を生成できます。この部分的な制限は、マスク氏がGrokのオンライン画像の改ざん能力、特に被写体の衣服を削除する能力に関して、複数の国から罰金や公的な批判を受ける可能性に直面した後に実施されました。

ディープフェイクとは、AIが生成したメディアであり、誰かが実際には行っていないことや言っていないことを説得力を持って描写するもので、高度な機械学習アルゴリズムに依存しています。敵対的生成ネットワーク（GAN）がよく使用され、2つのニューラルネットワークを対立させます。1つは偽のコンテンツを生成し、もう1つはそれを検出しようとします。この反復プロセスにより、ますますリアルな偽造品が生成されます。GrokのようなAIツールのアクセシビリティは、ディープフェイク作成への参入障壁を下げ、名誉毀損、ハラスメント、誤情報の拡散など、悪意のある使用の可能性に対する懸念を高めています。

欧州委員会は月曜日、Grokによって生成された「ぞっとするような子供のようなディープフェイク」の事例を調査していると発表しました。広範な非難の中、イーロン・マスク氏は最近、Grokを使用して違法なコンテンツを作成した者は、そのような素材を直接アップロードした場合と同じ結果に直面すると述べました。

英国もまた、Xに対し、親密なディープフェイク画像の拡散に対する対策を講じるよう圧力をかけています。AI技術の急速な進歩は、ディープフェイクに関連するリスクを軽減するために、規制とコンテンツモデレーションに対する積極的なアプローチを必要としています。現在の状況は、AIの開発と展開におけるイノベーションと倫理的配慮のバランスを取るという、現在進行中の課題を浮き彫りにしています。Xとスタンドアロンアプリの両方におけるGrokの画像生成機能の将来は、同社がこれらの複雑な問題に対処するにつれて、依然として不確実です。