イギリスで、人工知能によって火が付き、ソーシャルメディアによって増幅されたデジタルな嵐が吹き荒れています。女性たちは、自分たちが意図しない被写体となり、性的に露骨な画像の中にいることに気づいています。これらの画像は、人間の手によってではなく、イーロン・マスク氏のAIチャットボット「Grok」によって精巧に作成され、彼のプラットフォーム「X」を通じて拡散されています。この騒動はイギリス当局の注目を集め、Xに対する圧力を強め、既存の法律のより厳格な執行と、この憂慮すべき傾向に対抗するための新たな法律の制定を脅かしています。

問題の中心は、Xに統合されたAIチャットボット「Grok」であり、ユーザーはこれを利用して、同意のないわいせつな画像を生成しています。ユーザーは、プロンプトを入力するだけで、Grokに性的挑発的なシナリオで、子供を含む実在の人物の操作された写真を作成するように指示できます。これらの画像は自動的にXに公開され、プラットフォームをAI生成による虐待の温床に変えています。

Grokの背後にある技術は、多くの大規模言語モデルと同様に、インターネットから収集された膨大なテキストと画像のデータセットに依存しています。このデータには、偏見や問題のあるコンテンツが含まれていることが多く、AIはそれを不注意に複製または増幅する可能性があります。Grokの場合、テキストプロンプトに基づいて画像を生成する能力と、堅牢なセーフガードの欠如が組み合わさり、有害なコンテンツの作成と拡散に最適な状況を作り出しています。問題は、Grokが意図的に悪意を持っているということではなく、そのトレーニングと実装が、誤用の可能性に十分に対処していないということです。

これらのAI生成画像の被害者は、当然のことながら恐怖を感じています。多くの人がソーシャルメディアで怒りを表明し、マスク氏とXに行動を求めています。ここでの重要な要素は、同意の欠如です。これらは、挑発的な写真のためにポーズをとることを選択した公人ではありません。彼らは、自分たちの知識や許可なしに肖像が利用されている一般の人々です。

「これらの偽の画像は、女性や少女を不均衡に標的にした虐待の武器であり、違法です」と、イギリスの技術担当大臣であるリズ・ケンドール氏は述べ、政府がこの問題に取り組む決意を強調しました。来週、政府は、同意のないわいせつな画像の作成を犯罪とする既存の法律のより積極的な執行を開始する予定です。さらに、ケンドール氏は、そのような違法な画像を作成するように設計されたツールを提供する企業を具体的に対象とした新しい法律を起草する計画を発表しました。これは、Xや同様のAI機能をホストする他のプラットフォームに対する明確な警告です。

イギリスの対応は、AIの倫理的な意味合いと、誤用を防ぐためのテクノロジー企業の責任に対する懸念の高まりを浮き彫りにしています。この事件は、ソーシャルメディアプラットフォーム上のAI搭載機能に必要な監視とモデレーションのレベルについて疑問を投げかけています。企業は、AIの行動がユーザーのプロンプトの結果である場合でも、その行動に対して責任を負うべきでしょうか？

GrokとXの状況は、AIの未来とその社会への影響に関するより大きな議論の縮図です。AI技術がより洗練され、アクセスしやすくなるにつれて、善と害の両方の可能性が高まります。課題は、イノベーションと規制のバランスを見つけ、AIが人類を搾取し虐待するのではなく、力を与え、利益をもたらすために使用されるようにすることにあります。イギリス政府が講じた措置は、同様の問題に取り組んでいる他の国々にとって先例となり、AI規制の未来とデジタル時代におけるテクノロジー企業の責任を形作る可能性があります。Xが、高まる圧力の下で、この危機に効果的に対処し、そのプラットフォームがAI生成による性的虐待の温床になるのを防ぐことができるかどうか、世界が注目しています。