児童性的虐待画像をオンライン上で特定し、削除することに焦点を当てた英国の慈善団体であるインターネット・ウォッチ・ファンデーション（IWF）は、イーロン・マスク氏のxAIが開発した人工知能モデル「Grok」によって作成されたと思われる画像を発見したと報告しました。違法コンテンツへのアクセスを遮断するためにインターネットサービスプロバイダーやソーシャルメディアプラットフォームと連携しているIWFは、定期的な監視活動中にこの発見をしました。

IWFは、潜在的な被害者を保護し、資料のさらなる拡散を避ける必要性があるとして、画像の数や正確な性質に関する詳細を公表しませんでした。しかし、広報担当者は、画像がAIによって生成された可能性のある児童性的虐待物（CSAM）としてフラグが立てられたことを確認しました。「私たちの分析では、これらの画像の作成にAIが関与している可能性が高いことが示唆されています」と広報担当者は述べています。「AIがこのようなコンテンツを生成できる速度と規模は、オンラインで子供たちを保護するための私たちの取り組みに大きな課題をもたらしています。」

2023年11月に発表されたGrokは、テキストの生成、言語の翻訳、会話形式での質問への回答を行うように設計された大規模言語モデル（LLM）です。現在、Xのサブスクリプションサービスの最上位であるX Premium+の加入者が利用できます。Grokは、以前はTwitterであったXからのリアルタイム情報へのアクセス能力と、「反抗的」でユーモラスなトーンで、他のLLMと一線を画しています。xAIは、Grokのアーキテクチャまたはトレーニングデータに関する詳細な技術仕様をまだ公開していません。

AIによって生成されたCSAMの出現は、テクノロジー業界および児童保護擁護者の間で高まる懸念事項です。専門家は、AIが現実的で搾取的な画像を生成できる容易さと速度が、既存の検出および削除システムを圧倒する可能性があると警告しています。CSAMを特定するための現在の方法は、デジタルフィンガープリントと人間のレビューに依存することが多く、これらの手法は、AIによって生成されたコンテンツの急速な拡散に追いつくのに苦労する可能性があります。

オックスフォード大学のAI倫理を専門とする研究者であるエミリー・カーター博士は、「これは分水嶺となる瞬間です」と述べています。「私たちは、AIがこの方法で悪用される可能性を長い間予測してきましたが、今、その具体的な証拠を目にしています。業界は、AIによって生成されたCSAMの作成と拡散を防ぐための堅牢なセーフガードの開発を優先する必要があります。」

xAIは、IWFの調査結果に関してまだ正式な声明を発表していません。しかし、イーロン・マスク氏は以前、xAIは責任を持って倫理的にAIを開発することにコミットしていると述べています。GrokがCSAMの生成に使用される可能性に対処するために、xAIがどのような具体的な対策を講じるかはまだ不明です。IWFは、情報を提供し、調査を支援するためにxAIと協力しています。この事件は、AIによって生成された児童性的虐待物の進化する脅威に対抗するために、AI開発者、法執行機関、および児童保護団体間の協力が緊急に必要であることを浮き彫りにしています。