カリフォルニア州司法長官のロブ・ボンタは、イーロン・マスクのAIモデル「Grok」に対し、性的露骨なAIディープフェイクの生成と拡散に関する懸念から調査を開始した。水曜日に発表されたこの調査は、Grokを開発する企業であるxAIが作成し、オンラインに投稿したとされる素材に焦点を当てている。

ボンタは「xAIがここ数週間で作成し、オンラインに投稿した、同意のない性的露骨な素材に関する報告の雪崩は衝撃的だ」と述べた。この調査は、AIの安全性と、技術の悪用を防ぐ開発者の責任について重要な疑問を提起している。

この調査は、AIが悪意のある目的のために兵器化される可能性を浮き彫りにし、ますます高度化するAI技術に関連するリスクを軽減するための規制と倫理的ガイドラインに関する議論を促している。この展開は、英国の首相であるキア・スターマー卿が、マスクが所有する旧TwitterであるXに対して、起こりうる措置を警告する中で起こった。

xAIは以前、「Grokを使用して違法なコンテンツを作成したり、促したりする者は、違法なコンテンツをアップロードした場合と同じ結果になる」と述べている。カリフォルニア州司法長官の調査は現在も進行中である。