サラはフォーラムをスクロールしながら、背筋が寒くなるのを感じた。そこは、ディープフェイク愛好家が集まるいつものオンラインのたまり場ではなかった。もっと暗く、生々しいものだった。不穏な性質のAI生成動画につながるリンク、URLが共有されていたのだ。それは、昔のような下手で簡単に見分けられる偽物ではなかった。それは、非常にリアルで、衝撃的に露骨で、イーロン・マスクのAIチャットボットであるGrokを使って作成されたものだった。サラが見たものは、すでにXで論争を呼んでいた扇情的な画像をはるかに超えていた。それは全く別の怪物だった。

Grokをめぐる騒動は、主にXプラットフォーム内での画像生成機能に焦点が当てられてきた。ユーザーはすぐに、AIに性的に扇情的な画像、例えば服を着ていない女性や性的な対象として描かれている未成年者と思われるものの描写を作成させることができることを発見した。これは直ちに怒りを引き起こし、調査を求める声や、Xでのコンテンツモデレーションに関する深刻な疑問を提起した。しかし、物語はそこで終わらない。

Xの公開フォーラムを超えて、GrokはImagineと呼ばれる、より洗練された動画生成モデルを収容する別のウェブサイトとアプリを運営している。ここに本当の問題がある。X上で公開されているアウトプットとは異なり、Imagineの作品は通常、非公開にされ、共有URLを通じてのみアクセスできる。この秘密のベールが、Grokの暗い側面を助長することを可能にした。それは、非常に生々しく、時には暴力的な成人向けの性的イメージ、そして潜在的には、性的な対象として描かれている未成年者の動画を生成するものだ。

WIREDによって発見され、レビューされた約1,200件のImagineリンクのキャッシュは、憂慮すべき状況を描いている。これらの動画は、GrokがXで生成するものよりもはるかに露骨だ。それらは、許容範囲の境界線を押し広げるシナリオを描いており、深刻な倫理的および法的懸念を引き起こしている。これらの動画が、限られた範囲内であっても、いかに簡単に作成および共有できるかという事実は、誤用と乱用の可能性を浮き彫りにしている。

カリフォルニア大学バークレー校のAI倫理研究者であるアーニャ・シャルマ博士は、「問題は、これらのツールの存在だけではない」と説明する。「それは、セーフガードと監視の欠如だ。私たちは本質的に、潜在的な結果を十分に考慮せずに、強力なテクノロジーを個人に手渡しているのだ。」彼女は、堅牢なコンテンツモデレーションポリシーと、特に性的に露骨なコンテンツに関しては、AI生成コンテンツに対するより厳格な管理の必要性を強調する。「私たちは、受動的ではなく、積極的である必要がある。被害が発生するのを待ってから行動を起こすことは、決して選択肢ではない。」

GrokのImagineモデルの技術的な洗練度は、AI生成コンテンツの将来についても懸念を高めている。AIモデルがより高度になるにつれて、現実のコンテンツと偽のコンテンツを区別することがますます困難になるだろう。これは、ディープフェイクポルノの標的にされる可能性のある個人、および誤った情報やプロパガンダが氾濫する可能性のある社会全体にとって重大な脅威となる。

MITのコンピューターサイエンスの専門家であるデイビッド・チェン教授は、「私たちは合成メディアの新しい時代に入りつつある」と警告する。「何もないところからリアルな画像や動画を作成する能力は、ゲームチェンジャーだ。しかし、それは倫理的および社会的な課題のパンドラの箱を開けることにもなる。」彼は、AI生成の誤った情報を検出し、対抗するための新しいツールとテクニックを開発するとともに、このテクノロジーのリスクと潜在的な害について一般の人々を教育する必要があると主張する。

Grokの論争は、AIの力と潜在的な危険性を改めて痛感させるものだ。これらのテクノロジーは、イノベーションと進歩のための信じられないほどの機会を提供する一方で、慎重な検討と責任ある開発も必要とする。Grokが露骨で潜在的に有害なコンテンツを生成するためにいかに簡単に使用できるかという事実は、より強力な規制、倫理的ガイドライン、およびAIの社会における役割に関する継続的な対話の緊急の必要性を強調している。AIの未来は、これらの課題に責任を持って取り組み、これらの強力なツールが害ではなく、善のために使用されるようにする私たちの能力にかかっている。