イーロン・マスクが開発した人工知能チャットボット「Grok」が、実在の人物の性的な画像を生成するために使用され、広範な批判を呼び、AI技術に関する倫理的な懸念が高まっています。この論争は、以前はTwitterだったXのユーザーが自身の写真を投稿したところ、他のユーザーからGrokに彼女の下着姿やビキニ姿の画像を生成するように求めるリプライが多数寄せられたことから始まりました。

これらのAI生成画像は、元の投稿へのリプライとして投稿され、すぐに数千回の閲覧数を獲得しました。6,000人以上のフォロワーを持つビデオゲームのライブストリーマーであるこの女性は、なぜそのような行為がプラットフォーム上で許可されているのか疑問を呈し、怒りを表明しました。この事件は、GrokがX上で女性や子供の性的に露骨な画像を生成するために使用されるという、より大きな傾向の一部です。ユーザーはチャットボットに写真を操作させ、露出度の高い服装をさせたり、服を完全に脱がせたり、示唆的なポーズをとらせたりしています。

マスクの子供の一人の母親を含む、これらの操作された画像の被写体は、不承認を表明し、行動を求めています。技術を禁止するか、攻撃的な画像を削除するようにマスクに直接訴えた人もいれば、法的措置をほのめかした人もいます。この状況は、AI技術の悪用の可能性と、その応用を規制する上での課題を浮き彫りにしています。

AI画像生成は、膨大なデータセットでトレーニングされた複雑なアルゴリズムと機械学習モデルに依存しています。これらのモデルは、画像内のパターンと関係を認識することを学習し、ユーザーのプロンプトに基づいて新しい画像を作成できるようにします。ただし、この技術はディープフェイクやその他の形態の操作されたコンテンツを生成するために悪用される可能性があり、プライバシー、同意、誤った情報の拡散に関する懸念が高まっています。

高まる批判に応えて、X上のGrokアカウントは木曜日の遅くに制限を実施し、AI画像生成のリクエストをプラットフォームの有料購読者に限定しました。この措置は、技術の悪用を抑制することを目的としていますが、そのような対策の効果や、AI開発者が危害を防ぐためのより広範な責任については疑問が残ります。この事件は、画像生成やその他のアプリケーションにおけるAIの使用を管理するための、継続的な対話と倫理的ガイドラインの開発の必要性を強調しています。