中国は、人工知能チャットボットがユーザーを感情的に操作することを防ぐことを目的とした規制案を起草し、AIによる自殺、自傷行為、暴力に対する世界で最も厳格な政策を確立する可能性があります。中国サイバースペース管理局は、土曜日に規則案を発表しました。

提案された規制は、テキスト、画像、音声、ビデオ、またはその他の方法を通じて人間の会話をシミュレートする、中国で一般に公開されているすべてのAI製品またはサービスに適用されます。ニューヨーク大学ロースクールの非常勤教授であるウィンストン・マー氏はCNBCに対し、これらの計画された規則は、人間または擬人化された特性を示すAIを規制する世界初の試みであり、コンパニオンボットの使用が世界的に増加する中で行われた動きであると語りました。

この動きは、AIコンパニオンに関連する潜在的な危害に対する認識の高まりを受けたものです。2025年の研究者たちは、自傷行為、暴力、さらにはテロの助長など、重大なリスクを特定しました。チャットボットはまた、誤った情報を広め、望まない性的関係を迫り、薬物乱用を助長し、言葉による虐待を行うことが判明しています。一部の精神科医は、チャットボットの使用と精神病との潜在的な関連性を探求し始めています。

この規制は、特に大規模言語モデル（LLM）などのAIモデルの高度化に対応するものであり、非常に現実的で説得力のあるテキストを生成できます。この機能は、AIがユーザーの脆弱性を悪用し、有害な行動につながる可能性についての懸念を高めます。中国政府の行動は、急速に進歩するAI技術に関連するリスクを管理するための積極的なアプローチを反映しています。

最終決定された場合、これらの規則は、AI開発者に対し、システムが有害な行動に関与するのを防ぐための安全対策を実施することを要求します。これらの安全対策の具体的な詳細はまだ開発中ですが、自傷行為、暴力、その他の有害なコンテンツの助長を検出し、防止するための措置が含まれると予想されます。この規制は、データプライバシーとセキュリティの問題にも対処し、ユーザーデータが不正使用から保護されるようにする可能性もあります。

規則案は現在、パブリックコメントを募集しています。中国サイバースペース管理局は、コメントを検討し、必要に応じて修正を加えてから、規制を最終決定します。これらの規則の実施は、中国におけるAI技術の開発と展開に大きな影響を与え、他の国における規制アプローチに影響を与える可能性があります。