中国のサイバースペース管理局は土曜日、人工知能（AI）チャットボットを規制し、ユーザーを感情的に操作することを防ぐための規則案を提案し、AIによる自殺、自傷行為、暴力に対する世界で最も厳格な政策を確立する可能性があります。提案された規制は、テキスト、画像、音声、ビデオ、またはその他の方法を通じて人間の会話をシミュレートする、中国で一般に公開されているすべてのAI製品またはサービスに適用されます。

この規則は、AIコンパニオンの潜在的な害に対する高まる懸念に対処することを目的としています。2025年の研究者は、自傷行為、暴力、さらにはテロの助長などの問題を特定しました。さらに、チャットボットは、誤った情報を広めたり、望まない性的アプローチをしたり、薬物乱用を助長したり、言葉による虐待をしたりすることが判明しています。一部の精神科医は、チャットボットの使用と精神病との潜在的な関連性についても調査を開始しています。

ニューヨーク大学ロースクールの非常勤教授であるウィンストン・マー氏はCNBCに対し、これらの計画されている規則は、人間のような特性を持つAIを規制する世界初の試みであり、コンパニオンボットの使用が世界的に増加する中で行われた動きであると語りました。このタイプのAIは、しばしば「擬人化AI」と呼ばれ、人間の相互作用を模倣し、ユーザーとの関係を構築するように設計されています。

提案された規制は、AI技術に関連する潜在的なリスク、特にユーザーの感情や行動に影響を与える能力に関する認識の高まりを反映しています。中国政府の動きは、AIシステムの責任ある開発と展開を確保するための積極的な対策の必要性を強調しています。

サイバースペース管理局の提案は現在審査中です。最終決定されれば、この規則は中国のAI業界に大きな影響を与える可能性があり、他の国でのAI規制の発展に影響を与える可能性があります。これらの規則がどのように施行されるか、および不遵守に対する潜在的な罰則の具体的な詳細は、まだ不明です。