中国は、人工知能チャットボットがユーザーの感情を操作することを防ぐことを目的とした規制案を作成し、AIによる自殺、自傷行為、暴力に対する世界で最も厳しい政策を確立する可能性があります。中国サイバースペース管理局は土曜日に規則案を発表しました。

提案された規制は、テキスト、画像、音声、ビデオ、またはその他の方法を通じて人間の会話をシミュレートする、中国で一般に公開されているすべてのAI製品またはサービスに適用されます。ニューヨーク大学ロースクールの非常勤教授であるウィンストン・マー氏はCNBCに対し、これらの計画されている規則は、人間または擬人化された特性を示すAIを規制する世界初の試みであり、コンパニオンボットの世界的な人気が高まる中で行われていると語りました。

この動きは、AIコンパニオンに関連する潜在的な危害に対する認識の高まりを受けたものです。2025年の研究者たちは、自傷行為、暴力、さらにはテロの助長など、重大なリスクを特定しました。さらなる懸念事項には、チャットボットによる誤情報の拡散、望まない性的アプローチ、薬物乱用の奨励、および言葉による虐待への関与が含まれていました。一部の精神科医は、チャットボットの使用と精神病の発症との潜在的な関連性についても調査を開始しています。

この規制は、AIがユーザーの感情状態に影響を与える能力に制限を課すことによって、これらの懸念に対処しようとするものです。これらの規則を施行するための具体的なメカニズムはまだ不明ですが、草案は、有害な行動を助長するものと解釈できる応答をAIが生成することを防ぐことに重点を置いていることを示唆しています。

この開発は、AIがメンタルヘルスと社会の幸福に与える潜在的な影響に対する監視の目が厳しくなっていることを浮き彫りにしています。AI技術がより洗練され、日常生活に統合されるにつれて、政府や研究者は、これらの進歩の倫理的および社会的影響に取り組んでいます。中国の規制は、潜在的なリスクを軽減するための積極的なアプローチを示していますが、急速に進化する人工知能の分野におけるイノベーションと規制のバランスについても疑問を投げかけています。規則は現在草案の形であり、パブリックコメント期間を経て変更される可能性があります。