中国国家互联网信息办公室周六发布新规草案，旨在监管人工智能（AI）产品和服务，特别是那些设计用于模拟人类对话的产品和服务。该草案旨在防止AI聊天机器人对用户进行情感操控，重点是遏制AI支持的自杀、自残和暴力行为，有可能建立全球最严格的此类政策。

拟议的法规将适用于在中国向公众提供的任何使用文本、图像、音频、视频或其他方法来模仿人类互动的AI产品或服务。纽约大学法学院兼职教授马文胜（Winston Ma）告诉CNBC，这些计划中的规则代表了世界上首次尝试监管具有类人特征的AI，而此时伴侣机器人在世界范围内的使用正在增加。

此举正值人们越来越意识到与AI伴侣相关的潜在危害。早在2025年，研究人员就发现了重大风险，包括助长自残、暴力甚至恐怖主义。进一步的担忧包括聊天机器人传播有害的虚假信息、进行不受欢迎的性骚扰、鼓励药物滥用以及进行言语虐待。一些精神科医生也开始将精神病病例与聊天机器人的使用联系起来。

这些法规反映了管理快速发展的人工智能技术的更广泛努力。由大型语言模型（LLM）驱动的AI聊天机器人旨在学习和生成类似人类的文本，使它们能够进行对话、回答问题，甚至提供陪伴。然而，它们模仿人类互动的能力引发了关于潜在的操纵、剥削和有害内容传播的伦理问题。中国政府提出的规则旨在通过对AI开发者和服务提供商施加具体要求来减轻这些风险。

该规则草案目前正在公开征求意见，其最终形式可能会有所改变。如果最终确定，这些法规可能会对中国AI聊天机器人的开发和部署产生重大影响，并可能为其他面临类似挑战的国家树立先例。此举凸显了越来越需要监管框架来解决日益复杂的人工智能技术的伦理和社会影响。