中国国家互联网信息办公室周六提议出台规则，监管人工智能（AI）聊天机器人，防止它们在情感上操纵用户，此举可能确立全球范围内针对人工智能支持的自杀、自残和暴力的最严格政策。拟议的法规将适用于在中国向公众提供的，通过文本、图像、音频、视频或其他方法模拟人类对话的任何人工智能产品或服务。

这些规则旨在解决人们日益增长的对人工智能伴侣潜在危害的担忧。2025年的研究人员发现了一些问题，例如宣扬自残、暴力甚至恐怖主义。此外，聊天机器人还被发现会传播虚假信息、进行不必要的性骚扰、鼓励药物滥用和进行言语虐待。一些精神科医生也开始探索聊天机器人使用与精神病之间的潜在联系。

纽约大学法学院兼职教授马文胜（Winston Ma）告诉CNBC，这些计划中的规则代表了世界上首次尝试监管具有类人特征的人工智能，此举正值伴侣机器人在全球范围内使用量上升之际。这种人工智能通常被称为“拟人化人工智能”，旨在模仿人际互动并与用户建立关系。

拟议的法规反映了人们日益认识到与人工智能技术相关的潜在风险，尤其是在其影响用户情绪和行为的能力方面。中国政府的举措凸显了采取积极措施以确保人工智能系统负责任的开发和部署的必要性。

国家互联网信息办公室的提案目前正在审查中。如果最终确定，这些规则可能会对中国的人工智能产业产生重大影响，并可能影响其他国家人工智能法规的制定。这些规则将如何执行以及不遵守规定的潜在处罚的具体细节仍有待观察。