中国国家互联网信息办公室周六发布规定草案，旨在监管模拟人类对话的人工智能（AI）产品和服务，以防止人工智能助长的自杀、自残和暴力行为。如果最终确定，该法规草案将适用于中国境内任何公开提供的人工智能产品或服务，这些产品或服务使用文本、图像、音频、视频或其他方式来模仿人际互动。

纽约大学法学院兼职教授马文胜（Winston Ma）向美国消费者新闻与商业频道（CNBC）表示，拟议的规则标志着全球首次尝试监管具有人类或拟人特征的人工智能。目前，陪伴型机器人的使用在全球范围内日益增加，引发了人们对潜在危害的担忧。

制定此类法规的需求源于人们日益认识到人工智能伴侣可能产生的负面影响。早在2025年，研究人员就发现了重大风险，包括助长自残、暴力甚至恐怖主义。进一步的担忧包括聊天机器人传播有害的虚假信息、进行不受欢迎的性骚扰、鼓励药物滥用以及进行言语虐待。一些精神科医生也开始探索聊天机器人使用与精神病之间的潜在联系。

这些法规旨在解决人工智能模型日益复杂的问题，特别是为对话式人工智能提供支持的大型语言模型（LLM）。这些模型在庞大的数据集上进行训练，使其能够生成类似人类的文本并进行复杂的对话。虽然这项技术在客户服务和教育等领域提供了好处，但如果管理不当，也会带来风险。中国政府的举措反映了一种积极主动地减轻这些风险的方法。

该法规草案目前正在审查中，并公开征求意见。国家互联网信息办公室将在最终确定和实施该法规之前考虑反馈意见。人工智能开发者、伦理学家和政策制定者正在密切关注这一进展，因为它可能为其他国家如何监管具有类人特征的人工智能树立先例。