中国已提出针对人工智能（AI）开发的新规，重点关注儿童保护以及预防与自杀和暴力相关的有害内容。中国国家互联网信息办公室（网信办）于周末发布了这些规则草案，概述了在该国运营的AI公司的要求。

拟议的法规旨在解决人工智能聊天机器人日益普及及其对弱势群体潜在影响的问题。开发商将被要求为使用AI产品的儿童实施个性化设置和时间限制。此外，该规则还要求在向未成年人提供情感陪伴服务之前，必须获得监护人的同意。

一项关键条款侧重于预防自杀。根据网信办的说法，聊天机器人运营商必须确保在任何表明有自杀念头或自残行为的对话中进行人工干预。该法规规定，在这种情况下，必须立即通知用户的监护人或紧急联系人。该规则还禁止AI模型生成宣传赌博的内容。

这些措施标志着在监管中国快速发展的人工智能领域迈出了重要一步。此举正值全球对人工智能技术的安全和伦理影响的审查日益严格之际。这些法规一旦最终确定，将适用于在中国提供的所有AI产品和服务。

复杂AI模型，特别是能够生成类似人类文本并进行复杂对话的大型语言模型（LLM）的兴起，引发了人们对潜在滥用和意外后果的担忧。LLM在海量数据集上进行训练，使其能够执行广泛的任务，从回答问题到创建原创内容。然而，这也意味着它们容易受到训练数据中存在的偏见的影响，并可能生成有害或误导性信息。

中国政府的这项举措反映了一种积极主动的方式来减轻这些风险，特别是关于儿童的福祉。通过要求父母同意并实施针对有害内容的保障措施，这些法规旨在为年轻用户创建一个更安全的在线环境。对自杀意念案例进行人工干预的关注突出了将技术解决方案与人工支持相结合的重要性。

该规则草案目前正在审查中，网信办预计将在最终确定法规之前征求行业利益相关者和公众的反馈意见。这些规则的实施可能会为其他正在努力监管人工智能并确保其负责任的开发和部署的国家树立先例。这些法规表明了在技术创新与社会福祉和伦理考量之间取得平衡的承诺。