中国正在提议新的法规来管理人工智能 (AI)，旨在保护儿童，并防止 AI 聊天机器人提供可能导致自残或暴力的建议。中国国家互联网信息办公室 (CAC) 在周末发布了规则草案，其中概述了相关措施，要求 AI 公司为年轻用户提供个性化设置和使用时间限制。

拟议的法规还规定，AI 公司在向儿童提供情感陪伴服务之前，必须获得监护人的同意。此外，根据国家互联网信息办公室的说法，聊天机器人运营商将被要求安排人工接管任何与自杀或自残相关的对话，并立即通知用户的监护人或紧急联系人。这些规则还旨在防止 AI 模型生成宣传赌博的内容。

这些法规一旦最终确定，将适用于在中国境内运营的 AI 产品和服务。这标志着在监管快速扩张的 AI 领域方面迈出了重要一步，今年以来，该领域面临着越来越多的关于安全问题的审查。在此之前，中国和全球都出现了 AI 聊天机器人推出热潮。

这一发展反映了全球对 AI，特别是生成式 AI 的伦理影响和潜在风险日益增长的担忧，生成式 AI 可以创建文本、图像和其他内容。专家强调，需要负责任地开发和部署 AI，以减轻潜在的危害。

国家互联网信息办公室提出的规则突显了中国政府对 AI 治理采取的积极主动的态度。这些法规解决了与儿童安全和心理健康相关的具体问题，反映了确保 AI 技术得到负责任和合乎道德的使用的更广泛努力。

该规则草案目前正在公开征求意见，国家互联网信息办公室预计将在最终确定法规之前考虑反馈意见。这些规则的实施可能会为其他正在努力应对 AI 治理挑战的国家树立先例。预计这些法规将影响在中国运营的 AI 开发商和服务提供商，要求他们调整其产品和服务以符合新的要求。