中国正在提议新的法规来管理人工智能（AI），旨在保护儿童，并防止AI聊天机器人提供可能导致自残或暴力的建议。中国国家互联网信息办公室（CAC）周末发布了这些规则草案，其中概述了相关措施，要求AI公司提供个性化设置和使用时间限制，并在提供情感陪伴服务之前获得监护人的同意。

计划中的法规还将要求开发者确保其AI模型不会生成宣传赌博的内容。此前，中国乃至全球范围内推出的AI聊天机器人数量大幅增加。一旦最终确定，这些规则将适用于所有在中国运营的AI产品和服务。

此举标志着在监管快速增长的AI技术方面迈出了重要一步，今年以来，该技术面临着越来越多的安全问题审查。中国国家互联网信息办公室强调，在与自杀或自残相关的聊天机器人对话中，需要人工干预，强制运营商安排人工接管此类对话，并立即通知用户的监护人或紧急联系人。

这些法规反映了全球对日益复杂的人工智能系统可能带来的潜在风险日益增长的担忧。人工智能的核心是创建能够执行通常需要人类智能的任务的计算机系统，例如学习、解决问题和决策。生成式人工智能是人工智能的一个子集，可以根据其训练的数据创建新的内容，包括文本、图像和音频。这种能力导致了聊天机器人和其他人工智能驱动的应用程序的激增。

这些法规的影响范围不仅限于中国境内，还可能影响全球人工智能技术的开发和部署。对保护儿童和解决心理健康风险的关注凸显了伦理考量，这些考量正日益成为人工智能辩论的中心。随着人工智能的不断发展，各国政府和组织都在努力应对在创新与减轻潜在危害之间取得平衡的挑战。

这些规则草案目前正在审查中，中国国家互联网信息办公室尚未宣布最终确定和实施的时间表。执行这些法规的具体机制以及违规行为的潜在处罚还有待观察。然而，拟议的规则表明，中国政府明确打算在塑造人工智能的未来和确保其负责任的发展方面发挥积极作用。