中国正在提议新的法规来管理人工智能（AI）产品和服务，重点是保护儿童和防止有害内容。中国国家互联网信息办公室（CAC）周末发布了这些规则草案，概述了保护儿童和解决与人工智能驱动的互动相关的潜在风险的措施。

拟议的法规针对人工智能开发者，要求他们为年轻用户实施个性化设置和使用时间限制。此外，人工智能公司在向儿童提供情感陪伴服务之前，需要获得监护人的同意。这些规则还旨在防止人工智能模型生成宣扬赌博的内容，反映了人们对人工智能可能被用于对社会有害的方式的更广泛担忧。

一项关键条款涉及人工智能聊天机器人提供可能导致自残或暴力的建议的风险。根据拟议的规则，聊天机器人运营商将被要求安排人工接管任何与自杀或自残相关的对话。根据中国国家互联网信息办公室的说法，运营商还需要立即通知用户的监护人或紧急联系人。

这些法规的出台正值中国乃至全球范围内人工智能聊天机器人数量迅速增加之际。此举标志着中国正在大力监管快速增长的人工智能行业，该行业正面临越来越多的安全问题审查。一旦最终确定，这些规则将适用于在中国运营的所有人工智能产品和服务。

这一进展凸显了全球范围内关于人工智能伦理影响以及制定监管框架以减轻潜在风险的日益激烈的辩论。随着人工智能技术变得越来越复杂并融入日常生活，各国政府和组织都在努力确保其负责任的开发和部署。中国的法规代表了解决这些挑战的一种方法，重点关注儿童安全和防止有害内容等特定领域。中国国家互联网信息办公室尚未宣布何时最终确定和实施这些规则草案的时间表。