中国正在提议制定新的法规来管理人工智能（AI）产品和服务，重点是保护儿童和防止有害内容。中国国家互联网信息办公室（CAC）于周末发布了这些规则草案，其中概述了保护儿童免受与人工智能相关的潜在风险的措施，并防止聊天机器人提供可能导致自残或暴力的建议。

拟议的法规将要求人工智能公司为儿童用户提供个性化设置和使用时间限制。此外，人工智能公司在向未成年人提供情感陪伴服务之前，需要获得监护人的同意。这些规则还涉及人工智能生成内容的问题，规定人工智能模型不得生成宣扬赌博的内容。

根据中国国家互联网信息办公室的说法，聊天机器人运营商将被要求安排人工接管任何与自杀或自残相关的对话。这些运营商还需要在这种情况下立即通知用户的监护人或紧急联系人。

在人工智能聊天机器人在中国和全球范围内大量涌现之际，出台监管人工智能的举措应运而生。人工智能技术的快速发展引发了对安全和潜在滥用的担忧，促使世界各国政府考虑制定监管框架。一旦最终确定，这些规则将适用于所有在中国运营的人工智能产品和服务。这标志着在监管快速增长的技术方面迈出了重要一步。

这些规则草案反映出人们越来越意识到与人工智能相关的潜在风险，特别是对于像儿童这样的弱势群体。通过要求父母同意和实施时间限制，这些法规旨在减轻人工智能对儿童发展和福祉的潜在负面影响。关注防止人工智能助长赌博和自残等有害活动，突显了政府致力于确保人工智能得到负责任和合乎道德的使用。

中国国家互联网信息办公室提出的法规目前处于草案阶段，预计在最终确定和实施之前，还将经过进一步的审查和修订。人工智能开发者、科技公司和世界各地的政策制定者正在密切关注这一进展，因为它可能为其他国家的人工智能监管树立先例。