英国通信管理局Ofcom已正式向X（前身为Twitter）索取信息，内容涉及有关其Grok AI模型生成儿童性暗示图像的报告。此前，人们越来越担心生成式AI技术的潜在滥用及其制造有害内容的能力。

此次调查的重点是有关用户提示Grok生成未成年人在性暗示场景中的图像的指控。这些报告引发了人们对X为防止AI被用于此类目的而采取的保障措施的严重质疑。Ofcom的调查旨在确定问题的严重程度，以及X是否正在采取适当的措施来解决该问题。

像Grok这样的生成式AI模型是在大量的文本和图像数据集上训练的，这使得它们能够根据用户提示创建新的内容。然而，这项技术也存在风险，因为这些模型可能被操纵来生成深度伪造、传播虚假信息，或者像本案中指控的那样，制造儿童性虐待材料（CSAM）。AI快速生成逼真图像的能力使得检测和删除此类内容变得尤为困难。

Ofcom的一位发言人表示：“我们对AI可能被用于制造有害内容，特别是涉及儿童的内容，深感担忧。” “我们已要求X向我们提供有关Grok的报告的信息，以及他们为防止生成和传播此类图像而采取的措施。”

X已承认Ofcom的要求，并表示正在配合调查。该公司坚称，它已制定严格的政策来禁止生成有害内容，并正在积极努力改进其AI安全措施。

X的一位代表说：“我们非常重视这些指控，并致力于确保我们的AI模型不会被用于创建或宣传有害内容。” “我们正在不断完善我们的安全协议，并与专家合作，以识别和减轻潜在的风险。”

该事件突显了监管AI技术并确保其负责任地使用的更广泛挑战。随着AI模型变得越来越复杂，开发有效的机制来检测和防止其滥用变得越来越重要。这不仅包括内容过滤器和检测算法等技术解决方案，还包括监管框架，使公司对其AI系统的安全性负责。

调查仍在进行中，如果Ofcom发现该公司未能充分保护用户免受有害内容侵害，则有权对X处以巨额罚款。调查结果可能对英国及其他地区的AI技术监管产生重大影响。预计监管机构将在未来几个月内公布调查结果。