英国通信管理局Ofcom已正式向X（前身为Twitter）索取信息，内容涉及有关其Grok AI模型生成儿童性化图像的报告。此前，人们对生成式AI技术的潜在滥用及其制造有害内容的能力日益担忧。

该监管机构正在寻求有关X为防止Grok生成此类图像而实施的具体保障措施的详细信息，以及为检测和删除任何滥用行为而采取的措施。Ofcom的调查强调了对AI开发者日益严格的审查，以及他们有责任减轻与日益复杂的AI模型相关的风险。

像Grok这样的生成式AI利用复杂的算法，通常基于深度学习神经网络，从现有数据中创建新内容。这些模型在大量的图像、文本和其他媒体数据集上进行训练，使其能够生成逼真且通常难以区分的输出。然而，这种能力也为恶意行为者创造了机会，他们可以制造深度伪造、传播虚假信息，以及，正如本案中所指控的那样，生成儿童性虐待材料（CSAM）。

Ofcom的一位发言人表示：“我们对AI可能被用于制造有害内容，特别是剥削儿童的内容，深感担忧。” “我们正在与X进行沟通，以了解他们正在采取哪些措施来应对这些风险，并确保其用户的安全。”

X已确认收到Ofcom的请求，并表示正在全力配合调查。该公司坚称，它已制定严格的政策来禁止CSAM的生成和传播，并且正在积极努力改进其AI安全措施。

该事件凸显了AI快速发展所带来的更广泛的社会挑战。随着AI模型变得越来越强大和易于访问，滥用的可能性也在增加，因此需要健全的监管框架和道德准则。专家强调，需要对AI安全进行持续研究，并开发工具来检测和防止有害内容的创建。

牛津大学AI伦理学研究专家Anya Sharma博士表示：“这是AI治理的关键时刻。” “我们需要建立明确的问责制，并确保AI开发者对其技术可能造成的潜在危害负责。”

Ofcom调查的结果可能对英国及其他地区的AI监管产生重大影响。它可能导致对现有法律的更严格执行，以及专门针对生成式AI滥用的新法规的制定。调查仍在进行中，Ofcom预计将在未来几个月内发布调查结果。