英国慈善机构互联网观察基金会（IWF）致力于识别和移除网络上的儿童性虐待图像，该机构报告称，他们发现了一些“似乎是由”Grok生成的图像，Grok是由埃隆·马斯克的xAI公司开发的人工智能模型。IWF将这些图像标记为可能包含儿童性虐待材料（CSAM），并已向相关部门报告。

这一发现引发了人们对人工智能模型可能被用于恶意目的，特别是用于创建CSAM的严重担忧。人工智能安全领域的专家长期以来一直警告说，日益复杂的生成式人工智能模型存在风险，包括它们可能被滥用于生成有害内容。

xAI尚未就IWF的调查结果发表正式声明。然而，该公司此前曾表示，致力于负责任地开发人工智能并减轻潜在风险。Grok目前向X（前身为Twitter）的Premium+服务订阅者开放，它是一种大型语言模型，旨在生成文本、翻译语言、撰写不同类型的创意内容，并以信息丰富的方式回答问题。它与其他人工智能模型的区别在于，它明确表示要回答其他人工智能可能回避的“辛辣问题”。

IWF的流程包括使用自动化工具和人工分析师相结合的方式来识别和分类网络上潜在的非法内容。一旦确定，IWF会将内容报告给互联网服务提供商（ISP）和其他相关组织，这些组织随后负责从其平台上删除这些内容。IWF还与执法机构合作，调查和起诉参与制作和传播CSAM的个人。

该事件凸显了防止人工智能技术被滥用的挑战。像Grok这样的生成式人工智能模型是在大量数据上训练的，因此很难阻止它们学习生成有害内容。此外，人工智能的快速发展使得监管机构和政策制定者难以跟上不断变化的风险。

“这对整个人工智能行业来说都是一个警钟，”人工智能安全研究所的研究员艾米丽·卡特说，该研究所是一家致力于促进人工智能安全和负责任发展的非营利组织。“我们需要投入更多资源来开发强大的保障措施，以防止人工智能模型被用于创建CSAM和其他形式的有害内容。”

目前调查的进展情况尚不清楚。执法机构可能会调查这些图像的来源以及Grok在多大程度上被用于生成这些图像。该事件可能会促使人们进一步审查人工智能安全协议，并可能导致新的法规来管理生成式人工智能模型的开发和部署。IWF将继续监测情况，并与相关组织合作，从互联网上删除任何已识别的CSAM。