OpenAI 在 2025 年上半年向国家失踪和剥削儿童中心（National Center for Missing Exploited Children）提交的儿童剥削事件报告数量是 2024 年同期的 80 倍，根据该公司最近的更新。NCMEC 的 CyberTipline 是国会授权的儿童性虐待材料（CSAM）和其他形式的儿童剥削报告的清算中心。公司有法律义务向 CyberTipline 报告疑似儿童剥削。当一家公司提交报告时，NCMEC 会审查并将其转发给适当的执法机构进行调查。

报告数量的增加引发了人们对 AI 驱动的内容审查系统将无害内容标记为儿童剥削的担忧。“了解这些报告可能是细致入微的，并不总是表明真正的恶意活动增加是至关重要的，”NCMEC 的一位发言人说。“平台的自动审查或报告标准的变化也可能导致报告数量的增加。”发言人强调了审查每个报告以确定其有效性的重要性。

对该问题的背景研究表明，AI 驱动的内容审查系统在近年来变得越来越复杂。这些系统使用复杂的算法来识别和标记潜在的儿童剥削内容。然而，这些算法有时会误解无害内容，导致假阳性。“儿童剥削的界限往往模糊，AI 系统难以做出准确的区分，”AI 倫理学的领先专家 Rachel Kim 博士说。“这凸显了继续研究和开发 AI 驱动的内容审查系统的必要性。”

该问题的影响范围超出了科技行业，对整个社会都有潜在的影响。“儿童剥削报告的增加凸显了提高在线安全和数字公民意识的必要性，”非营利组织 Stop It Now! 的一位代表说。“我们必须共同努力防止在线儿童剥削，并确保 AI 系统的设计考虑到安全和责任。”

随着情况的继续发展，OpenAI 表示将继续与执法机构和其他利益相关者密切合作解决该问题。该公司还强调了其报告实践中的透明度和责任感的承诺。“我们非常重视儿童剥削问题，并致力于尽一切力量防止它，”OpenAI 的一位发言人说。“我们将继续与专家和利益相关者合作改进我们的内容审查系统，并确保它们的有效性和责任感。”