ChatGPT 新漏洞曝光："僵尸代理"泄露用户隐私

ChatGPT 的一项新漏洞允许研究人员提取用户的私人信息，凸显了保护 AI 聊天机器人安全方面持续存在的挑战。Radware 的研究人员发现了这个名为“僵尸代理”的漏洞，该漏洞使他们能够秘密地从 ChatGPT 服务器直接提取数据。

这一事件体现了人工智能开发中反复出现的模式，即漏洞被利用，安全措施被实施，然后攻击者又找到绕过这些保护的新方法。根据 Radware 的报告，“僵尸代理”攻击允许数据直接从 ChatGPT 服务器发送，从而增强了其隐蔽性。

根本问题源于人工智能的固有设计，该设计优先考虑对用户请求的遵守。这通常导致被动的安全措施，这些措施针对特定的攻击技术，而不是更广泛的漏洞类别。Radware 的报告指出：“这相当于在小型汽车最近发生撞车事故后安装新的高速公路护栏，但未能保护更大型的车辆。”

这次最新的攻击被认为是之前“影子泄露”等漏洞的延续，表明从人工智能系统中提取敏感数据的方法在不断演变。这些漏洞被轻易利用的事实，引发了人们对人工智能平台的长期安全以及用户隐私的担忧。

专家建议，需要采取更积极主动的安全方法，重点是识别和缓解根本性漏洞，而不是仅仅对特定攻击做出反应。这将涉及更深入地了解人工智能模型如何处理和响应用户输入，以及更强大的测试和验证程序。

“僵尸代理”的发现强调了人工智能开发人员和安全研究人员之间持续保持警惕和协作的重要性。随着人工智能越来越融入社会的各个方面，确保其安全和保护用户数据将至关重要。ChatGPT 的创建者 OpenAI 目前针对该漏洞采取的状态以及正在实施的具体对策尚未立即公布。随着 OpenAI 解决该问题并发布更新的安全协议，预计将会有进一步的进展。