OpenAI承认，提示注入（一种AI模型中的安全漏洞）不太可能被完全根除，类似于互联网上的诈骗和社会工程。该公司在最近一篇详细介绍加强ChatGPT Atlas以抵御此类攻击的文章中证实，代理模式增加了潜在的攻击面，即使是高级防御也无法保证完全的保护。

这一承认证实了已经在使用AI的企业的担忧，突显了AI部署和安全措施之间日益增长的差距。VentureBeat对100名技术决策者的调查显示，只有34.7%的组织实施了专门的提示注入防御措施。其余65.3%的组织要么没有投资这些工具，要么无法确认它们的存在。

提示注入是指恶意行为者通过在提示中插入欺骗性指令来操纵AI模型，导致AI执行非预期操作或泄露敏感信息。这可能包括绕过内容过滤器，甚至获得对系统的未授权访问。

安全专家长期以来一直认为提示注入是一个重大威胁。OpenAI的公开承认强调了企业优先考虑AI安全的重要性。该公司的声明是对企业弥合AI实施和强大防御策略之间差距的行动呼吁。

许多组织缺乏准备，这引发了人们对AI系统可能被广泛利用的担忧。随着AI越来越融入关键基础设施和业务运营，成功的提示注入攻击的后果可能很严重。

行业专家强调需要采用多层方法来保护AI安全，包括输入验证、输出监控和持续的模型再训练。此外，AI开发者、安全研究人员和企业之间的合作对于开发有效的防御措施以应对不断演变的提示注入技术至关重要。

虽然OpenAI的承认可能令人沮丧，但它也为行业提供了一个积极应对挑战的机会。通过承认提示注入的持久性，组织可以专注于开发和实施更具弹性的AI系统。下一步包括增加对安全工具的投资，对AI开发人员和用户进行全面培训，以及对新型防御机制进行持续研究。