2025年10月、研究者たちは、ほとんどのAIセキュリティ防御が容易に回避可能であることを実証し、現在のAIセキュリティ製品の有効性について深刻な懸念を引き起こしました。OpenAI、Anthropic、Google DeepMindのチームは、「攻撃者は常に後手：より強力な適応攻撃がLLMの脱獄とプロンプトインジェクションに対する防御を回避する」と題する論文を発表し、発表済みの12のAI防御をいかにして首尾よく回避したかを詳述しました。それらの多くは、攻撃成功率がほぼゼロであると主張していました。この研究は、展開されているセキュリティ対策と潜在的な攻撃の巧妙さとの間に重大なギャップがあることを浮き彫りにしています。

この調査では、研究チームがテストした防御のほとんどで90％を超えるバイパス率を達成したことが明らかになりました。これは、多くのAIセキュリティ製品が、現実的な攻撃者の行動に対して適切にテストされていないことを示唆しています。チームは、適応攻撃条件下で、プロンプトベース、トレーニングベース、およびフィルタリングベースの防御を評価し、それらすべてが脆弱であることを発見しました。たとえば、プロンプト防御は、適応攻撃下で95％から99％の攻撃成功率を経験しました。トレーニングベースの方法も同様に不調で、バイパス率は96％から100％に達しました。

防御を厳密にテストするために、研究者たちは、14人の著者と、攻撃成功に対する20,000ドルの賞金プールを含む包括的な方法論を設計しました。このアプローチは、現実世界の敵対的な状況をシミュレートし、効果的なバイパス技術の開発を促進することを目的としていました。研究者たちが、主張されていたほぼゼロの攻撃成功率にもかかわらず、防御を一貫して克服できたという事実は、問題の深刻さを強調しています。

Louis Columbusは、2026年1月に執筆し、企業への影響を強調し、多くのAIセキュリティ製品が、現実の攻撃者のように振る舞わない攻撃者に対してテストされていると述べました。これは、セキュリティチームのデューデリジェンスプロセスとベンダーの主張の正確性について疑問を投げかけています。

この調査結果は、AIセキュリティテストに対するより堅牢で敵対的なアプローチを求める声につながっています。専門家は、組織がベンダーに、適応攻撃やレッドチーム演習を受けているかどうかなど、テスト方法論に関する重要な質問をすることを推奨しています。この研究はまた、攻撃者が常に技術を進化させているため、AI防御の継続的な監視と適応の必要性を強調しています。AI技術の急速な進歩は、容易に回避できる静的な防御に依存するのではなく、セキュリティに対するプロアクティブで動的なアプローチを必要としています。