엔터프라이즈 보안 팀은 공격자에게 주어진 기회의 창이 점점 좁아지고 기존 보안 조치의 한계로 인해 인공지능 기반 런타임 공격의 새로운 물결에 대처하기 위해 추론 보안 플랫폼을 점점 더 많이 구축하고 있습니다. 이러한 공격은 인공지능 에이전트의 실행 단계에서 취약점을 악용하며, 패치를 구현하는 데 걸리는 시간(몇 시간 또는 며칠)보다 훨씬 빠른 몇 초 단위로 돌파 시간이 측정됩니다.

이러한 변화로 인해 CISO는 프로덕션 환경에서 인공지능 애플리케이션에 대한 실시간 가시성과 제어 기능을 제공하는 솔루션을 모색하고 있습니다. CrowdStrike의 2025년 글로벌 위협 보고서에 따르면 돌파 시간이 51초까지 단축되어 공격자가 보안 팀이 경고를 받기도 전에 초기 액세스에서 네트워크 내 횡적 이동으로 이동할 수 있음을 의미합니다. 또한 이 보고서는 탐지된 공격의 79%가 맬웨어 없이 "핸즈온 키보드" 기술에 의존하여 기존 엔드포인트 방어를 우회한 것으로 나타났습니다.

Ivanti의 현장 CISO인 Mike Riemer는 패치 릴리스 후 무기화 속도가 빨라지고 있다고 강조했습니다. Riemer는 VentureBeat에 "위협 행위자는 72시간 이내에 패치를 리버스 엔지니어링하고 있습니다."라고 말했습니다. "고객이 릴리스 후 72시간 이내에 패치를 적용하지 않으면 공격에 노출됩니다. 인공지능으로 인해 속도가 크게 향상되었습니다." 이러한 빠른 악용 주기로 인해 조직은 패치 전략을 재고하고 보다 사전 예방적인 보안 조치를 채택해야 합니다.

기존 보안 솔루션은 런타임 시 인공지능 애플리케이션을 효과적으로 모니터링하고 보호하는 데 필요한 가시성과 제어 기능이 부족한 경우가 많습니다. 추론 보안 플랫폼은 인공지능 모델 동작에 대한 실시간 모니터링을 제공하고, 이상 징후를 탐지하고, 무단 액세스 또는 조작을 방지하여 이러한 격차를 해소합니다. 이러한 플랫폼은 일반적으로 행동 분석, 이상 징후 탐지 및 액세스 제어와 같은 기술을 사용하여 런타임 공격으로부터 인공지능 애플리케이션을 보호합니다.

인공지능 기반 공격의 정교함과 속도가 증가함에 따라 향후 추론 보안 플랫폼의 채택이 더욱 가속화될 것으로 예상됩니다. 인공지능이 중요한 비즈니스 프로세스에 더욱 깊이 통합됨에 따라 강력한 런타임 보안의 필요성은 더욱 커질 것입니다. 이러한 진화하는 위협 환경에 적응하지 못하는 기업은 상당한 재정적 및 평판 손상에 노출될 위험이 있습니다.