마이크로소프트는 자사의 Copilot AI 어시스턴트에서 발견된 취약점을 해결했는데, 공격자는 이 취약점을 이용하여 겉보기에는 합법적인 URL을 단 한 번 클릭하는 것만으로 민감한 사용자 데이터를 추출할 수 있었습니다. Varonis의 보안 연구원들은 이 결함을 발견하고, 사용자의 이름, 위치, Copilot 채팅 기록의 세부 정보와 같은 데이터를 유출할 수 있는 다단계 공격을 시연했습니다.

이 공격은 사용자가 링크를 클릭하여 시작되면 Copilot 채팅을 닫은 후에도 계속 실행되었으며, 추가적인 상호 작용이 필요하지 않았습니다. Varonis의 보안 연구원인 Dolev Taler에 따르면, 이 익스플로잇은 엔터프라이즈 엔드포인트 보안 제어 및 엔드포인트 보호 애플리케이션의 탐지를 우회했습니다. Taler는 Ars Technica와의 인터뷰에서 "악성 프롬프트가 포함된 이 링크를 전달하면 사용자는 링크를 클릭하기만 하면 악성 작업이 즉시 실행됩니다."라고 말했습니다. "사용자가 링크를 클릭하고 Copilot 채팅 탭을 즉시 닫더라도 익스플로잇은 여전히 작동합니다."

이러한 유형의 취약점은 AI 기반 도구와 일상적인 워크플로우로의 통합과 관련된 보안 문제의 증가를 강조합니다. Copilot은 다른 대규모 언어 모델(LLM)과 마찬가지로 사용자 입력을 처리하고 응답하는 방식으로 작동하며, 성능을 개선하고 상호 작용을 개인화하기 위해 사용자 데이터에 액세스하고 저장하는 경우가 많습니다. 적절하게 보호되지 않은 경우 이 데이터는 악의적인 행위자의 표적이 될 수 있습니다.

화이트 햇 해커 역할을 한 Varonis 연구원들은 악성 프롬프트를 사용자 Copilot 세션에 삽입하는 데 크래프트된 URL을 사용하는 방법을 시연했습니다. 이러한 프롬프트는 민감한 정보를 추출하거나 사용자를 대신하여 무단 작업을 수행하는 데 사용될 수 있습니다. 사용자가 채팅 창을 닫은 후에도 공격이 지속된다는 사실은 AI 기반 환경 내에서 지속적인 위협의 가능성을 강조합니다.

이 취약점의 영향은 개인 사용자를 넘어섭니다. Copilot 및 유사한 도구가 문서 요약, 코드 생성, 데이터 분석과 같은 작업에 점점 더 많이 사용되는 엔터프라이즈 환경에서 성공적인 공격은 민감한 비즈니스 정보 및 지적 재산을 손상시킬 수 있습니다. 엔드포인트 보안 제어를 우회하는 기능은 기존 보안 조치가 이러한 공격을 탐지하고 방지하는 데 충분하지 않을 수 있으므로 위험을 더욱 악화시킵니다.

마이크로소프트는 취약점을 해결하기 위한 패치를 릴리스하여 소프트웨어를 최신 상태로 유지하는 것이 중요하다고 강조했습니다. 그러나 이번 사건은 AI 시대에 강력한 보안 조치와 지속적인 모니터링의 필요성을 상기시켜 줍니다. AI 모델이 더욱 정교해지고 중요한 시스템에 통합됨에 따라 보안 연구원과 개발자는 악의적인 행위자가 악용하기 전에 잠재적인 취약점을 식별하고 완화하기 위해 협력해야 합니다. 또한 이번 사건은 AI 개발자가 사용자 데이터의 보안 및 개인 정보 보호를 보장해야 할 책임과 AI 기술 개발 및 배포를 규제하는 명확한 지침 및 규정의 필요성에 대한 질문을 제기합니다.