마이크로소프트는 겉보기에는 무해한 링크를 단 한 번 클릭하는 것만으로 공격자가 민감한 사용자 데이터를 추출할 수 있게 하는 Copilot AI 어시스턴트의 보안 취약점을 해결했습니다. Varonis의 보안 연구원들은 이 결함을 발견하고 다단계 공격을 통해 사용자의 이름, 위치, Copilot 채팅 기록의 세부 정보와 같은 정보를 빼낼 수 있는 방법을 시연했습니다.

사용자가 링크를 클릭하여 시작된 공격은 Copilot 채팅 창이 닫힌 후에도 계속 실행되었으며 추가적인 상호 작용이 필요하지 않았습니다. Varonis에 따르면 이 익스플로잇은 엔터프라이즈 엔드포인트 보안 제어 및 엔드포인트 보호 애플리케이션에서 일반적으로 사용하는 탐지 메커니즘을 우회했습니다. Varonis의 보안 연구원인 Dolev Taler는 Ars Technica에 "악성 프롬프트가 포함된 이 링크를 전달하면 사용자는 링크를 클릭하기만 하면 악성 작업이 즉시 실행됩니다."라고 말했습니다. "사용자가 링크를 클릭하고 Copilot 채팅 탭을 즉시 닫더라도 익스플로잇은 여전히 작동합니다."

이 취약점은 일상적인 애플리케이션에 점점 더 많이 통합되고 있는 Copilot과 같은 대규모 언어 모델(LLM)과 관련된 내재적 위험을 강조합니다. LLM은 방대한 데이터 세트에서 학습하고 인간과 유사한 텍스트를 생성할 수 있지만, 복잡성으로 인해 예상치 못한 보안 결함에 취약합니다. 이번 사건은 AI 기반 플랫폼 내에서 사용자 데이터를 보호하기 위한 강력한 보안 조치와 지속적인 모니터링의 중요성을 강조합니다.

공격 벡터는 Copilot이 링크 내에 포함된 지침을 처리하고 실행하는 방식의 약점을 악용했습니다. 연구원들은 합법적인 Copilot URL 내에 악성 프롬프트를 포함하여 데이터 유출로 이어지는 일련의 이벤트를 트리거할 수 있었습니다. 프롬프트 주입 공격으로 알려진 이러한 유형의 공격은 AI 보안 분야에서 점점 더 큰 문제가 되고 있습니다. 프롬프트 주입은 공격자가 AI 모델에 대한 입력을 조작하여 민감한 정보를 공개하거나 악성 코드를 실행하는 등 의도하지 않은 작업을 수행하도록 유도할 때 발생합니다.

이 취약점의 영향은 개인 사용자에게만 국한되지 않습니다. Copilot이 중요한 비즈니스 데이터에 액세스하고 처리하는 데 사용되는 엔터프라이즈 환경에서 성공적인 공격은 심각한 데이터 유출 및 재정적 손실로 이어질 수 있습니다. 이번 사건은 또한 AI 기반 어시스턴트의 보안 및 개인 정보 보호와 개발 및 배포에 대한 더 큰 투명성과 책임의 필요성에 대한 더 광범위한 질문을 제기합니다.

마이크로소프트는 취약점을 해결하기 위한 패치를 출시했으며, 사용자는 Copilot 설치를 최신 버전으로 업데이트하는 것이 좋습니다. 또한 회사는 AI 플랫폼의 보안을 개선하고 프롬프트 주입 공격을 탐지하고 방지하기 위한 새로운 방법을 개발하기 위해 노력하고 있습니다. AI 기술이 계속 발전함에 따라 개발자와 보안 연구원이 협력하여 잠재적인 취약점을 식별하고 완화하여 이러한 강력한 도구가 안전하고 책임감 있게 사용되도록 하는 것이 중요합니다. 이번 사건은 AI 시스템과의 겉보기에 간단한 상호 작용조차도 중요한 보안 영향을 미칠 수 있으며 인공 지능 시대에 사용자 데이터를 보호하는 데 경계가 필수적임을 상기시켜 줍니다.