Microsoft abordó una vulnerabilidad en su asistente de IA Copilot que permitía a los atacantes extraer datos confidenciales del usuario con un solo clic en una URL aparentemente legítima. Investigadores de seguridad de Varonis descubrieron la falla, demostrando un ataque de múltiples etapas que podía filtrar datos como el nombre, la ubicación y los detalles del historial de chat de Copilot de un usuario.

El ataque, una vez iniciado por el usuario al hacer clic en el enlace, continuaba ejecutándose incluso después de que se cerraba el chat de Copilot, sin requerir más interacción. Según el investigador de seguridad de Varonis, Dolev Taler, el exploit eludía los controles de seguridad de los endpoints empresariales y la detección por parte de las aplicaciones de protección de endpoints. "Una vez que entregamos este enlace con este prompt malicioso, el usuario solo tiene que hacer clic en el enlace y la tarea maliciosa se ejecuta inmediatamente", dijo Taler a Ars Technica. "Incluso si el usuario simplemente hace clic en el enlace y cierra inmediatamente la pestaña del chat de Copilot, el exploit sigue funcionando".

Este tipo de vulnerabilidad destaca las crecientes preocupaciones de seguridad en torno a las herramientas impulsadas por IA y su integración en los flujos de trabajo cotidianos. Copilot, al igual que otros modelos de lenguaje grandes (LLM), opera procesando y respondiendo a las entradas del usuario, a menudo accediendo y almacenando datos del usuario para mejorar su rendimiento y personalizar las interacciones. Estos datos, si no están debidamente protegidos, pueden convertirse en un objetivo para los actores maliciosos.

Los investigadores de Varonis, actuando como hackers de sombrero blanco, demostraron cómo se podía utilizar una URL manipulada para inyectar prompts maliciosos en la sesión de Copilot de un usuario. Estos prompts podrían utilizarse entonces para extraer información confidencial o realizar acciones no autorizadas en nombre del usuario. El hecho de que el ataque persistiera incluso después de que el usuario cerrara la ventana de chat subraya el potencial de amenazas persistentes dentro de los entornos impulsados por la IA.

Las implicaciones de esta vulnerabilidad se extienden más allá de los usuarios individuales. En entornos empresariales, donde Copilot y herramientas similares se utilizan cada vez más para tareas como el resumen de documentos, la generación de código y el análisis de datos, un ataque exitoso podría comprometer información empresarial confidencial y propiedad intelectual. La capacidad de eludir los controles de seguridad de los endpoints exacerba aún más el riesgo, ya que las medidas de seguridad tradicionales pueden no ser suficientes para detectar y prevenir tales ataques.

Microsoft ha lanzado un parche para abordar la vulnerabilidad, enfatizando la importancia de mantener el software actualizado. Sin embargo, el incidente sirve como un recordatorio de la necesidad continua de medidas de seguridad robustas y una supervisión continua en la era de la IA. A medida que los modelos de IA se vuelven más sofisticados y se integran en sistemas críticos, los investigadores de seguridad y los desarrolladores deben trabajar juntos para identificar y mitigar las posibles vulnerabilidades antes de que puedan ser explotadas por actores maliciosos. El incidente también plantea interrogantes sobre la responsabilidad de los desarrolladores de IA de garantizar la seguridad y la privacidad de los datos de los usuarios, y la necesidad de directrices y regulaciones claras que rijan el desarrollo y la implementación de las tecnologías de IA.