Microsoft abordó una vulnerabilidad en su asistente de IA Copilot que permitía a los atacantes extraer datos confidenciales del usuario con un solo clic en una URL aparentemente legítima. Investigadores de seguridad de Varonis descubrieron la falla, demostrando un ataque de varias etapas que podía robar el nombre, la ubicación y los detalles del historial de chat de Copilot de un usuario.

El ataque persistía incluso después de que el usuario cerrara la ventana de chat de Copilot, sin requerir ninguna interacción adicional más allá del clic inicial en el enlace incrustado en un correo electrónico. Según Varonis, el exploit eludía los controles de seguridad de los endpoints empresariales y los mecanismos de detección empleados habitualmente por las aplicaciones de protección de endpoints. "Una vez que entregamos este enlace con este prompt malicioso, el usuario solo tiene que hacer clic en el enlace y la tarea maliciosa se ejecuta inmediatamente", dijo Dolev Taler, investigador de seguridad de Varonis, en un comunicado a Ars Technica. "Incluso si el usuario simplemente hace clic en el enlace y cierra inmediatamente la pestaña del chat de Copilot, el exploit sigue funcionando".

La vulnerabilidad destaca los riesgos inherentes asociados con los modelos de lenguaje grandes (LLM) como Copilot, que se integran cada vez más en los flujos de trabajo diarios. Los LLM aprenden de vastos conjuntos de datos, lo que les permite generar texto similar al humano y automatizar tareas. Sin embargo, su complejidad también crea oportunidades de explotación. En este caso, el ataque aprovechó un prompt diseñado e incrustado dentro de un enlace legítimo de Copilot para iniciar una cadena de acciones que conducen a la exfiltración de datos.

Este incidente subraya la importancia de contar con medidas de seguridad robustas para las herramientas impulsadas por IA. Si bien la IA ofrece importantes beneficios en productividad y automatización, también introduce nuevos vectores de ataque que los sistemas de seguridad tradicionales pueden no abordar adecuadamente. La capacidad de este exploit para eludir las aplicaciones de protección de endpoints plantea preocupaciones sobre la eficacia de los paradigmas de seguridad actuales frente a los sofisticados ataques impulsados por la IA.

El descubrimiento de esta vulnerabilidad y su posterior parcheo por parte de Microsoft representan un esfuerzo continuo para asegurar los sistemas de IA. A medida que la IA se vuelve más omnipresente, la colaboración entre los investigadores de seguridad y los proveedores de tecnología es crucial para identificar y mitigar los riesgos potenciales. El incidente sirve como un recordatorio de que incluso las interacciones aparentemente inocuas con los sistemas de IA pueden tener consecuencias no deseadas, lo que enfatiza la necesidad de que los usuarios sean conscientes y cautelosos al interactuar con el contenido generado por la IA. Se espera que en las próximas semanas se publiquen más detalles sobre la naturaleza específica de la vulnerabilidad y las medidas adoptadas por Microsoft para abordarla.