Microsoft solucionó una vulnerabilidad de seguridad en su asistente de IA Copilot que permitía a los atacantes extraer datos confidenciales del usuario con un simple clic en un enlace aparentemente inofensivo. Investigadores de seguridad de Varonis descubrieron la falla, demostrando un ataque de varias etapas que podía robar el nombre, la ubicación y los detalles del historial de chat de Copilot de un usuario.

El ataque, una vez iniciado por el usuario al hacer clic en el enlace, continuaba ejecutándose incluso después de que se cerraba la ventana de chat de Copilot, sin requerir más interacción. Este exploit eludía los controles de seguridad de los endpoints empresariales y evitaba la detección por parte de las aplicaciones de protección de endpoints. "Una vez que entregamos este enlace con este mensaje malicioso, el usuario solo tiene que hacer clic en el enlace y la tarea maliciosa se ejecuta de inmediato", explicó Dolev Taler, investigador de seguridad de Varonis, a Ars Technica. "Incluso si el usuario simplemente hace clic en el enlace y cierra inmediatamente la pestaña del chat de Copilot, el exploit sigue funcionando".

La vulnerabilidad destaca los complejos desafíos de seguridad inherentes a las herramientas impulsadas por IA como Copilot. Estas herramientas, diseñadas para mejorar la productividad y proporcionar información, a menudo se basan en interacciones intrincadas entre los usuarios, los datos y los sistemas subyacentes. Esta complejidad puede crear oportunidades para que los atacantes exploten las vulnerabilidades y obtengan acceso no autorizado a información confidencial.

El ataque subraya la importancia de medidas de seguridad sólidas para los asistentes de IA. Estas medidas deben abarcar no solo el modelo de IA en sí, sino también la infraestructura y las interfaces a través de las cuales los usuarios interactúan con el sistema. En este caso, la vulnerabilidad residía en la forma en que Copilot procesaba y ejecutaba los comandos activados por un enlace aparentemente benigno.

El incidente plantea interrogantes más amplios sobre las implicaciones de seguridad y privacidad de las tecnologías impulsadas por la IA. A medida que la IA se integra cada vez más en la vida diaria, es fundamental garantizar que estos sistemas se diseñen e implementen con la seguridad como una preocupación primordial. Esto incluye pruebas rigurosas, monitoreo continuo y gestión proactiva de vulnerabilidades.

El desarrollo también enfatiza el papel fundamental de los hackers de sombrero blanco en la identificación y mitigación de riesgos de seguridad. El descubrimiento de esta vulnerabilidad por parte de Varonis permitió a Microsoft abordar el problema antes de que pudiera ser explotado por actores maliciosos. Este enfoque colaborativo, donde los investigadores de seguridad trabajan con los proveedores de tecnología para mejorar la seguridad, es esencial para mantener un ecosistema digital seguro.

Desde entonces, Microsoft ha lanzado una solución para la vulnerabilidad. Se recomienda a los usuarios que se aseguren de estar ejecutando la última versión de Copilot para protegerse de posibles ataques. La compañía no ha publicado detalles específicos sobre la naturaleza de la solución, probablemente para evitar que los actores maliciosos realicen ingeniería inversa del parche y desarrollen nuevos exploits. Más detalles sobre el tipo específico de vulnerabilidad y el método de explotación siguen siendo limitados, en espera de un análisis y divulgación adicionales por parte de Varonis.