Los agentes de IA emergen como un foco de innovación y preocupaciones de seguridad
La aparición de agentes de IA, software diseñado para realizar tareas de forma autónoma, está generando tanto entusiasmo como preocupación dentro de la comunidad tecnológica, con desarrolladores explorando su potencial mientras que investigadores de seguridad advierten sobre nuevas vulnerabilidades. Estos agentes, capaces de construir software, resolver problemas y comunicarse entre sí, se están desarrollando utilizando nuevas herramientas que están dando "superpoderes" a la IA, según Vox. Simultáneamente, las amenazas de seguridad están evolucionando para explotar estos avances, como lo demuestran los recientes ataques dirigidos a desarrolladores.
Los desarrolladores están construyendo e implementando activamente agentes de IA. Un ejemplo es el "Resilient Workflow Sentinel", un orquestador de tareas LLM 7B local y fuera de línea diseñado para analizar la urgencia, debatir las asignaciones y equilibrar la carga, que se ejecuta en hardware de consumo como las GPU RTX 3080/4090, como se detalla en GitHub. Otro proyecto, el "Calfkit SDK", tiene como objetivo construir agentes de IA asíncronos y distribuidos, permitiendo a los desarrolladores componer agentes con servicios independientes que se comunican de forma asíncrona, según información de GitHub. Este enfoque enfatiza la arquitectura basada en eventos para evitar los problemas de escalabilidad asociados con las aplicaciones web tradicionales.
El rápido desarrollo de los agentes de IA se está produciendo en un contexto de crecientes amenazas a la ciberseguridad. Una nueva cadena de ataque, el pivote de gestión de identidades y accesos (IAM), está explotando a los desarrolladores a través de paquetes maliciosos disfrazados de evaluaciones de codificación legítimas, según VentureBeat, citando una investigación de CrowdStrike. Este ataque permite a los adversarios robar credenciales de la nube, como claves API y tokens de acceso personal, lo que les permite desviar criptomonedas y operar sin ser detectados. Según los informes, un grupo estuvo involucrado en más de 2.000 millones de dólares en operaciones con criptomonedas.
El potencial de los agentes de IA es significativo. "Algunas personas inteligentes piensan que estamos presenciando otro momento ChatGPT", escribió Adam Clark Estes, corresponsal tecnológico sénior de Vox. Sin embargo, la rápida evolución de estas tecnologías también plantea preocupaciones. El desarrollo de agentes de IA está creando un nuevo panorama tanto para la innovación como para la posible explotación.
Discussion
AI Experts & Community
Be the first to comment