Las capacidades de hackeo de la IA están avanzando rápidamente, alcanzando un punto crítico. La startup de ciberseguridad RunSybil descubrió que su herramienta de IA, Sybil, identificó una vulnerabilidad previamente desconocida en el sistema de un cliente en noviembre. Sybil, que utiliza modelos de IA para buscar debilidades explotables, detectó un fallo en la implementación federada de GraphQL del cliente. Esto expuso información confidencial.

Los cofundadores de RunSybil, Vlad Ionescu y Ariel Herbert-Voss, se sorprendieron por la capacidad de la IA para identificar el complejo problema. Confirmaron que no existía ningún registro público de la vulnerabilidad. Sybil utiliza una combinación de modelos de IA y técnicas patentadas para encontrar fallos de seguridad como servidores sin parches y bases de datos mal configuradas.

Desde entonces, RunSybil ha encontrado el mismo problema de GraphQL en otros sistemas antes de su divulgación pública. Los expertos creen que esto demuestra un salto significativo en las capacidades de razonamiento y hackeo de la IA. El descubrimiento destaca la urgente necesidad de defensas de ciberseguridad mejoradas impulsadas por la IA.

GraphQL es un lenguaje que especifica cómo se accede a los datos a través de APIs en la web. Sybil de RunSybil tiene como objetivo identificar de forma proactiva tales vulnerabilidades antes de que agentes maliciosos puedan explotarlas. La compañía planea continuar refinando las capacidades de Sybil para mantenerse a la vanguardia de las técnicas de hackeo de IA en evolución.