As capacidades de hacking da IA estão avançando rapidamente, atingindo um ponto crítico. A startup de cibersegurança RunSybil descobriu que sua ferramenta de IA, Sybil, identificou uma vulnerabilidade até então desconhecida no sistema de um cliente em novembro. Sybil, que usa modelos de IA para procurar fraquezas exploráveis, detectou uma falha na implantação federada de GraphQL do cliente. Isso expôs informações confidenciais.

Os cofundadores da RunSybil, Vlad Ionescu e Ariel Herbert-Voss, ficaram surpresos com a capacidade da IA de identificar a questão complexa. Eles confirmaram que não existia nenhum registro público da vulnerabilidade. Sybil usa uma combinação de modelos de IA e técnicas proprietárias para encontrar falhas de segurança, como servidores sem patches e bancos de dados mal configurados.

Desde então, a RunSybil encontrou o mesmo problema de GraphQL em outros sistemas antes da divulgação pública. Especialistas acreditam que isso demonstra um salto significativo no raciocínio e nas habilidades de hacking da IA. A descoberta destaca a necessidade urgente de defesas de cibersegurança aprimoradas e orientadas por IA.

GraphQL é uma linguagem que especifica como os dados são acessados ​​na web por meio de APIs. O Sybil da RunSybil tem como objetivo identificar proativamente essas vulnerabilidades antes que agentes maliciosos possam explorá-las. A empresa planeja continuar refinando as capacidades do Sybil para se manter à frente das técnicas de hacking de IA em evolução.