Les capacités de piratage de l'IA progressent rapidement, atteignant un point critique. La startup de cybersécurité RunSybil a découvert que son outil d'IA, Sybil, avait identifié une vulnérabilité jusqu'alors inconnue dans le système d'un client en novembre. Sybil, qui utilise des modèles d'IA pour rechercher les faiblesses exploitables, a détecté une faille dans le déploiement GraphQL fédéré du client. Cela a exposé des informations confidentielles.

Les cofondateurs de RunSybil, Vlad Ionescu et Ariel Herbert-Voss, ont été surpris par la capacité de l'IA à identifier ce problème complexe. Ils ont confirmé qu'il n'existait aucun enregistrement public de cette vulnérabilité. Sybil utilise une combinaison de modèles d'IA et de techniques propriétaires pour trouver des failles de sécurité telles que des serveurs non corrigés et des bases de données mal configurées.

RunSybil a depuis trouvé le même problème GraphQL dans d'autres systèmes avant sa divulgation publique. Les experts estiment que cela démontre un progrès significatif dans les capacités de raisonnement et de piratage de l'IA. Cette découverte souligne le besoin urgent de renforcer les défenses de cybersécurité basées sur l'IA.

GraphQL est un langage qui spécifie la manière dont les données sont accessibles sur le web via des API. Sybil de RunSybil vise à identifier de manière proactive ces vulnérabilités avant que des acteurs malveillants ne puissent les exploiter. L'entreprise prévoit de continuer à affiner les capacités de Sybil afin de garder une longueur d'avance sur l'évolution des techniques de piratage de l'IA.