L'IA progresse rapidement dans le domaine de la cybersécurité, démontrant des compétences en piratage qui, selon les experts, approchent d'un « point d'inflexion » critique. RunSybil, une startup spécialisée dans la cybersécurité, l'a découvert en novembre lorsque son outil d'IA, Sybil, a identifié une vulnérabilité complexe dans le système d'un client. L'IA a détecté une faille dans le déploiement par le client de GraphQL fédéré, un langage permettant d'accéder aux données via des API.

Sybil, qui utilise divers modèles d'IA et des techniques propriétaires, a constaté que le client exposait involontairement des informations confidentielles. La découverte était importante car elle nécessitait une compréhension approfondie de plusieurs systèmes et de leurs interactions. Vlad Ionescu et Ariel Herbert-Voss, cofondateurs de RunSybil, ont confirmé que Sybil avait identifié le problème avant qu'il ne soit connu du public.

Cet incident met en évidence la capacité croissante de l'IA à raisonner et à identifier des risques de sécurité sophistiqués. RunSybil a depuis trouvé le même problème GraphQL dans d'autres déploiements. L'entreprise estime que cela marque un bond important dans les capacités de l'IA en matière de cybersécurité.

Sybil de RunSybil analyse les systèmes informatiques à la recherche de vulnérabilités que les pirates pourraient exploiter. Cela comprend les serveurs non corrigés et les bases de données mal configurées. L'entreprise se concentre désormais sur le perfectionnement des capacités de Sybil afin de traiter de manière proactive les menaces émergentes.

Les experts prévoient que l'IA jouera un rôle de plus en plus crucial dans les stratégies de cybersécurité offensives et défensives. L'industrie anticipe de nouvelles avancées dans les outils de sécurité basés sur l'IA dans les mois à venir.