Die Hacking-Fähigkeiten von KI entwickeln sich rasant weiter und erreichen einen kritischen Punkt. Das Cybersecurity-Startup RunSybil entdeckte, dass sein KI-Tool Sybil im November eine bisher unbekannte Schwachstelle im System eines Kunden identifizierte. Sybil, das KI-Modelle verwendet, um nach ausnutzbaren Schwächen zu suchen, entdeckte einen Fehler in der föderierten GraphQL-Bereitstellung des Kunden. Dadurch wurden vertrauliche Informationen offengelegt.

Die Mitbegründer von RunSybil, Vlad Ionescu und Ariel Herbert-Voss, waren überrascht von der Fähigkeit der KI, das komplexe Problem zu identifizieren. Sie bestätigten, dass keine öffentliche Aufzeichnung der Schwachstelle existierte. Sybil verwendet eine Kombination aus KI-Modellen und proprietären Techniken, um Sicherheitslücken wie ungepatchte Server und falsch konfigurierte Datenbanken zu finden.

RunSybil hat seitdem das gleiche GraphQL-Problem in anderen Systemen vor der öffentlichen Bekanntmachung gefunden. Experten glauben, dass dies einen bedeutenden Sprung in den Denk- und Hacking-Fähigkeiten von KI demonstriert. Die Entdeckung unterstreicht die dringende Notwendigkeit verbesserter KI-gestützter Cybersecurity-Abwehrmaßnahmen.

GraphQL ist eine Sprache, die festlegt, wie über APIs auf Daten im Web zugegriffen wird. RunSybils Sybil zielt darauf ab, solche Schwachstellen proaktiv zu identifizieren, bevor böswillige Akteure sie ausnutzen können. Das Unternehmen plant, die Fähigkeiten von Sybil kontinuierlich zu verfeinern, um den sich entwickelnden KI-Hacking-Techniken einen Schritt voraus zu sein.