Microsoft hat eine Schwachstelle in seinem Copilot KI-Assistenten behoben, die es Angreifern ermöglichte, sensible Nutzerdaten durch einen einzigen Klick auf eine scheinbar legitime URL zu extrahieren. Sicherheitsforscher von Varonis entdeckten die Schwachstelle und demonstrierten einen mehrstufigen Angriff, der den Namen, den Standort und Details aus dem Copilot-Chatverlauf eines Nutzers stehlen konnte.

Der Angriff dauerte auch dann noch an, nachdem der Nutzer das Copilot-Chatfenster geschlossen hatte, und erforderte keine weitere Interaktion über den anfänglichen Klick auf den in einer E-Mail eingebetteten Link hinaus. Laut Varonis umging der Exploit die Sicherheitskontrollen für Unternehmensendpunkte und die Erkennungsmechanismen, die typischerweise von Endpunktschutzanwendungen eingesetzt werden. "Sobald wir diesen Link mit diesem bösartigen Prompt ausliefern, muss der Nutzer nur noch auf den Link klicken und die bösartige Aufgabe wird sofort ausgeführt", sagte Dolev Taler, ein Sicherheitsforscher bei Varonis, in einer Erklärung gegenüber Ars Technica. "Selbst wenn der Nutzer nur auf den Link klickt und sofort den Tab des Copilot-Chats schließt, funktioniert der Exploit immer noch."

Die Schwachstelle verdeutlicht die inhärenten Risiken, die mit großen Sprachmodellen (LLMs) wie Copilot verbunden sind, die zunehmend in tägliche Arbeitsabläufe integriert werden. LLMs lernen aus riesigen Datensätzen, wodurch sie menschenähnlichen Text generieren und Aufgaben automatisieren können. Ihre Komplexität schafft jedoch auch Möglichkeiten zur Ausnutzung. In diesem Fall nutzte der Angriff einen speziell entwickelten Prompt, der in einen legitimen Copilot-Link eingebettet war, um eine Kette von Aktionen auszulösen, die zum Datenabfluss führten.

Dieser Vorfall unterstreicht die Bedeutung robuster Sicherheitsmaßnahmen für KI-gestützte Tools. Während KI erhebliche Vorteile in Bezug auf Produktivität und Automatisierung bietet, führt sie auch neue Angriffsvektoren ein, die von traditionellen Sicherheitssystemen möglicherweise nicht ausreichend berücksichtigt werden. Die Fähigkeit dieses Exploits, Endpunktschutz-Apps zu umgehen, wirft Bedenken hinsichtlich der Wirksamkeit aktueller Sicherheitsparadigmen angesichts ausgeklügelter KI-gesteuerter Angriffe auf.

Die Entdeckung dieser Schwachstelle und ihre anschließende Behebung durch Microsoft stellen eine fortlaufende Bemühung dar, KI-Systeme zu sichern. Da KI immer allgegenwärtiger wird, ist die Zusammenarbeit zwischen Sicherheitsforschern und Technologieanbietern entscheidend, um potenzielle Risiken zu identifizieren und zu mindern. Der Vorfall dient als Mahnung, dass selbst scheinbar harmlose Interaktionen mit KI-Systemen unbeabsichtigte Folgen haben können, was die Notwendigkeit von Nutzerbewusstsein und Vorsicht bei der Interaktion mit KI-generierten Inhalten unterstreicht. Weitere Details über die spezifische Art der Schwachstelle und die von Microsoft ergriffenen Maßnahmen zur Behebung werden voraussichtlich in den kommenden Wochen veröffentlicht.