Moxie Marlinspike, der Entwickler hinter der verschlüsselten Nachrichten-App Signal, wendet sich nun der künstlichen Intelligenz zu mit einem neuen Projekt namens Confer, einem Open-Source-KI-Assistenten, der zum Schutz von Benutzerdaten entwickelt wurde. Confer zielt darauf ab, Zusicherungen zu geben, dass Benutzerdaten für den Plattformbetreiber, Hacker, Strafverfolgungsbehörden oder jede andere Partei außer den Kontoinhabern unlesbar sind.

Der Dienst, einschließlich seiner Large Language Models (LLMs) und Back-End-Komponenten, arbeitet vollständig mit Open-Source-Software, wodurch Benutzer seine Integrität kryptografisch überprüfen können. Daten und Konversationen, die von Benutzern stammen, zusammen mit den Antworten des LLM, werden innerhalb einer Trusted Execution Environment (TEE) verschlüsselt. Diese Verschlüsselung verhindert, dass selbst Serveradministratoren auf die Daten zugreifen oder diese manipulieren können. Confer speichert Konversationen in derselben verschlüsselten Form und verwendet einen Schlüssel, der sicher auf dem Gerät des Benutzers verbleibt.

Die zugrunde liegende Mechanik von Confer ist auf Eleganz und Einfachheit ausgelegt, ähnlich wie die Architektur von Signal. Signal hat einen neuen Standard für Endbenutzer-Datenschutztools gesetzt, indem es starke Verschlüsselung zugänglich und benutzerfreundlich gemacht hat. Marlinspikes Ziel mit Confer ist es, diesen Erfolg im Bereich der KI zu wiederholen, wo die Bedenken hinsichtlich Datenschutz und Sicherheit wachsen.

Die Entwicklung von Confer kommt zu einer Zeit, in der KI-Chatbots zunehmend in den Alltag integriert werden. Diese KI-Systeme sammeln und verarbeiten oft riesige Mengen an Benutzerdaten, was Bedenken hinsichtlich potenziellen Missbrauchs oder unbefugten Zugriffs aufwirft. Die Verschlüsselung innerhalb einer TEE ist eine Sicherheitsmaßnahme, die eine isolierte und sichere Umgebung für die Verarbeitung sensibler Daten schafft. Dies stellt sicher, dass die Daten innerhalb der TEE geschützt bleiben, selbst wenn das Hauptsystem kompromittiert wird.

Die Auswirkungen des Ansatzes von Confer gehen über den individuellen Datenschutz hinaus. Indem sichergestellt wird, dass KI-Systeme nicht auf Benutzerdaten zugreifen oder diese missbrauchen können, könnte Confer das Vertrauen in die KI-Technologie stärken und eine breitere Akzeptanz fördern. Dies ist besonders wichtig in sensiblen Bereichen wie dem Gesundheitswesen, dem Finanzwesen und Rechtsdienstleistungen, wo der Datenschutz von größter Bedeutung ist.

Der aktuelle Status von Confer ist in der Entwicklung, wobei Marlinspike und sein Team daran arbeiten, das System zu verfeinern und seine Fähigkeiten zu erweitern. Die Open-Source-Natur des Projekts ermöglicht Community-Beiträge und eine unabhängige Überprüfung seiner Sicherheitsbehauptungen. Zukünftige Entwicklungen könnten Integrationen mit anderen Anwendungen und Diensten sowie Verbesserungen der KI-Modelle selbst umfassen.