Moxie Marlinspike, der Ingenieur hinter der verschlüsselten Messaging-Anwendung Signal, widmet seine Aufmerksamkeit nun der künstlichen Intelligenz mit der Entwicklung von Confer, einem Open-Source-KI-Assistenten, der die Privatsphäre der Nutzer in den Vordergrund stellen soll. Confer zielt darauf ab, sicherzustellen, dass die Nutzerdaten für den Plattformbetreiber, Hacker, Strafverfolgungsbehörden oder andere Parteien außer den Kontoinhabern unlesbar bleiben.

Der Dienst, der seine großen Sprachmodelle (LLMs) und die Back-End-Infrastruktur umfasst, basiert vollständig auf Open-Source-Software, sodass Benutzer seine Integrität kryptografisch überprüfen können. Daten und Konversationen, die von Benutzern stammen, sowie die Antworten der LLM werden in einer Trusted Execution Environment (TEE) verschlüsselt. Diese Sicherheitsmaßnahme verhindert, dass selbst Serveradministratoren auf die Daten zugreifen oder sie manipulieren können. Confer speichert Konversationen im gleichen verschlüsselten Format und verwendet einen Schlüssel, der sicher auf dem Gerät des Benutzers verbleibt.

Die zugrunde liegende Architektur von Confer spiegelt die Designprinzipien von Signal wider und betont Eleganz und Einfachheit. Signal erlangte Bekanntheit als eines der ersten benutzerfreundlichen Datenschutztools, das eine breite Akzeptanz fand.

Die Entwicklung von Confer begegnet wachsenden Bedenken hinsichtlich des Datenschutzes im Zeitalter immer ausgefeilterer KI-Systeme. Viele aktuelle KI-Chatbots sammeln und analysieren Benutzerdaten, um ihre Leistung zu verbessern, was Fragen darüber aufwirft, wie diese Daten gespeichert, verwendet und geschützt werden. Der Ansatz von Confer zielt darauf ab, diese Risiken zu mindern, indem sichergestellt wird, dass die Benutzerdaten privat und sicher bleiben.

Die Auswirkungen dieser Technologie gehen über den individuellen Datenschutz hinaus. Indem Confer eine Plattform bietet, auf der Benutzer mit KI interagieren können, ohne Angst vor Überwachung haben zu müssen, könnte Confer mehr Vertrauen fördern und eine offenere und ehrlichere Kommunikation anregen. Dies könnte insbesondere in sensiblen Bereichen wie Gesundheitswesen, Finanzen und Rechtsberatung von großem Wert sein.

Das Projekt befindet sich noch in einem frühen Stadium, und die langfristige Tragfähigkeit von Confer wird davon abhängen, ob es gelingt, eine Nutzerbasis zu gewinnen und mit etablierten KI-Plattformen zu konkurrieren. Das Projekt hat jedoch das Potenzial, die Landschaft der KI-Entwicklung neu zu gestalten und dabei Datenschutz und Benutzerkontrolle in den Vordergrund zu stellen. Die nächsten Schritte umfassen die Weiterentwicklung der Plattform, Tests und Community-Feedback.