Signal-Mitbegründer Moxie Marlinspike hat im Dezember ein neues Projekt namens Confer gestartet, eine datenschutzbewusste Alternative zu KI-basierten persönlichen Assistenten wie ChatGPT und Claude. Confer zielt darauf ab, eine ähnliche Benutzererfahrung wie diese beliebten Chatbots zu bieten, jedoch mit einem Backend, das darauf ausgelegt ist, Datenerfassung zu vermeiden, und somit den wachsenden Datenschutzbedenken im Zusammenhang mit KI-Diensten Rechnung trägt.

Der Anstoß für Confer rührt von der intimen Natur von KI-Chatbots und dem potenziellen Missbrauch persönlicher Daten her. Marlinspike argumentiert, dass diese Schnittstellen "aktiv zur Beichte einladen" und mehr persönliche Informationen sammeln können als jede frühere Technologie. Er äußerte Bedenken hinsichtlich des Potenzials für Werbeunternehmen, diese Daten auszunutzen, und verglich dies mit "jemandem, der Ihren Therapeuten bezahlt, um Sie davon zu überzeugen, etwas zu kaufen".

Im Gegensatz zu vielen KI-Modellen stellt die Architektur von Confer sicher, dass Benutzerkonversationen nicht verwendet werden können, um das Modell zu trainieren oder Werbung gezielt zu schalten. Dies wird dadurch erreicht, dass der Host niemals Zugriff auf die Konversationsdaten erhält. Der Open-Source-Charakter des Projekts, ähnlich wie bei Signal, soll Vertrauen und Transparenz fördern.

Der Aufstieg von KI-basierten persönlichen Assistenten hat eine Debatte über den Datenschutz ausgelöst. Viele Benutzer scheuen sich, persönliche Informationen mit KI-Modellen zu teilen, aus Angst, dass diese gespeichert und möglicherweise für Werbung oder andere Zwecke verwendet werden. OpenAI, das Unternehmen hinter ChatGPT, testet bereits Werbung, was Bedenken aufwirft, dass die Datenerfassungspraktiken von Unternehmen wie Facebook und Google in Chatbot-Interaktionen üblich werden könnten.

Confer stellt einen Versuch dar, diesen Bedenken durch das Angebot einer datenschutzorientierten Alternative zu begegnen. Durch die Priorisierung von Datenschutz und Transparenz hofft das Projekt zu demonstrieren, dass es möglich ist, KI-Dienste zu entwickeln, die die Privatsphäre der Benutzer respektieren. Das Projekt befindet sich noch in einem frühen Stadium, und sein langfristiger Erfolg wird davon abhängen, ob es Benutzer und Entwickler anziehen kann, die sein Engagement für den Datenschutz teilen.