En décembre, Moxie Marlinspike, cofondateur de Signal, a lancé un nouveau projet appelé Confer, une alternative respectueuse de la vie privée aux assistants personnels IA tels que ChatGPT et Claude. Confer vise à offrir une expérience utilisateur similaire à ces chatbots populaires, tout en évitant la collecte de données et en garantissant la confidentialité des utilisateurs.

La principale différence entre Confer et les autres services d'IA réside dans son architecture backend. Selon Marlinspike, Confer est conçu de manière à ce que les conversations des utilisateurs ne puissent pas être utilisées pour entraîner le modèle ou cibler des publicités. L'hébergeur du service n'a jamais accès aux conversations, garantissant ainsi la confidentialité des données personnelles. Cette approche contraste fortement avec les pratiques de collecte de données de nombreuses entreprises d'IA, où les données des utilisateurs sont souvent conservées et utilisées à diverses fins, notamment l'entraînement des modèles et la publicité ciblée.

Marlinspike a souligné l'importance de la confidentialité dans les interactions avec l'IA, déclarant que ces interfaces "invitent activement à la confession" et peuvent en apprendre davantage sur les utilisateurs que toute technologie antérieure. Il s'est dit préoccupé par le potentiel de conflits d'intérêts lorsque ces conversations intimes sont combinées à la publicité, comparant cela à "quelqu'un qui paie votre thérapeute pour vous convaincre d'acheter quelque chose".

La nature open source de Confer, similaire à Signal, est destinée à favoriser la confiance et la transparence. En rendant le code accessible au public, les utilisateurs et les développeurs peuvent vérifier les protections de la vie privée et contribuer au développement du projet. Cette approche s'aligne sur un mouvement croissant qui prône un développement de l'IA plus éthique et axé sur la protection de la vie privée.

L'essor des assistants personnels IA a soulevé des inquiétudes quant au potentiel de violations de la vie privée. À mesure que ces services s'intègrent davantage dans la vie quotidienne, ils collectent de grandes quantités d'informations personnelles, qui peuvent être vulnérables à une utilisation abusive ou à un accès non autorisé. OpenAI, la société à l'origine de ChatGPT, teste déjà la publicité, ce qui fait craindre que les pratiques de collecte de données courantes dans le secteur de la publicité ne s'étendent aux conversations des chatbots.

Confer représente une première tentative de répondre à ces préoccupations en offrant une alternative respectueuse de la vie privée. Bien que le projet n'en soit qu'à ses débuts, il met en évidence la demande croissante de services d'IA qui privilégient la confidentialité des utilisateurs et la protection des données. Le développement de Confer pourrait influencer l'orientation future du développement de l'IA, en encourageant d'autres entreprises à adopter des approches plus respectueuses de la vie privée. Le succès du projet dépendra probablement de sa capacité à offrir une expérience utilisateur convaincante tout en maintenant de solides garanties de confidentialité.