Moxie Marlinspike, l'ingénieur à l'origine de l'application de messagerie chiffrée Signal, tourne désormais son attention vers l'intelligence artificielle avec le développement de Confer, un assistant IA open source conçu pour donner la priorité à la confidentialité des utilisateurs. Confer vise à garantir que les données des utilisateurs restent illisibles pour l'opérateur de la plateforme, les pirates informatiques, les forces de l'ordre ou toute autre partie que les détenteurs de comptes.

Le service, comprenant ses grands modèles linguistiques (LLM) et son infrastructure dorsale, fonctionne entièrement sur un logiciel open source, permettant aux utilisateurs de vérifier cryptographiquement son intégrité. Les données et les conversations provenant des utilisateurs, ainsi que les réponses du LLM, sont chiffrées dans un environnement d'exécution de confiance (TEE). Cette mesure de sécurité empêche même les administrateurs de serveur d'accéder aux données ou de les manipuler. Confer stocke les conversations dans le même format chiffré, en utilisant une clé qui reste en sécurité sur l'appareil de l'utilisateur.

L'architecture sous-jacente de Confer reflète les principes de conception de Signal, en mettant l'accent sur l'élégance et la simplicité. Signal s'est imposé comme l'un des premiers outils de confidentialité conviviaux à être largement adopté.

Le développement de Confer répond aux préoccupations croissantes concernant la confidentialité des données à l'ère des systèmes d'IA de plus en plus sophistiqués. De nombreux chatbots d'IA actuels collectent et analysent les données des utilisateurs pour améliorer leurs performances, ce qui soulève des questions sur la manière dont ces données sont stockées, utilisées et protégées. L'approche de Confer vise à atténuer ces risques en garantissant que les données des utilisateurs restent privées et sécurisées.

Les implications de cette technologie vont au-delà de la confidentialité individuelle. En fournissant une plateforme où les utilisateurs peuvent interagir avec l'IA sans crainte de surveillance, Confer pourrait favoriser une plus grande confiance et encourager une communication plus ouverte et honnête. Cela pourrait être particulièrement précieux dans des domaines sensibles tels que la santé, la finance et les conseils juridiques.

Le projet en est encore à ses débuts, et la viabilité à long terme de Confer dépendra de sa capacité à attirer une base d'utilisateurs et à concurrencer les plateformes d'IA établies. Cependant, le projet a le potentiel de remodeler le paysage du développement de l'IA, en donnant la priorité à la confidentialité et au contrôle de l'utilisateur. Les prochaines étapes consistent à poursuivre le développement de la plateforme, les tests et les commentaires de la communauté.