Moxie Marlinspike, l'ingénieur à l'origine de l'application de messagerie chiffrée Signal, se tourne désormais vers l'intelligence artificielle avec un nouveau projet appelé Confer, un assistant IA open source conçu pour protéger les données des utilisateurs. Confer vise à garantir que les données des utilisateurs sont illisibles pour l'opérateur de la plateforme, les pirates informatiques, les forces de l'ordre ou toute autre partie que les détenteurs de comptes.

Le service, y compris ses grands modèles de langage (LLM) et ses composants back-end, fonctionne entièrement sur des logiciels open source, ce qui permet aux utilisateurs de vérifier cryptographiquement son intégrité. Les données et les conversations provenant des utilisateurs, ainsi que les réponses du LLM, sont chiffrées dans un environnement d'exécution de confiance (TEE). Ce chiffrement empêche même les administrateurs de serveur d'accéder aux données ou de les altérer. Confer stocke les conversations sous la même forme chiffrée, en utilisant une clé qui reste en sécurité sur l'appareil de l'utilisateur.

Les mécanismes sous-jacents de Confer sont conçus pour l'élégance et la simplicité, à l'instar de l'architecture de Signal. Signal a établi une nouvelle norme pour les outils de confidentialité des utilisateurs finaux en rendant le chiffrement fort accessible et convivial. L'objectif de Marlinspike avec Confer est de reproduire ce succès dans le domaine de l'IA, où les préoccupations concernant la confidentialité et la sécurité des données sont croissantes.

Le développement de Confer intervient à un moment où les chatbots d'IA sont de plus en plus intégrés à la vie quotidienne. Ces systèmes d'IA collectent et traitent souvent de grandes quantités de données utilisateur, ce qui soulève des inquiétudes quant à une éventuelle utilisation abusive ou un accès non autorisé. Le chiffrement dans un TEE est une mesure de sécurité qui crée un environnement isolé et sécurisé pour le traitement des données sensibles. Cela garantit que même si le système principal est compromis, les données contenues dans le TEE restent protégées.

Les implications de l'approche de Confer vont au-delà de la confidentialité individuelle. En garantissant que les systèmes d'IA ne peuvent pas accéder aux données des utilisateurs ou en faire un usage abusif, Confer pourrait favoriser une plus grande confiance dans la technologie de l'IA et encourager une adoption plus large. Ceci est particulièrement important dans les domaines sensibles tels que la santé, la finance et les services juridiques, où la confidentialité des données est primordiale.

L'état actuel de Confer est en développement, Marlinspike et son équipe s'efforçant d'affiner le système et d'étendre ses capacités. La nature open source du projet permet des contributions de la communauté et une vérification indépendante de ses affirmations en matière de sécurité. Les développements futurs pourraient inclure des intégrations avec d'autres applications et services, ainsi que des améliorations des modèles d'IA eux-mêmes.