Moxie Marlinspike, cofondateur de Signal, a lancé en décembre un nouveau projet appelé Confer, une alternative soucieuse de la confidentialité aux assistants personnels IA tels que ChatGPT et Claude. Confer vise à offrir une expérience utilisateur similaire à ces chatbots populaires, tout en évitant les pratiques de collecte de données qui ont soulevé des préoccupations en matière de confidentialité.

La différence fondamentale réside dans l'architecture backend de Confer, conçue pour empêcher l'hôte d'accéder aux conversations des utilisateurs. Cela garantit que les interactions ne peuvent pas être utilisées pour l'entraînement de modèles ou la publicité ciblée, répondant ainsi à une préoccupation majeure dans le paysage actuel de l'IA. Marlinspike a souligné la nature intime des chatbots IA, déclarant : "C'est une forme de technologie qui invite activement à la confession. Les interfaces de chat comme ChatGPT en savent plus sur les gens que toute autre technologie auparavant. Lorsque vous combinez cela avec la publicité, c'est comme si quelqu'un payait votre thérapeute pour vous convaincre d'acheter quelque chose."

L'essor des assistants personnels IA a suscité un débat sur la confidentialité des données. De nombreux utilisateurs hésitent à partager des informations personnelles avec des modèles dont les sociétés mères peuvent conserver et utiliser ces données. L'exploration de la publicité par OpenAI a encore alimenté ces préoccupations, faisant craindre des pratiques de collecte de données similaires à celles employées par Facebook et Google.

Confer se distingue en adoptant une approche open-source, reflétant les principes de transparence et de sécurité qui sous-tendent Signal. Cela permet un examen public du code et favorise la confiance dans les protections de la vie privée de la plateforme. Le projet vise à démontrer qu'il est possible de créer des services d'IA qui respectent la vie privée des utilisateurs sans sacrifier la fonctionnalité.

Les implications de l'IA axée sur la confidentialité vont au-delà des utilisateurs individuels. À mesure que l'IA s'intègre de plus en plus dans divers aspects de la vie, il est essentiel d'assurer la protection des données pour maintenir la confiance de la société et prévenir l'utilisation abusive potentielle des informations personnelles. Confer représente un effort pour façonner l'avenir du développement de l'IA en donnant la priorité à la confidentialité et au contrôle des utilisateurs.

L'état actuel de Confer et ses plans de développement futurs n'étaient pas immédiatement disponibles. Cependant, le lancement du projet signale une demande croissante d'alternatives respectueuses de la vie privée dans le domaine de l'IA et pourrait potentiellement influencer le développement des futures technologies d'IA.