En décembre, Moxie Marlinspike, cofondateur de Signal, a lancé Confer, un service d'IA axé sur la confidentialité, offrant une alternative aux assistants personnels d'IA grand public tels que ChatGPT et Claude. Confer vise à offrir une expérience utilisateur similaire à ces plateformes populaires tout en privilégiant la confidentialité des données et en évitant les pratiques de collecte de données courantes parmi les grandes entreprises technologiques.

La motivation derrière Confer découle des préoccupations croissantes en matière de confidentialité concernant les chatbots d'IA. Ces services exigent souvent que les utilisateurs partagent des informations personnelles, qui sont ensuite conservées par la société mère et potentiellement utilisées à des fins telles que la publicité ciblée. Marlinspike soutient que la nature intime des interactions avec l'IA nécessite des garanties de confidentialité plus strictes. « C'est une forme de technologie qui invite activement à la confession », a déclaré Marlinspike. « Les interfaces de chat comme ChatGPT en savent plus sur les gens que toute autre technologie auparavant. Lorsque vous combinez cela avec la publicité, c'est comme si quelqu'un payait votre thérapeute pour vous convaincre d'acheter quelque chose. »

L'architecture de Confer est conçue pour empêcher la collecte de données. Les conversations ne sont pas utilisées pour entraîner le modèle d'IA ou cibler des publicités, car l'hôte n'a jamais accès aux données. Ceci est réalisé grâce à un backend open source, similaire à l'approche de Signal, qui permet un examen public et une vérification de ses protections de la vie privée.

L'essor des assistants personnels d'IA a suscité un débat sur l'équilibre entre commodité et confidentialité. Bien que ces outils offrent de nombreux avantages, tels qu'une assistance personnalisée et la récupération d'informations, ils soulèvent également des préoccupations concernant la sécurité des données et l'utilisation abusive potentielle des informations personnelles. OpenAI, la société à l'origine de ChatGPT, teste déjà la publicité, ce qui soulève la possibilité de pratiques de collecte de données similaires à celles employées par Facebook et Google.

Confer représente une tentative de répondre à ces préoccupations en offrant une alternative soucieuse de la confidentialité. En privilégiant la protection des données et la transparence, Marlinspike espère démontrer qu'il est possible de développer des services d'IA qui respectent la vie privée des utilisateurs sans sacrifier les fonctionnalités. Le projet en est encore à ses débuts, et son succès à long terme dépendra de sa capacité à attirer des utilisateurs et à concurrencer les acteurs établis sur le marché de l'IA. Cependant, il signale une demande croissante de solutions d'IA axées sur la confidentialité et pourrait influencer le développement des futures technologies d'IA.