El cofundador de Signal, Moxie Marlinspike, lanzó en diciembre un nuevo proyecto llamado Confer, una alternativa centrada en la privacidad a los asistentes personales de IA como ChatGPT y Claude. Confer tiene como objetivo proporcionar una experiencia de usuario similar a la de estos chatbots populares, evitando al mismo tiempo las prácticas de recopilación de datos que han suscitado preocupaciones sobre la privacidad.

La diferencia fundamental radica en la arquitectura backend de Confer, diseñada para evitar que el anfitrión acceda a las conversaciones de los usuarios. Esto garantiza que las interacciones no puedan utilizarse para el entrenamiento de modelos o la publicidad dirigida, lo que aborda una preocupación clave en el panorama actual de la IA. Marlinspike hizo hincapié en la naturaleza íntima de los chatbots de IA, afirmando: "Es una forma de tecnología que invita activamente a la confesión. Las interfaces de chat como ChatGPT saben más sobre la gente que cualquier otra tecnología anterior. Cuando se combina eso con la publicidad, es como si alguien pagara a tu terapeuta para convencerte de que compres algo".

El auge de los asistentes personales de IA ha suscitado un debate sobre la privacidad de los datos. Muchos usuarios desconfían de compartir información personal con modelos cuyas empresas matrices pueden conservar y utilizar esos datos. La exploración de la publicidad por parte de OpenAI ha alimentado aún más estas preocupaciones, lo que plantea el espectro de prácticas de recopilación de datos similares a las empleadas por Facebook y Google.

Confer se distingue por adoptar un enfoque de código abierto, que refleja los principios de transparencia y seguridad que sustentan Signal. Esto permite el escrutinio público del código y fomenta la confianza en las protecciones de privacidad de la plataforma. El proyecto busca demostrar que es posible crear servicios de IA que respeten la privacidad del usuario sin sacrificar la funcionalidad.

Las implicaciones de la IA centrada en la privacidad van más allá de los usuarios individuales. A medida que la IA se integra cada vez más en diversos aspectos de la vida, garantizar la protección de los datos es crucial para mantener la confianza de la sociedad y evitar el posible uso indebido de la información personal. Confer representa un esfuerzo por dar forma al futuro del desarrollo de la IA priorizando la privacidad y el control del usuario.

El estado actual de Confer y sus planes de desarrollo futuro no estaban disponibles de inmediato. Sin embargo, el lanzamiento del proyecto señala una creciente demanda de alternativas que preserven la privacidad en el espacio de la IA y podría influir en el desarrollo de futuras tecnologías de IA.