Moxie Marlinspike, cofundador de Signal, lanzó en diciembre un servicio de IA centrado en la privacidad llamado Confer, que ofrece una alternativa a los asistentes personales de IA convencionales como ChatGPT y Claude. Confer tiene como objetivo proporcionar una experiencia de usuario similar a estas plataformas populares, al tiempo que prioriza la privacidad de los datos y evita las prácticas de recopilación de datos comunes entre las grandes empresas tecnológicas.

El impulso detrás de Confer proviene de las crecientes preocupaciones sobre la privacidad que rodean a los chatbots de IA. Estos servicios a menudo requieren que los usuarios compartan información personal, que luego es retenida por la empresa matriz y potencialmente utilizada para fines como la publicidad dirigida. Marlinspike argumenta que la naturaleza íntima de las interacciones de IA exige mayores garantías de privacidad. "Es una forma de tecnología que invita activamente a la confesión", dijo Marlinspike. "Las interfaces de chat como ChatGPT saben más sobre las personas que cualquier otra tecnología anterior. Cuando combinas eso con la publicidad, es como si alguien le pagara a tu terapeuta para convencerte de que compres algo".

La arquitectura de Confer está diseñada para evitar la recopilación de datos. Las conversaciones no se utilizan para entrenar el modelo de IA ni para dirigir anuncios, ya que el host nunca obtiene acceso a los datos. Esto se logra a través de un backend de código abierto, similar al enfoque de Signal, que permite el escrutinio público y la verificación de sus protecciones de privacidad.

El auge de los asistentes personales de IA ha provocado un debate sobre el equilibrio entre la comodidad y la privacidad. Si bien estas herramientas ofrecen numerosos beneficios, como asistencia personalizada y recuperación de información, también plantean preocupaciones sobre la seguridad de los datos y el posible uso indebido de la información personal. OpenAI, la empresa detrás de ChatGPT, ya está probando la publicidad, lo que plantea la posibilidad de prácticas de recopilación de datos similares a las empleadas por Facebook y Google.

Confer representa un intento de abordar estas preocupaciones ofreciendo una alternativa consciente de la privacidad. Al priorizar la protección de datos y la transparencia, Marlinspike espera demostrar que es posible desarrollar servicios de IA que respeten la privacidad del usuario sin sacrificar la funcionalidad. El proyecto aún se encuentra en sus primeras etapas, y su éxito a largo plazo dependerá de su capacidad para atraer usuarios y competir con los actores establecidos en el mercado de la IA. Sin embargo, señala una creciente demanda de soluciones de IA centradas en la privacidad y podría influir en el desarrollo de futuras tecnologías de IA.