Moxie Marlinspike, el ingeniero detrás de la aplicación de mensajería cifrada Signal, ahora está dirigiendo su atención a la inteligencia artificial con el desarrollo de Confer, un asistente de IA de código abierto diseñado para priorizar la privacidad del usuario. Confer tiene como objetivo brindar garantías de que los datos del usuario permanecen ilegibles para el operador de la plataforma, los hackers, las fuerzas del orden o cualquier parte que no sean los titulares de la cuenta.

El servicio, que abarca sus modelos de lenguaje grandes (LLM) y su infraestructura de back-end, opera completamente con software de código abierto, lo que permite a los usuarios verificar criptográficamente su integridad. Los datos y las conversaciones que se originan en los usuarios, junto con las respuestas del LLM, se cifran dentro de un entorno de ejecución confiable (TEE). Esta medida de seguridad evita que incluso los administradores del servidor accedan o manipulen los datos. Confer almacena las conversaciones en el mismo formato cifrado, utilizando una clave que permanece segura en el dispositivo del usuario.

La arquitectura subyacente de Confer refleja los principios de diseño de Signal, enfatizando la elegancia y la simplicidad. Signal ganó prominencia como una de las primeras herramientas de privacidad fáciles de usar en lograr una adopción generalizada.

El desarrollo de Confer aborda las crecientes preocupaciones sobre la privacidad de los datos en la era de los sistemas de IA cada vez más sofisticados. Muchos chatbots de IA actuales recopilan y analizan los datos del usuario para mejorar su rendimiento, lo que plantea preguntas sobre cómo se almacenan, utilizan y protegen estos datos. El enfoque de Confer busca mitigar estos riesgos al garantizar que los datos del usuario permanezcan privados y seguros.

Las implicaciones de esta tecnología se extienden más allá de la privacidad individual. Al proporcionar una plataforma donde los usuarios pueden interactuar con la IA sin temor a la vigilancia, Confer podría fomentar una mayor confianza y alentar una comunicación más abierta y honesta. Esto podría ser particularmente valioso en áreas sensibles como la atención médica, las finanzas y el asesoramiento legal.

El proyecto aún se encuentra en sus primeras etapas, y la viabilidad a largo plazo de Confer dependerá de su capacidad para atraer una base de usuarios y competir con las plataformas de IA establecidas. Sin embargo, el proyecto tiene el potencial de remodelar el panorama del desarrollo de la IA, priorizando la privacidad y el control del usuario. Los próximos pasos implican un mayor desarrollo de la plataforma, pruebas y comentarios de la comunidad.