Moxie Marlinspike, el ingeniero detrás de la aplicación de mensajería cifrada Signal, ahora está dirigiendo su atención a la inteligencia artificial con un nuevo proyecto llamado Confer, un asistente de IA de código abierto diseñado para proteger los datos del usuario. Confer tiene como objetivo brindar garantías de que los datos del usuario son ilegibles para el operador de la plataforma, los hackers, las fuerzas del orden o cualquier otra parte que no sean los titulares de la cuenta.

El servicio, incluidos sus modelos de lenguaje grandes (LLM) y componentes de back-end, opera completamente con software de código abierto, lo que permite a los usuarios verificar criptográficamente su integridad. Los datos y las conversaciones que se originan en los usuarios, junto con las respuestas del LLM, se cifran dentro de un entorno de ejecución confiable (TEE). Este cifrado evita que incluso los administradores del servidor accedan o manipulen los datos. Confer almacena las conversaciones en la misma forma cifrada, utilizando una clave que permanece segura en el dispositivo del usuario.

La mecánica subyacente de Confer está diseñada tanto para la elegancia como para la simplicidad, similar a la arquitectura de Signal. Signal estableció un nuevo estándar para las herramientas de privacidad del usuario final al hacer que el cifrado sólido sea accesible y fácil de usar. El objetivo de Marlinspike con Confer es replicar este éxito en el ámbito de la IA, donde las preocupaciones sobre la privacidad y la seguridad de los datos están creciendo.

El desarrollo de Confer se produce en un momento en que los chatbots de IA se están integrando cada vez más en la vida diaria. Estos sistemas de IA a menudo recopilan y procesan grandes cantidades de datos de usuarios, lo que genera preocupaciones sobre el posible uso indebido o el acceso no autorizado. El cifrado dentro de un TEE es una medida de seguridad que crea un entorno aislado y seguro para procesar datos confidenciales. Esto garantiza que, incluso si el sistema principal se ve comprometido, los datos dentro del TEE permanezcan protegidos.

Las implicaciones del enfoque de Confer se extienden más allá de la privacidad individual. Al garantizar que los sistemas de IA no puedan acceder ni utilizar indebidamente los datos del usuario, Confer podría fomentar una mayor confianza en la tecnología de IA y alentar una adopción más amplia. Esto es particularmente importante en áreas sensibles como la atención médica, las finanzas y los servicios legales, donde la privacidad de los datos es primordial.

El estado actual de Confer está en desarrollo, con Marlinspike y su equipo trabajando para refinar el sistema y expandir sus capacidades. La naturaleza de código abierto del proyecto permite contribuciones de la comunidad y la verificación independiente de sus afirmaciones de seguridad. Los desarrollos futuros pueden incluir integraciones con otras aplicaciones y servicios, así como mejoras a los propios modelos de IA.