El cofundador de Signal, Moxie Marlinspike, lanzó en diciembre un nuevo proyecto llamado Confer, una alternativa que prioriza la privacidad a los asistentes personales de IA como ChatGPT y Claude. Confer tiene como objetivo proporcionar una experiencia de usuario similar a estos chatbots populares, evitando al mismo tiempo la recopilación de datos y garantizando la privacidad del usuario.
La diferencia fundamental entre Confer y otros servicios de IA radica en su arquitectura de backend. Según Marlinspike, Confer está diseñado para que las conversaciones de los usuarios no se puedan utilizar para entrenar el modelo ni para dirigir anuncios. El anfitrión del servicio nunca tiene acceso a las conversaciones, lo que garantiza que los datos personales permanezcan privados. Este enfoque contrasta marcadamente con las prácticas de recopilación de datos de muchas empresas de IA, donde los datos de los usuarios a menudo se conservan y se utilizan para diversos fines, incluido el entrenamiento de modelos y la publicidad dirigida.
Marlinspike enfatizó la importancia de la privacidad en las interacciones de la IA, afirmando que estas interfaces "invitan activamente a la confesión" y pueden aprender más sobre los usuarios que cualquier tecnología anterior. Expresó su preocupación por el potencial de conflictos de intereses cuando estas conversaciones íntimas se combinan con la publicidad, comparándolo con "alguien que le paga a tu terapeuta para convencerte de que compres algo".
La naturaleza de código abierto de Confer, similar a Signal, tiene como objetivo fomentar la confianza y la transparencia. Al hacer que el código esté disponible públicamente, los usuarios y desarrolladores pueden verificar las protecciones de privacidad y contribuir al desarrollo del proyecto. Este enfoque se alinea con un movimiento creciente que aboga por un desarrollo de la IA más ético y centrado en la privacidad.
El auge de los asistentes personales de IA ha suscitado preocupaciones sobre el potencial de violaciones de la privacidad. A medida que estos servicios se integran más en la vida diaria, recopilan grandes cantidades de información personal, que puede ser vulnerable al uso indebido o al acceso no autorizado. OpenAI, la empresa detrás de ChatGPT, ya está probando la publicidad, lo que genera preocupación de que las prácticas de recopilación de datos comunes en la industria publicitaria puedan extenderse a las conversaciones de los chatbots.
Confer representa un intento inicial de abordar estas preocupaciones ofreciendo una alternativa que preserva la privacidad. Si bien el proyecto aún se encuentra en sus primeras etapas, destaca la creciente demanda de servicios de IA que prioricen la privacidad del usuario y la protección de datos. El desarrollo de Confer podría influir en la dirección futura del desarrollo de la IA, alentando a otras empresas a adoptar enfoques más conscientes de la privacidad. El éxito del proyecto probablemente dependerá de su capacidad para proporcionar una experiencia de usuario convincente al tiempo que mantiene sólidas garantías de privacidad.
Discussion
Join the conversation
Be the first to comment