Мокси Марлинспайк, инженер, стоящий за приложением для зашифрованного обмена сообщениями Signal, теперь обращает свое внимание на искусственный интеллект, разрабатывая Confer, AI-ассистента с открытым исходным кодом, разработанного для приоритезации конфиденциальности пользователей. Confer стремится предоставить гарантии того, что пользовательские данные останутся нечитаемыми для оператора платформы, хакеров, правоохранительных органов или любой стороны, кроме владельцев учетных записей.

Сервис, включающий в себя большие языковые модели (LLM) и серверную инфраструктуру, работает полностью на программном обеспечении с открытым исходным кодом, что позволяет пользователям криптографически проверять его целостность. Данные и разговоры, исходящие от пользователей, а также ответы LLM, шифруются в доверенной среде выполнения (TEE). Эта мера безопасности не позволяет даже администраторам сервера получать доступ к данным или манипулировать ими. Confer хранит разговоры в том же зашифрованном формате, используя ключ, который надежно хранится на устройстве пользователя.

Базовая архитектура Confer отражает принципы проектирования Signal, подчеркивая элегантность и простоту. Signal получил известность как один из первых удобных инструментов конфиденциальности, получивших широкое распространение.

Разработка Confer решает растущие проблемы, связанные с конфиденциальностью данных в эпоху все более сложных систем искусственного интеллекта. Многие современные AI-чат-боты собирают и анализируют пользовательские данные для улучшения своей производительности, поднимая вопросы о том, как эти данные хранятся, используются и защищаются. Подход Confer направлен на снижение этих рисков за счет обеспечения конфиденциальности и безопасности пользовательских данных.

Последствия этой технологии выходят за рамки индивидуальной конфиденциальности. Предоставляя платформу, где пользователи могут взаимодействовать с ИИ, не опасаясь слежки, Confer может укрепить доверие и стимулировать более открытое и честное общение. Это может быть особенно ценно в таких деликатных областях, как здравоохранение, финансы и юридические консультации.

Проект все еще находится на ранней стадии, и долгосрочная жизнеспособность Confer будет зависеть от его способности привлечь пользовательскую базу и конкурировать с устоявшимися AI-платформами. Однако проект имеет потенциал изменить ландшафт разработки ИИ, уделяя приоритетное внимание конфиденциальности и контролю пользователей. Следующие шаги включают дальнейшую разработку платформы, тестирование и обратную связь с сообществом.