Мокси Марлинспайк, инженер, стоящий за приложением для зашифрованного обмена сообщениями Signal, теперь обращает свое внимание на искусственный интеллект с новым проектом под названием Confer, AI-ассистентом с открытым исходным кодом, разработанным для защиты пользовательских данных. Confer стремится предоставить гарантии того, что пользовательские данные нечитаемы для оператора платформы, хакеров, правоохранительных органов или любой стороны, кроме владельцев учетных записей.

Сервис, включая его большие языковые модели (LLM) и серверные компоненты, работает полностью на программном обеспечении с открытым исходным кодом, что позволяет пользователям криптографически проверять его целостность. Данные и разговоры, исходящие от пользователей, а также ответы LLM, шифруются в доверенной среде выполнения (TEE). Это шифрование не позволяет даже системным администраторам получать доступ к данным или изменять их. Confer хранит разговоры в той же зашифрованной форме, используя ключ, который надежно хранится на устройстве пользователя.

Основная механика Confer разработана как для элегантности, так и для простоты, подобно архитектуре Signal. Signal установил новый стандарт для инструментов конфиденциальности конечных пользователей, сделав надежное шифрование доступным и удобным для пользователя. Цель Марлинспайка с Confer — повторить этот успех в области ИИ, где растут опасения по поводу конфиденциальности и безопасности данных.

Разработка Confer происходит в то время, когда AI-чат-боты все больше интегрируются в повседневную жизнь. Эти AI-системы часто собирают и обрабатывают огромные объемы пользовательских данных, вызывая опасения по поводу потенциального злоупотребления или несанкционированного доступа. Шифрование в TEE — это мера безопасности, которая создает изолированную и безопасную среду для обработки конфиденциальных данных. Это гарантирует, что даже если основная система будет скомпрометирована, данные внутри TEE останутся защищенными.

Последствия подхода Confer выходят за рамки индивидуальной конфиденциальности. Обеспечивая невозможность доступа или злоупотребления пользовательскими данными со стороны AI-систем, Confer может укрепить доверие к AI-технологиям и стимулировать их более широкое внедрение. Это особенно важно в таких чувствительных областях, как здравоохранение, финансы и юридические услуги, где конфиденциальность данных имеет первостепенное значение.

В настоящее время Confer находится в разработке, Марлинспайк и его команда работают над усовершенствованием системы и расширением ее возможностей. Открытый исходный код проекта позволяет сообществу вносить свой вклад и проводить независимую проверку заявлений о безопасности. Будущие разработки могут включать интеграцию с другими приложениями и сервисами, а также улучшения самих AI-моделей.