Сооснователь Signal Мокси Марлинспайк в декабре запустил новый проект под названием Confer, альтернативу персональным AI-ассистентам, таким как ChatGPT и Claude, с акцентом на конфиденциальность. Confer стремится предоставить пользователям аналогичный опыт использования популярных чат-ботов, избегая при этом сбора данных и обеспечивая конфиденциальность пользователей.
Основное отличие Confer от других AI-сервисов заключается в его внутренней архитектуре. По словам Марлинспайка, Confer разработан таким образом, что разговоры пользователей не могут быть использованы для обучения модели или таргетирования рекламы. Хост сервиса никогда не имеет доступа к разговорам, что гарантирует конфиденциальность личных данных. Этот подход резко контрастирует с практикой сбора данных, принятой во многих AI-компаниях, где данные пользователей часто сохраняются и используются для различных целей, включая обучение моделей и таргетированную рекламу.
Марлинспайк подчеркнул важность конфиденциальности в AI-взаимодействиях, заявив, что эти интерфейсы "активно приглашают к исповеди" и могут узнать о пользователях больше, чем любая предыдущая технология. Он выразил обеспокоенность по поводу потенциальных конфликтов интересов, когда эти интимные разговоры сочетаются с рекламой, сравнив это с "тем, как если бы кто-то платил вашему терапевту, чтобы убедить вас что-то купить".
Открытый исходный код Confer, как и у Signal, призван укрепить доверие и прозрачность. Сделав код общедоступным, пользователи и разработчики могут проверить защиту конфиденциальности и внести свой вклад в развитие проекта. Этот подход согласуется с растущим движением, выступающим за более этичную и ориентированную на конфиденциальность разработку AI.
Рост популярности AI-персональных ассистентов вызвал опасения по поводу потенциальных нарушений конфиденциальности. Поскольку эти сервисы все больше интегрируются в повседневную жизнь, они собирают огромные объемы личной информации, которая может быть уязвима для злоупотреблений или несанкционированного доступа. OpenAI, компания, стоящая за ChatGPT, уже тестирует рекламу, что вызывает опасения, что практика сбора данных, распространенная в рекламной индустрии, может распространиться и на разговоры в чат-ботах.
Confer представляет собой раннюю попытку решить эти проблемы, предлагая альтернативу, сохраняющую конфиденциальность. Хотя проект все еще находится на ранней стадии, он подчеркивает растущий спрос на AI-сервисы, которые ставят во главу угла конфиденциальность пользователей и защиту данных. Разработка Confer может повлиять на будущее направление развития AI, побуждая другие компании внедрять более ориентированные на конфиденциальность подходы. Успех проекта, вероятно, будет зависеть от его способности обеспечить убедительный пользовательский опыт при сохранении строгих гарантий конфиденциальности.
Discussion
Join the conversation
Be the first to comment