Сооснователь Signal Мокси Марлинспайк в декабре запустил новый проект под названием Confer, ориентированный на конфиденциальность, как альтернативу персональным AI-ассистентам, таким как ChatGPT и Claude. Confer стремится предоставить пользователям аналогичный опыт использования популярных чат-ботов, избегая при этом практики сбора данных, которые вызывают опасения по поводу конфиденциальности.

Основное отличие заключается в серверной архитектуре Confer, разработанной для предотвращения доступа хоста к пользовательским разговорам. Это гарантирует, что взаимодействие не может быть использовано для обучения моделей или таргетированной рекламы, что решает ключевую проблему в современной AI-среде. Марлинспайк подчеркнул интимный характер AI-чат-ботов, заявив: "Это форма технологии, которая активно приглашает к исповеди. Чат-интерфейсы, такие как ChatGPT, знают о людях больше, чем любая другая технология до этого. Когда вы объединяете это с рекламой, это все равно, что кто-то платит вашему терапевту, чтобы убедить вас что-то купить".

Рост популярности персональных AI-ассистентов вызвал дебаты о конфиденциальности данных. Многие пользователи опасаются делиться личной информацией с моделями, чьи материнские компании могут хранить и использовать эти данные. Изучение OpenAI возможностей рекламы еще больше усилило эти опасения, подняв призрак практики сбора данных, аналогичной той, которую используют Facebook и Google.

Confer отличается тем, что использует подход с открытым исходным кодом, отражая принципы прозрачности и безопасности, лежащие в основе Signal. Это позволяет проводить публичную проверку кода и укрепляет доверие к защите конфиденциальности платформы. Проект стремится продемонстрировать, что можно создавать AI-сервисы, которые уважают конфиденциальность пользователей, не жертвуя функциональностью.

Последствия AI, ориентированного на конфиденциальность, выходят за рамки отдельных пользователей. Поскольку AI все больше интегрируется в различные аспекты жизни, обеспечение защиты данных имеет решающее значение для поддержания общественного доверия и предотвращения потенциального злоупотребления личной информацией. Confer представляет собой попытку сформировать будущее развития AI, уделяя приоритетное внимание конфиденциальности и контролю пользователей.

Текущий статус Confer и планы его дальнейшего развития не были сразу доступны. Однако запуск проекта сигнализирует о растущем спросе на альтернативы, сохраняющие конфиденциальность, в сфере AI и может потенциально повлиять на разработку будущих AI-технологий.