암호화 메시지 앱 Signal의 개발자인 Moxie Marlinspike가 사용자 개인 정보 보호를 우선시하도록 설계된 오픈 소스 AI 비서인 Confer 개발을 통해 인공 지능으로 관심을 돌리고 있습니다. Confer는 사용자 데이터가 플랫폼 운영자, 해커, 법 집행 기관 또는 계정 소유자 이외의 당사자에게 읽히지 않도록 보장하는 것을 목표로 합니다.

대규모 언어 모델(LLM) 및 백엔드 인프라를 포함하는 이 서비스는 완전히 오픈 소스 소프트웨어에서 작동하므로 사용자는 암호화 방식으로 무결성을 확인할 수 있습니다. 사용자로부터 생성된 데이터와 대화, 그리고 LLM의 응답은 신뢰할 수 있는 실행 환경(TEE) 내에서 암호화됩니다. 이 보안 조치는 서버 관리자조차도 데이터에 액세스하거나 조작하는 것을 방지합니다. Confer는 대화를 동일한 암호화 형식으로 저장하며, 키는 사용자 장치에 안전하게 보관됩니다.

Confer의 기본 아키텍처는 우아함과 단순성을 강조하는 Signal의 설계 원칙을 반영합니다. Signal은 널리 보급된 최초의 사용자 친화적인 개인 정보 보호 도구 중 하나로 명성을 얻었습니다.

Confer 개발은 점점 더 정교해지는 AI 시스템 시대에 데이터 개인 정보 보호에 대한 우려가 커짐에 따라 이루어졌습니다. 현재 많은 AI 챗봇은 성능을 개선하기 위해 사용자 데이터를 수집하고 분석하며, 이 데이터가 어떻게 저장, 사용 및 보호되는지에 대한 의문을 제기합니다. Confer의 접근 방식은 사용자 데이터가 비공개로 안전하게 유지되도록 보장함으로써 이러한 위험을 완화하고자 합니다.

이 기술의 의미는 개인 정보 보호를 넘어 확장됩니다. 사용자가 감시의 두려움 없이 AI와 상호 작용할 수 있는 플랫폼을 제공함으로써 Confer는 더 큰 신뢰를 조성하고 더 개방적이고 정직한 커뮤니케이션을 장려할 수 있습니다. 이는 의료, 금융 및 법률 자문과 같은 민감한 영역에서 특히 유용할 수 있습니다.

이 프로젝트는 아직 초기 단계에 있으며 Confer의 장기적인 생존 가능성은 사용자 기반을 확보하고 기존 AI 플랫폼과 경쟁할 수 있는지에 달려 있습니다. 그러나 이 프로젝트는 개인 정보 보호 및 사용자 제어를 우선시하여 AI 개발 환경을 재편할 수 있는 잠재력을 가지고 있습니다. 다음 단계에는 플랫폼 추가 개발, 테스트 및 커뮤니티 피드백이 포함됩니다.