Moxie Marlinspike, o engenheiro por trás do aplicativo de mensagens criptografadas Signal, agora está voltando sua atenção para a inteligência artificial com um novo projeto chamado Confer, um assistente de IA de código aberto projetado para proteger os dados do usuário. O Confer tem como objetivo fornecer garantias de que os dados do usuário são ilegíveis para o operador da plataforma, hackers, autoridades policiais ou qualquer parte que não sejam os titulares da conta.

O serviço, incluindo seus grandes modelos de linguagem (LLMs) e componentes de back-end, opera inteiramente em software de código aberto, permitindo que os usuários verifiquem criptograficamente sua integridade. Dados e conversas originários dos usuários, juntamente com as respostas do LLM, são criptografados dentro de um ambiente de execução confiável (TEE). Essa criptografia impede que até mesmo os administradores do servidor acessem ou adulterem os dados. O Confer armazena conversas na mesma forma criptografada, utilizando uma chave que permanece segura no dispositivo do usuário.

A mecânica subjacente do Confer foi projetada para elegância e simplicidade, semelhante à arquitetura do Signal. O Signal estabeleceu um novo padrão para ferramentas de privacidade do usuário final, tornando a criptografia forte acessível e fácil de usar. O objetivo de Marlinspike com o Confer é replicar esse sucesso no campo da IA, onde as preocupações com a privacidade e segurança dos dados estão crescendo.

O desenvolvimento do Confer ocorre em um momento em que os chatbots de IA estão se tornando cada vez mais integrados à vida diária. Esses sistemas de IA geralmente coletam e processam grandes quantidades de dados do usuário, levantando preocupações sobre possível uso indevido ou acesso não autorizado. A criptografia dentro de um TEE é uma medida de segurança que cria um ambiente isolado e seguro para processar dados confidenciais. Isso garante que, mesmo que o sistema principal seja comprometido, os dados dentro do TEE permaneçam protegidos.

As implicações da abordagem do Confer vão além da privacidade individual. Ao garantir que os sistemas de IA não possam acessar ou usar indevidamente os dados do usuário, o Confer pode promover maior confiança na tecnologia de IA e incentivar uma adoção mais ampla. Isso é particularmente importante em áreas sensíveis, como saúde, finanças e serviços jurídicos, onde a privacidade dos dados é fundamental.

O status atual do Confer está em desenvolvimento, com Marlinspike e sua equipe trabalhando para refinar o sistema e expandir suas capacidades. A natureza de código aberto do projeto permite contribuições da comunidade e verificação independente de suas alegações de segurança. Desenvolvimentos futuros podem incluir integrações com outros aplicativos e serviços, bem como aprimoramentos nos próprios modelos de IA.