O defensor da privacidade **Moxie Marlinspike**, conhecido por criar o aplicativo de comunicação segura **Signal** e seu protocolo de criptografia de código aberto amplamente utilizado, anunciou esta semana que sua plataforma de IA focada em privacidade, **Confer**, começará a integrar sua tecnologia aos sistemas de IA da **Meta**. Todos os dias, bilhões de mensagens de chat enviadas através do **Signal**, **WhatsApp** da **Meta** e Mensagens da **Apple** são protegidas por criptografia de ponta a ponta. Este recurso, que impede que empresas de tecnologia e outros espionem mensagens, tornou-se mainstream. No entanto, à medida que as plataformas de IA generativa ganham popularidade, bilhões de interações diárias com chatbots de IA carecem dessa proteção, tornando-as acessíveis às empresas de IA. # A Busca por IA Focada em Privacidade As plataformas frequentemente treinam modelos de IA em extensos dados de usuários, tornando difícil a opção de não participar. À medida que chatbots e agentes de IA se tornam mais capazes, tecnólogos e empresas estão pressionando por sistemas mais restritos e focados em privacidade. “À medida que os LLMs continuam a ser capazes de fazer mais, devemos esperar que ainda mais dados fluam para eles”, escreveu Marlinspike em um post de blog sobre a colaboração com a **Meta**. “No momento, nenhum desses dados é privado. Ele é compartilhado com empresas de IA, seus funcionários, hackers, intimações e governos. Como sempre acontece com dados não criptografados, ele inevitavelmente cairá nas mãos erradas.” Marlinspike afirmou que “trabalhará para integrar a tecnologia de privacidade da Confer para que ela sustente a Meta AI”. Ele enfatizou que a **Confer**, que estreou no início deste ano, operará independentemente da **Meta**. O projeto visa fornecer tecnologia que “permita que todos obtenham todo o poder da IA juntamente com toda a privacidade de uma conversa criptografada.” # Histórico de Marlinspike com a Meta Em 2016, Marlinspike colaborou com o **WhatsApp**, de propriedade da **Meta**, para implementar criptografia de ponta a ponta para mais de um bilhão de contas. Recentemente, o **WhatsApp** introduziu um chatbot **Meta AI** que carece da mesma proteção que os chats individuais. O chefe do **WhatsApp**, Will Cathcart, declarou no X sobre a colaboração com a **Confer**: “As pessoas usam IA de maneiras profundamente pessoais e que exigem acesso a informações confidenciais. É importante que construamos essa tecnologia de uma forma que dê às pessoas o poder de fazer isso privadamente.” # Desafios e Direções Futuras A adoção de IA criptografada ainda está em seus estágios iniciais. Esquemas criptográficos existentes para comunicação digital tradicional não se traduzem facilmente para a proteção de dados de IA generativa. A **Confer** é um projeto novo, e detalhes específicos sobre a colaboração com a **Meta** ainda estão surgindo. **Mallory Knodel**, pesquisadora de criptografia na Universidade de Nova York, acredita que seria “ótimo para as pessoas que usam chatbots que utilizam a Meta AI terem confidencialidade e privacidade dentro dessa troca”. Isso significaria que a **Meta** não poderia acessar dados de chat de IA para treinamento, de acordo com Knodel, que publicou recentemente um estudo sobre criptografia de ponta a ponta e IA. “Eu realmente espero que mais chatbots de IA adotem essa abordagem.” As avaliações iniciais de Knodel sugerem que a **Confer** não é perfeita, mas é um passo importante para a construção de um chatbot de IA privado. O criptógrafo **JP Aumasson**, diretor de segurança da Taurus, também vê a **Confer** positivamente: “A Confer é provavelmente a melhor solução privada de IA, considerando tudo. Não é perfeita, é claro. Falta documentação de sua arquitetura, modelo de ameaça e cadeia de suprimentos. Mas Moxie sabe o que está fazendo e tem um histórico sólido.” Desenvolver esquemas de criptografia para plataformas de IA é complexo. Grande parte do trabalho de privacidade se concentrou em modelos de código aberto acessíveis ou na criação de camadas de privacidade entre empresas de IA e usuários finais. Marlinspike observou que “a tecnologia da Confer foi construída sobre modelos de peso aberto. Embora muitas pessoas gostem de usar a Confer para uma ampla variedade de tarefas, outras sentiram falta das capacidades de ponta dos modelos proprietários.” A colaboração com a **Meta** oferece a Marlinspike a oportunidade de trabalhar diretamente com modelos fechados. “A Meta está construindo modelos de ponta avançados, então isso combinará a tecnologia de chat de IA mais privada do mundo com os modelos de IA mais capazes do mundo”, escreveu ele. Pesquisadores enfatizam a importância dessa colaboração, independentemente de ela atingir todos os seus objetivos. Aumasson, da Taurus, conclui: “A proposta de Moxie de usar computação confiável, um conceito que remonta pelo menos aos anos 90, é sólida para mim. As suposições e limitações subjacentes são bem compreendidas. Novamente, não é perfeito, mas provavelmente suficiente para a maioria dos usuários. O desafio é suportar modelos que sejam tão bons quanto os modelos de ponta mais recentes da Anthropic, Google e OpenAI.”