El defensor de la privacidad **Moxie Marlinspike**, conocido por crear la aplicación de comunicación segura **Signal** y su protocolo de cifrado de código abierto ampliamente utilizado, anunció esta semana que su plataforma de IA enfocada en privacidad, **Confer**, comenzará a integrar su tecnología en los sistemas de IA de **Meta**. Cada día, miles de millones de mensajes de chat enviados a través de **Signal**, **WhatsApp** de **Meta** y Mensajes de **Apple** están protegidos por cifrado de extremo a extremo. Esta función, que impide que las empresas tecnológicas y otros espíen los mensajes, se ha generalizado. Sin embargo, a medida que las plataformas de IA generativa ganan popularidad, miles de millones de interacciones diarias con chatbots de IA carecen de esta protección, lo que las hace accesibles para las empresas de IA. # El Impulso por una IA Enfocada en la Privacidad Las plataformas a menudo entrenan modelos de IA con extensos datos de usuario, lo que dificulta la exclusión voluntaria. A medida que los chatbots y los agentes de IA se vuelven más capaces, los tecnólogos y las empresas están impulsando sistemas más restringidos y enfocados en la privacidad. “A medida que los LLM continúen pudiendo hacer más, deberíamos esperar que fluya aún más datos hacia ellos”, escribió Marlinspike en una publicación de blog sobre la colaboración con **Meta**. “En este momento, ninguno de esos datos es privado. Se comparte con empresas de IA, sus empleados, hackers, citaciones judiciales y gobiernos. Como siempre ocurre con los datos sin cifrar, inevitablemente terminarán en las manos equivocadas”. Marlinspike declaró que “trabajará para integrar la tecnología de privacidad de Confer para que respalde Meta AI”. Enfatizó que **Confer**, que debutó a principios de este año, operará independientemente de **Meta**. El proyecto tiene como objetivo proporcionar tecnología que “permita a todos obtener todo el poder de la IA junto con toda la privacidad de una conversación cifrada”. # Historial de Marlinspike con Meta En 2016, Marlinspike colaboró con **WhatsApp**, propiedad de **Meta**, para implementar el cifrado de extremo a extremo para más de mil millones de cuentas. Recientemente, **WhatsApp** introdujo un chatbot **Meta AI** que carece de la misma protección que los chats individuales. El jefe de **WhatsApp**, Will Cathcart, declaró en X sobre la colaboración con **Confer**: “Las personas usan la IA de maneras que son profundamente personales y requieren acceso a información confidencial. Es importante que construyamos esa tecnología de una manera que brinde a las personas el poder de hacerlo de forma privada”. # Desafíos y Direcciones Futuras La adopción de IA cifrada aún se encuentra en sus primeras etapas. Los esquemas criptográficos existentes para la comunicación digital tradicional no se traducen fácilmente a la protección de datos de IA generativa. **Confer** es un proyecto nuevo y los detalles específicos sobre la colaboración con **Meta** aún están surgiendo. **Mallory Knodel**, investigadora de criptografía en la Universidad de Nueva York, cree que sería “genial para las personas que usan chatbots que utilizan Meta AI tener confidencialidad y privacidad dentro de ese intercambio”. Esto significaría que **Meta** no podría acceder a los datos de chat de IA para entrenamiento, según Knodel, quien publicó recientemente un estudio sobre cifrado de extremo a extremo e IA. “Realmente espero que más chatbots de IA adopten este enfoque”. Las evaluaciones iniciales de Knodel sugieren que **Confer** no es perfecto, pero es un paso importante hacia la construcción de un chatbot de IA privado. El criptógrafo **JP Aumasson**, director de seguridad de Taurus, también ve **Confer** de manera positiva: “Confer es probablemente la mejor solución de IA privada, considerando todo. No es perfecto, por supuesto. Carece de documentación de su arquitectura, modelo de amenazas y cadena de suministro. Pero Moxie sabe lo que hace y tiene un historial sólido”. Desarrollar esquemas de cifrado para plataformas de IA es complejo. Gran parte del trabajo de privacidad se ha centrado en modelos de código abierto accesibles o en la creación de capas de privacidad entre las empresas de IA y los usuarios finales. Marlinspike señaló que “la tecnología de Confer se ha construido sobre modelos de pesos abiertos. Si bien muchas personas disfrutan usando Confer para una amplia variedad de tareas, otras han extrañado las capacidades de vanguardia de los modelos propietarios”. La colaboración con **Meta** ofrece a Marlinspike la oportunidad de trabajar directamente con modelos cerrados. “Meta está construyendo modelos de vanguardia avanzados, por lo que esto combinará la tecnología de chat de IA más privada del mundo con los modelos de IA más capaces del mundo”, escribió. Los investigadores enfatizan la importancia de esta colaboración, independientemente de si logra todos sus objetivos. Aumasson de Taurus concluye: “La propuesta de Moxie de usar computación confiable, un concepto que data al menos de la década de 1990, me parece sólida. Las suposiciones y limitaciones subyacentes se entienden bien. Nuevamente, no es perfecto, pero probablemente sea suficiente para la mayoría de los usuarios. El desafío es soportar modelos que sean tan buenos como los últimos modelos de vanguardia de Anthropic, Google y OpenAI.”