Le défenseur de la vie privée **Moxie Marlinspike**, connu pour avoir créé l'application de communication sécurisée **Signal** et son protocole de chiffrement open source largement utilisé, a annoncé cette semaine que sa plateforme d'IA axée sur la confidentialité, **Confer**, commencerait à intégrer sa technologie aux systèmes d'IA de **Meta**. Chaque jour, des milliards de messages échangés via **Signal**, **WhatsApp** de **Meta**, et Messages d'**Apple** sont protégés par le chiffrement de bout en bout. Cette fonctionnalité, qui empêche les entreprises technologiques et autres d'espionner les messages, est devenue courante. Cependant, à mesure que les plateformes d'IA générative gagnent en popularité, des milliards d'interactions quotidiennes avec les chatbots IA manquent de cette protection, les rendant accessibles aux entreprises d'IA. # La poussée pour une IA axée sur la confidentialité Les plateformes entraînent souvent des modèles d'IA sur d'énormes quantités de données utilisateur, rendant difficile le refus. À mesure que les chatbots et les agents IA deviennent plus performants, les technologues et les entreprises poussent à des systèmes plus contraints et axés sur la confidentialité. « Alors que les LLM continuent de pouvoir faire plus, nous devrions nous attendre à ce que encore plus de données y affluent », a écrit Marlinspike dans un article de blog sur la collaboration avec **Meta**. « Pour l'instant, aucune de ces données n'est privée. Elle est partagée avec les entreprises d'IA, leurs employés, les pirates, les assignations et les gouvernements. Comme toujours avec les données non chiffrées, elles finiront inévitablement entre de mauvaises mains. » Marlinspike a déclaré qu'il « travaillerait à intégrer la technologie de confidentialité de Confer afin qu'elle sous-tende Meta AI ». Il a souligné que **Confer**, qui a fait ses débuts plus tôt cette année, fonctionnerait indépendamment de **Meta**. Le projet vise à fournir une technologie qui « permet à chacun de bénéficier de toute la puissance de l'IA ainsi que de toute la confidentialité d'une conversation chiffrée ». # L'historique de Marlinspike avec Meta En 2016, Marlinspike a collaboré avec **WhatsApp**, propriété de **Meta**, pour implémenter le chiffrement de bout en bout pour plus d'un milliard de comptes. Récemment, **WhatsApp** a introduit un chatbot **Meta AI** qui ne bénéficie pas de la même protection que les conversations individuelles. Le responsable de **WhatsApp**, Will Cathcart, a déclaré sur X à propos de la collaboration avec **Confer** : « Les gens utilisent l'IA de manière profondément personnelle et nécessitent l'accès à des informations confidentielles. Il est important que nous construisions cette technologie d'une manière qui donne aux gens le pouvoir de le faire en privé. » # Défis et orientations futures L'adoption de l'IA chiffrée en est encore à ses débuts. Les schémas cryptographiques existants pour la communication numérique traditionnelle ne se traduisent pas facilement pour la protection des données d'IA générative. **Confer** est un nouveau projet, et les détails spécifiques de la collaboration avec **Meta** émergent encore. **Mallory Knodel**, chercheuse en cryptographie à l'Université de New York, pense qu'il serait « formidable pour les utilisateurs de chatbots qui utilisent Meta AI d'avoir la confidentialité et la protection de la vie privée au sein de cet échange ». Cela signifierait que **Meta** ne pourrait pas accéder aux données de chat IA pour l'entraînement, selon Knodel, qui a récemment publié une étude sur le chiffrement de bout en bout et l'IA. « J'espère vraiment que davantage de chatbots IA adopteront cette approche. » Les évaluations initiales de Knodel suggèrent que **Confer** n'est pas parfait mais constitue une étape importante vers la construction d'un chatbot IA privé. Le cryptographe **JP Aumasson**, directeur de la sécurité chez Taurus, voit également **Confer** positivement : « Confer est probablement la meilleure solution d'IA privée, tout bien considéré. Elle n'est pas parfaite, bien sûr. Elle manque de documentation sur son architecture, son modèle de menace et sa chaîne d'approvisionnement. Mais Moxie sait ce qu'il fait et a une solide expérience. » Le développement de schémas de chiffrement pour les plateformes d'IA est complexe. Une grande partie du travail de confidentialité s'est concentrée sur les modèles open source accessibles ou la création de couches de confidentialité entre les entreprises d'IA et les utilisateurs finaux. Marlinspike a noté que « la technologie de Confer a été construite sur des modèles à poids ouverts. Bien que de nombreuses personnes aiment utiliser Confer pour une grande variété de tâches, d'autres ont regretté les capacités de pointe des modèles propriétaires. » La collaboration avec **Meta** offre à Marlinspike l'opportunité de travailler directement avec des modèles fermés. « Meta construit des modèles de pointe avancés, donc cela combinera la technologie de chat IA la plus privée au monde avec les modèles IA les plus capables au monde », a-t-il écrit. Les chercheurs soulignent l'importance de cette collaboration, qu'elle atteigne ou non tous ses objectifs. Aumasson de Taurus conclut : « La proposition de Moxie d'utiliser le calcul de confiance, un concept qui remonte au moins aux années 1990, me semble solide. Les hypothèses et les limitations sous-jacentes sont bien comprises. Encore une fois, ce n'est pas parfait, mais probablement suffisant pour la plupart des utilisateurs. Le défi est de prendre en charge des modèles aussi performants que les derniers modèles de pointe d'Anthropic, Google et OpenAI. »