Datenschutzaktivist **Moxie Marlinspike**, bekannt für die Entwicklung der sicheren Kommunikations-App **Signal** und ihres weit verbreiteten Open-Source-Verschlüsselungsprotokolls, kündigte diese Woche an, dass seine KI-Plattform mit Fokus auf Datenschutz, **Confer**, mit der Integration seiner Technologie in die KI-Systeme von **Meta** beginnen wird. Jeden Tag werden Milliarden von Chatnachrichten, die über **Signal**, **Metas** **WhatsApp** und **Apples** Messages gesendet werden, durch Ende-zu-Ende-Verschlüsselung geschützt. Diese Funktion, die Technologieunternehmen und andere daran hindert, Nachrichten mitzulesen, ist mittlerweile Mainstream. Da generative KI-Plattformen jedoch immer beliebter werden, fehlt es Milliarden von täglichen Interaktionen mit KI-Chatbots an diesem Schutz, wodurch sie für KI-Unternehmen zugänglich werden. # Der Vorstoß für KI mit Fokus auf Datenschutz Plattformen trainieren KI-Modelle oft auf umfangreichen Benutzerdaten, was eine Opt-out-Möglichkeit erschwert. Da Chatbots und KI-Agenten immer leistungsfähiger werden, drängen Technologen und Unternehmen auf eingeschränktere und auf Datenschutz ausgerichtete Systeme. „Da LLMs immer mehr leisten können, sollten wir erwarten, dass noch mehr Daten in sie einfließen“, schrieb Marlinspike in einem Blogbeitrag über die Zusammenarbeit mit **Meta**. „Derzeit ist keiner dieser Daten privat. Er wird mit KI-Unternehmen, ihren Mitarbeitern, Hackern, Vorladungen und Regierungen geteilt. Wie immer bei unverschlüsselten Daten wird er zwangsläufig in die falschen Hände geraten.“ Marlinspike erklärte, er werde „daran arbeiten, die private Technologie von Confer zu integrieren, damit sie Meta AI untermauert“. Er betonte, dass **Confer**, das Anfang dieses Jahres vorgestellt wurde, unabhängig von **Meta** operieren wird. Das Projekt zielt darauf ab, Technologie bereitzustellen, die „es jedem ermöglicht, die volle Leistung von KI zusammen mit der vollen Privatsphäre einer verschlüsselten Konversation zu erhalten.“ # Marlinspikes Geschichte mit Meta Im Jahr 2016 arbeitete Marlinspike mit **WhatsApp**, das **Meta** gehört, zusammen, um die Ende-zu-Ende-Verschlüsselung für über eine Milliarde Konten zu implementieren. Kürzlich führte **WhatsApp** einen **Meta AI** Chatbot ein, der nicht denselben Schutz wie einzelne Chats bietet. **WhatsApp**-Chef Will Cathcart erklärte auf X zur Zusammenarbeit mit **Confer**: „Menschen nutzen KI auf tief persönliche Weise und benötigen Zugriff auf vertrauliche Informationen. Es ist wichtig, dass wir diese Technologie so aufbauen, dass die Menschen die Möglichkeit haben, dies privat zu tun.“ # Herausforderungen und zukünftige Richtungen Die Einführung verschlüsselter KI steckt noch in den Anfängen. Bestehende kryptografische Schemata für die traditionelle digitale Kommunikation lassen sich nicht ohne Weiteres auf den Schutz generativer KI-Daten übertragen. **Confer** ist ein neues Projekt, und spezifische Details zur Zusammenarbeit mit **Meta** werden noch bekannt. **Mallory Knodel**, Kryptographieforscherin an der New York University, glaubt, es wäre „großartig für Nutzer von Chatbots, die Meta AI verwenden, Vertraulichkeit und Datenschutz innerhalb dieses Austauschs zu haben.“ Das würde bedeuten, dass **Meta** KI-Chatdaten nicht für das Training verwenden könnte, so Knodel, die kürzlich eine Studie über Ende-zu-Ende-Verschlüsselung und KI veröffentlichte. „Ich hoffe wirklich, dass mehr KI-Chatbots diesen Ansatz verfolgen.“ Knodels erste Einschätzungen deuten darauf hin, dass **Confer** nicht perfekt ist, aber ein wichtiger Schritt zum Aufbau eines privaten KI-Chatbots ist. Der Kryptograph **JP Aumasson**, Chief Security Officer bei Taurus, sieht **Confer** ebenfalls positiv: „Confer ist wahrscheinlich die beste private KI-Lösung, alles in allem. Sie ist natürlich nicht perfekt. Es fehlt die Dokumentation ihrer Architektur, ihres Bedrohungsmodells und ihrer Lieferkette. Aber Moxie weiß, was er tut, und hat eine solide Erfolgsbilanz.“ Die Entwicklung von Verschlüsselungsschemata für KI-Plattformen ist komplex. Ein Großteil der Datenschutzarbeit konzentrierte sich auf zugängliche Open-Source-Modelle oder die Schaffung von Datenschutzschichten zwischen KI-Unternehmen und Endbenutzern. Marlinspike bemerkte, dass „Confers Technologie auf Open-Weight-Modellen aufgebaut wurde. Während viele Menschen Confer für eine Vielzahl von Aufgaben lieben, haben andere die Spitzenfähigkeiten proprietärer Modelle vermisst.“ Die Zusammenarbeit mit **Meta** bietet Marlinspike die Möglichkeit, direkt mit geschlossenen Modellen zu arbeiten. „Meta baut fortschrittliche Spitzenmodelle, sodass dies die privateste KI-Chat-Technologie der Welt mit den leistungsfähigsten KI-Modellen der Welt kombinieren wird“, schrieb er. Forscher betonen die Bedeutung dieser Zusammenarbeit, unabhängig davon, ob sie alle ihre Ziele erreicht. Aumasson von Taurus schließt ab: „Moxies Vorschlag, vertrauenswürdige Computer zu verwenden, ein Konzept, das mindestens bis in die 1990er Jahre zurückreicht, erscheint mir solide. Die zugrunde liegenden Annahmen und Einschränkungen sind gut verstanden. Auch hier ist es nicht perfekt, aber für die meisten Benutzer wahrscheinlich ausreichend. Die Herausforderung besteht darin, Modelle zu unterstützen, die so gut sind wie die neuesten Spitzenmodelle von Anthropic, Google und OpenAI.“