Ende 2024 forderten wir **Google** und **Amazon** auf, ihre Verpflichtungen zum Schutz der Menschenrechte einzuhalten, transparenter gegenüber der Öffentlichkeit zu sein und sinnvolle Maßnahmen zu ergreifen, um die Risiken von Projekt Nimbus, ihrem Cloud-Computing-Vertrag mit dem israelischen Verteidigungsministerium und dem israelischen Sicherheitsdienst, zu adressieren. Seitdem hat eine Flut zusätzlicher Berichte unsere Bedenken bestätigt. Doch trotz wachsender Beweise für ernsthafte Risiken haben beide Unternehmen sich geweigert zu handeln. **Amazon** hat unsere ursprünglichen und Folgebriefe vollständig ignoriert. **Google** hat unterdessen wiederholt zugesagt, auf unsere Fragen zu antworten. Doch über anderthalb Jahre später haben wir keine sinnvollen Maßnahmen von einem der beiden Unternehmen gesehen. Keine dieser Vorgehensweisen ist angesichts der Menschenrechtsverpflichtungen, die diese Unternehmen eingegangen sind, akzeptabel. Darüber hinaus benötigte **Microsoft** eine öffentliche Enthüllung, bevor es sich gezwungen sah, zu untersuchen und festzustellen, dass sein Kunde, die israelische Regierung, seine Dienste tatsächlich auf eine Weise missbrauchte, die gegen **Microsofts** öffentliche Verpflichtungen zum Schutz der Menschenrechte verstieß. Dies hätte sowohl **Google** als auch **Amazon** einen zusätzlichen Grund geben sollen, genau hinzusehen und die Öffentlichkeit über ihre Erkenntnisse zu informieren, aber nichts dergleichen ist geschehen. Unter diesen Umständen ist das Abwarten auf definitive Beweise kein verantwortungsvolles Risikomanagement, sondern vorsätzliche Blindheit. ### **Google: Bekannte Risiken, keine sinnvollen Maßnahmen** **Googles** eigene interne Bewertungen warnten vor den Risiken im Zusammenhang mit Projekt Nimbus bereits vor der Unterzeichnung des Vertrags. Große Nachrichtenagenturen haben berichtet, dass **Google** der israelischen Regierung im Rahmen von Projekt Nimbus fortschrittliche Cloud- und KI-Dienste zur Verfügung stellt, darunter groß angelegte Datenspeicherung, Bild- und Videoanalyse sowie Werkzeuge zur Entwicklung von KI-Modellen. Diese Fähigkeiten sind außerordentlich mächtig, hochgradig anpassungsfähig und eignen sich gut für Überwachungs- und militärische Anwendungen. Trotz dieser Warnungen und der zahlreichen Berichte seitdem über Menschenrechtsverletzungen durch genau die Teile der israelischen Regierung, die die Dienste von **Google** und **Amazon** nutzen, setzen die Unternehmen ihr Geschäft wie gewohnt fort. Es scheint, dass sie die Haltung eingenommen haben, dass sie ihren Kurs nicht ändern oder sich nicht einmal öffentlich erklären müssen, es sei denn, die Medien oder andere externe Organisationen legen definitive Beweise vor, dass ihre Werkzeuge bei spezifischen Verstößen gegen internationales Menschenrechts- oder humanitäres Recht eingesetzt wurden. Während diese schlüssigen öffentlichen Beweise für alle Unternehmen noch nicht vorliegen, sind die Risiken offensichtlich und ihnen sind sie bewusst. Anstatt eine robuste, transparente menschenrechtliche Due-Diligence-Prüfung durchzuführen, entscheiden sich **Amazon** und **Google** immer wieder dafür, wegzuschauen. **Googles** eigene interne Bewertungen untergraben seine öffentliche Haltung. Laut Berichten warnten **Googles** Anwälte und Politikmitarbeiter, dass **Google Cloud**-Dienste mit der Erleichterung von Menschenrechtsverletzungen in Verbindung gebracht werden könnten. Im selben Bericht äußerten **Google**-Mitarbeiter auch Bedenken, dass die Cloud- und KI-Werkzeuge des Unternehmens für Überwachung oder andere militarisierte Zwecke verwendet werden könnten, was angesichts der langjährigen Abhängigkeit der israelischen Regierung von fortschrittlichen datengesteuerten Systemen zur Kontrolle und Überwachung von Palästinensern sehr wahrscheinlich erscheint. **Google** hat öffentlich behauptet, dass Projekt Nimbus „nicht auf hochsensible, klassifizierte oder militärische Arbeitslasten abzielt“ und seinen Standardrichtlinien für akzeptable Nutzung unterliegt. Doch Berichte haben widersprüchliche Darstellungen über die Vertragsbedingungen aufgedeckt, einschließlich Hinweisen darauf, dass die israelische Regierung möglicherweise berechtigt ist, alle im **Google**-Cloud-Katalog angebotenen Dienste für jeden Zweck zu nutzen. **Google** hat sich geweigert, diese Widersprüche öffentlich aufzulösen, und seine mangelnde Transparenz ist problematisch. Die Lücke zwischen dem, was **Google** öffentlich sagt, und dem, was es intern weiß, sollte jeden beunruhigen, der hofft, die Menschenrechtsverpflichtungen des Unternehmens ernst zu nehmen. ### **Googles und Amazons KI-Prinzipien erfordern proaktives Handeln** Selbst nach der Überarbeitung im letzten Jahr verpflichten sich **Googles** KI-Prinzipien weiterhin das Unternehmen zur verantwortungsvollen Entwicklung und Bereitstellung seiner Technologien, einschließlich der Implementierung angemessener menschlicher Aufsicht, Due Diligence und Schutzmaßnahmen zur Minderung schädlicher Ergebnisse und zur Ausrichtung an allgemein anerkannten Prinzipien des Völkerrechts und der Menschenrechte. Während die aktualisierten Prinzipien **Google** nicht mehr ausdrücklich verpflichten, ganze Kategorien schädlicher Nutzungen zu vermeiden, verlangen sie dennoch, dass das Unternehmen vorhersehbare Risiken bewertet, strenge Überwachungs- und Minderungsmaßnahmen anwendet und während des gesamten Lebenszyklus der KI-Entwicklung und -Bereitstellung verantwortungsvoll handelt. **Amazon** hat sich ebenfalls zu verantwortungsvollen KI-Praktiken durch seinen Responsible AI Framework für AWS-Dienste verpflichtet. Das Unternehmen gibt an, dass es darauf abzielt, verantwortungsvolle KI-Überlegungen über den gesamten Lebenszyklus von KI-Design, -Entwicklung und -Betrieb zu integrieren, wobei Schutzmaßnahmen wie Fairness, Erklärbarkeit, Datenschutz und Sicherheit, Sicherheit, Transparenz und Governance betont werden. **Amazon** gibt auch an, dass seine KI-Dienste mit Mechanismen zur Überwachung und Risikominderung entwickelt wurden, um schädliche Ausgaben oder Missbrauch zu verhindern und eine verantwortungsvolle Bereitstellung für eine Reihe von Anwendungsfällen zu ermöglichen. **Google** und **Amazon** verfügen über das Wissen, den Einfluss und die Verantwortung, jetzt zu handeln. Nicht zu handeln ist immer noch eine Wahl. Hier sind die Risiken weder spekulativ noch fern. Sie sind vorhersehbar, gut dokumentiert und werden durch den Kontext verschärft, in dem Projekt Nimbus operiert, nämlich eine anhaltende Militärkampagne, die von weit verbreitetem zivilem Leid und glaubwürdigen Vorwürfen schwerer Menschenrechtsverletzungen, einschließlich Völkermord, geprägt ist. Unter diesen Umständen ist das Abwarten auf definitive Beweise kein verantwortungsvolles Risikomanagement, sondern vorsätzliche Blindheit. Moderne Cloud- und KI-Systeme sind flexibel, anpassbar und skalierbar einsetzbar, oft außerhalb der direkten Sicht des Anbieters. Diese Realität ist genau der Grund, warum die menschenrechtliche Due Diligence proaktiv sein muss. Auf ein geleaktes Dokument oder einen Whistleblower-Bericht zu warten, der einen direkten Missbrauch zeigt, wie im Fall von **Microsoft**, bedeutet zu warten, bis bereits Schaden entstanden ist. ### **Microsofts Erfahrung hätte Warnung genug sein sollen** Wie oben erwähnt, verdeutlichen die jüngsten Enthüllungen über den Missbrauch von **Microsofts** Technologien durch das israelische Militär unter Verletzung von **Microsofts** Verpflichtungen die Gefahren dieses Abwartens. **Google** und **Amazon** sollten keinen ähnlichen Vorfall benötigen, um zu erkennen, was auf dem Spiel steht. Der nachgewiesene Missbrauch vergleichbarer Technologien, kombiniert mit dem eigenen Wissen von **Google** und **Amazon** über die mit Projekt Nimbus verbundenen Risiken, sollte bereits ausreichen, um Maßnahmen auszulösen. Die angemessene Reaktion ist, verantwortungsbewusst und proaktiv zu handeln. **Google** und **Amazon** sollten unverzüglich: * Eine unabhängige menschenrechtliche Folgenabschätzung von Projekt Nimbus durchführen und veröffentlichen. * Offenlegen, wie sie die Einhaltung ihrer KI-Prinzipien bei risikoreichen Regierungsaufträgen bewerten, überwachen und durchsetzen, einschließlich und insbeso