No final de 2024, instamos a **Google** e a **Amazon** a honrarem seus compromissos com os direitos humanos, a serem mais transparentes com o público e a tomarem medidas significativas para abordar os riscos apresentados pelo Projeto Nimbus, seu contrato de computação em nuvem que inclui o Ministério da Defesa de Israel e a Agência de Segurança de Israel. Desde então, uma série de reportagens adicionais reforçou que nossas preocupações eram bem fundamentadas. No entanto, apesar das evidências crescentes de sérios riscos, ambas as empresas se recusaram a agir. A **Amazon** ignorou completamente nossas cartas originais e de acompanhamento. A **Google**, por sua vez, prometeu repetidamente responder às nossas perguntas. No entanto, mais de um ano e meio depois, não vimos nenhuma ação significativa por parte de nenhuma das empresas. Nenhuma abordagem é aceitável, dadas as obrigações de direitos humanos que essas empresas assumiram. Adicionalmente, a **Microsoft** exigiu um vazamento público antes de se sentir compelida o suficiente para investigar e descobrir que seu cliente, o governo israelense, estava de fato utilizando indevidamente seus serviços de maneiras que violavam os compromissos públicos da **Microsoft** com os direitos humanos. Isso deveria ter dado à **Google** e à **Amazon** um motivo adicional para dar uma olhada de perto e informar ao público o que encontraram, mas nada disso se materializou. Em tais circunstâncias, esperar por provas definitivas não é gerenciamento de risco responsável, é cegueira voluntária. ### **Google: Riscos Conhecidos, Nenhuma Ação Significativa** As próprias avaliações internas da **Google** alertaram sobre os riscos associados ao Projeto Nimbus, mesmo antes da assinatura do contrato. Grandes veículos de notícias relataram que a **Google** fornece ao governo israelense serviços avançados de nuvem e IA sob o Projeto Nimbus, incluindo armazenamento de dados em larga escala, análise de imagens e vídeos, e ferramentas de desenvolvimento de modelos de IA. Essas capacidades são excepcionalmente poderosas, altamente adaptáveis e adequadas para aplicações de vigilância e militares. Apesar desses avisos, e dos múltiplos relatórios desde então sobre abusos de direitos humanos por partes do governo israelense que utilizam os serviços da **Google** e da **Amazon**, as empresas continuam operando como de costume. Parece que elas adotaram a posição de que não precisam mudar de rumo ou mesmo se explicar publicamente, a menos que a mídia ou outras organizações externas apresentem provas definitivas de que suas ferramentas foram usadas em violações específicas do direito internacional dos direitos humanos ou humanitário. Embora essas evidências públicas conclusivas ainda não tenham surgido para todas as empresas, os riscos são óbvios e elas estão cientes deles. Em vez de realizar uma diligência robusta e transparente em direitos humanos, a **Amazon** e a **Google** continuam escolhendo olhar para o outro lado. As próprias avaliações internas da **Google** minam sua postura pública. De acordo com reportagens, advogados e pessoal de políticas da **Google** alertaram que os serviços do **Google Cloud** poderiam estar ligados à facilitação de abusos de direitos humanos. No mesmo relatório, funcionários da **Google** também levantaram preocupações de que as ferramentas de nuvem e IA da empresa poderiam ser usadas para vigilância ou outros fins militarizados, o que parece muito provável, dada a longa dependência do governo israelense de sistemas avançados baseados em dados para controlar e monitorar palestinos. A **Google** afirmou publicamente que o Projeto Nimbus "não é direcionado a cargas de trabalho altamente sensíveis, classificadas ou militares" e é regido por suas Políticas de Uso Aceitável padrão. No entanto, reportagens revelaram representações conflitantes sobre os termos do contrato, incluindo indicações de que o governo israelense pode ter permissão para usar quaisquer serviços oferecidos no catálogo de nuvem da **Google** para qualquer finalidade. A **Google** recusou-se a resolver publicamente essas contradições, e sua falta de transparência é problemática. A lacuna entre o que a **Google** diz publicamente e o que ela sabe internamente deveria alarmar qualquer pessoa que espere levar a sério os compromissos da empresa com os direitos humanos. ### **Princípios de IA da Google e Amazon Exigem Ação Proativa** Mesmo após serem revisados no ano passado, os Princípios de IA da **Google** continuam a comprometer a empresa com o desenvolvimento e a implantação responsáveis de suas tecnologias, incluindo a implementação de supervisão humana apropriada, diligência e salvaguardas para mitigar resultados prejudiciais e alinhar-se com os princípios amplamente aceitos do direito internacional e dos direitos humanos. Embora os princípios atualizados não mais comprometam explicitamente a **Google** a evitar categorias inteiras de uso prejudicial, eles ainda exigem que a empresa avalie riscos previsíveis, empregue medidas rigorosas de monitoramento e mitigação, e aja de forma responsável durante todo o ciclo de vida do desenvolvimento e implantação de IA. A **Amazon** comprometeu-se de forma semelhante com práticas de IA responsáveis por meio de sua estrutura de IA Responsável para serviços AWS. A empresa afirma que visa integrar considerações de IA responsáveis em todo o ciclo de vida do design, desenvolvimento e operação de IA, enfatizando salvaguardas como justiça, explicabilidade, privacidade e segurança, segurança, transparência e governança. A **Amazon** também diz que seus serviços de IA são projetados com mecanismos de monitoramento e mitigação de riscos para ajudar a prevenir resultados prejudiciais ou uso indevido e para permitir a implantação responsável em uma variedade de casos de uso. A **Google** e a **Amazon** têm o conhecimento, a influência e a responsabilidade de agir agora. Escolher não agir ainda é uma escolha. Aqui, os riscos não são nem especulativos nem remotos. Eles são previsíveis, bem documentados e exacerbados pelo contexto em que o Projeto Nimbus opera, que é uma campanha militar em andamento marcada por danos generalizados a civis e alegações credíveis de graves violações de direitos humanos, incluindo genocídio. Em tais circunstâncias, esperar por provas definitivas não é gerenciamento de risco responsável, é cegueira voluntária. Sistemas modernos de nuvem e IA são projetados para serem flexíveis, personalizáveis e implantáveis em escala, muitas vezes além da visibilidade direta do fornecedor. Essa realidade é precisamente o motivo pelo qual a diligência em direitos humanos deve ser proativa. Esperar por um documento vazado ou um relato de denunciante demonstrando uso indevido direto, como ocorreu no caso da **Microsoft**, significa esperar até que o dano já tenha sido feito. ### **A Experiência da Microsoft Deveria Ter Sido um Alerta Suficiente** Como observado acima, as recentes revelações sobre o uso indevido de tecnologias da **Microsoft** em violação aos compromissos da **Microsoft** pelo exército israelense ilustram os perigos dessa abordagem de "esperar para ver". A **Google** e a **Amazon** não deveriam precisar de um incidente semelhante para reconhecer o que está em jogo. O uso indevido demonstrado de tecnologias comparáveis, combinado com o conhecimento próprio da **Google** e da **Amazon** sobre os riscos associados ao Projeto Nimbus, já deveria ser suficiente para desencadear uma ação. A resposta apropriada é agir de forma responsável e proativa. A **Google** e a **Amazon** deveriam imediatamente: * Realizar e publicar uma avaliação de impacto independente sobre direitos humanos do Projeto Nimbus. * Divulgar como avaliam, monitoram e aplicam a conformidade com seus Princípios de IA em contratos governamentais de alto risco, incluindo e espe