A fines de 2024, instamos a **Google** y **Amazon** a honrar sus compromisos de derechos humanos, ser más transparentes con el público y tomar medidas significativas para abordar los riesgos que plantea el Proyecto Nimbus, su contrato de computación en la nube que incluye al Ministerio de Defensa de Israel y la Agencia de Seguridad Israelí. Desde entonces, una serie de informes adicionales han reforzado que nuestras preocupaciones estaban bien fundadas. Sin embargo, a pesar de la creciente evidencia de riesgos graves, ambas compañías se han negado a tomar medidas. **Amazon** ha ignorado por completo nuestras cartas originales y de seguimiento. **Google**, mientras tanto, ha prometido repetidamente responder a nuestras preguntas. Sin embargo, más de un año y medio después, no hemos visto ninguna acción significativa por parte de ninguna de las compañías. Ningún enfoque es aceptable dadas las compromisos de derechos humanos que estas compañías han asumido. Adicionalmente, **Microsoft** requirió una filtración pública antes de sentirse lo suficientemente obligada a investigar y descubrir que su cliente, el gobierno israelí, estaba efectivamente haciendo un mal uso de sus servicios de maneras que violaban los compromisos públicos de **Microsoft** con los derechos humanos. Esto debería haber dado a **Google** y **Amazon** una razón adicional para examinar de cerca y hacer saber al público lo que encuentran, pero nada de eso se materializó. En tales circunstancias, esperar pruebas definitivas no es una gestión de riesgos responsable, es ceguera deliberada. ### **Google: Riesgos Conocidos, Sin Acción Significativa** Las propias evaluaciones internas de **Google** advirtieron sobre los riesgos asociados con el Proyecto Nimbus incluso antes de que se firmara el contrato. Los principales medios de comunicación han informado que **Google** proporciona al gobierno israelí servicios avanzados de nube e IA bajo el Proyecto Nimbus, incluyendo almacenamiento de datos a gran escala, análisis de imágenes y videos, y herramientas de desarrollo de modelos de IA. Estas capacidades son excepcionalmente potentes, altamente adaptables y adecuadas para aplicaciones de vigilancia y militares. A pesar de esas advertencias, y de los múltiples informes posteriores sobre abusos de derechos humanos por parte de las mismas porciones del gobierno israelí que utilizan los servicios de **Google** y **Amazon**, las compañías continúan operando como de costumbre. Parece que han adoptado la postura de que no necesitan cambiar de rumbo ni siquiera explicarse públicamente a menos que los medios de comunicación u otras organizaciones externas presenten pruebas definitivas de que sus herramientas se han utilizado en violaciones específicas del derecho internacional de los derechos humanos o del derecho humanitario. Si bien esa evidencia pública concluyente aún no ha surgido para todas las compañías, los riesgos son obvios y ellos son conscientes de ellos. En lugar de realizar una debida diligencia sólida y transparente en materia de derechos humanos, **Amazon** y **Google** optan continuamente por mirar hacia otro lado. Las propias evaluaciones internas de **Google** socavan su postura pública. Según los informes, los abogados y el personal de políticas de **Google** advirtieron que los servicios de **Google Cloud** podrían estar vinculados a la facilitación de abusos de derechos humanos. En el mismo informe, los empleados de **Google** también expresaron su preocupación de que las herramientas de nube e IA de la compañía pudieran ser utilizadas para vigilancia u otros fines militarizados, lo que parece muy probable dada la dependencia de larga data del gobierno israelí de sistemas avanzados basados en datos para controlar y monitorear a los palestinos. **Google** ha afirmado públicamente que el Proyecto Nimbus "no está dirigido a cargas de trabajo altamente sensibles, clasificadas o militares" y se rige por sus Políticas de Uso Aceptable estándar. Sin embargo, los informes han revelado representaciones contradictorias sobre los términos del contrato, incluidas indicaciones de que al gobierno israelí se le puede permitir usar cualquier servicio ofrecido en el catálogo de la nube de **Google** para cualquier propósito. **Google** se ha negado a resolver públicamente estas contradicciones, y su falta de transparencia es problemática. La brecha entre lo que **Google** dice públicamente y lo que sabe internamente debería alarmar a cualquiera que espere tomar en serio los compromisos de derechos humanos de la compañía. ### **Los Principios de IA de Google y Amazon Requieren Acción Proactiva** Incluso después de ser revisados el año pasado, los Principios de IA de **Google** continúan comprometiendo a la compañía al desarrollo y despliegue responsable de sus tecnologías, incluyendo la implementación de supervisión humana apropiada, debida diligencia y salvaguardias para mitigar resultados perjudiciales y alinearse con los principios ampliamente aceptados del derecho internacional y los derechos humanos. Si bien los principios actualizados ya no comprometen explícitamente a **Google** a evitar categorías enteras de uso perjudicial, aún requieren que la compañía evalúe los riesgos previsibles, emplee medidas rigurosas de monitoreo y mitigación, y actúe de manera responsable durante todo el ciclo de vida del desarrollo y despliegue de IA. **Amazon** se ha comprometido de manera similar a prácticas de IA responsables a través de su marco de IA Responsable para servicios de AWS. La compañía afirma que su objetivo es integrar consideraciones de IA responsable en todo el ciclo de vida del diseño, desarrollo y operación de IA, enfatizando salvaguardias como la equidad, la explicabilidad, la privacidad y la seguridad, la seguridad, la transparencia y la gobernanza. **Amazon** también dice que sus servicios de IA están diseñados con mecanismos para el monitoreo y la mitigación de riesgos para ayudar a prevenir resultados perjudiciales o mal uso y para permitir un despliegue responsable en una variedad de casos de uso. **Google** y **Amazon** tienen el conocimiento, la influencia y la responsabilidad de actuar ahora. Elegir no hacerlo sigue siendo una elección. Aquí, los riesgos no son ni especulativos ni remotos. Son previsibles, bien documentados y exacerbados por el contexto en el que opera el Proyecto Nimbus, que es una campaña militar en curso marcada por un daño generalizado a civiles y alegaciones creíbles de graves violaciones de derechos humanos, incluido el genocidio. En tales circunstancias, esperar pruebas definitivas no es una gestión de riesgos responsable, es ceguera deliberada. Los sistemas modernos de nube e IA están diseñados para ser flexibles, personalizables y desplegables a escala, a menudo más allá de la visibilidad directa del proveedor. Esa realidad es precisamente la razón por la cual la debida diligencia en materia de derechos humanos debe ser proactiva. Esperar un documento filtrado o un relato de un denunciante que demuestre un mal uso directo, como ocurrió en el caso de **Microsoft**, significa esperar hasta que el daño ya haya ocurrido. ### **La Experiencia de Microsoft Debería Haber Sido Suficiente Advertencia** Como se señaló anteriormente, las recientes revelaciones sobre el mal uso de las tecnologías de **Microsoft** en violación de los compromisos de **Microsoft** por parte del ejército israelí ilustran los peligros de este enfoque de esperar y ver. **Google** y **Amazon** no deberían necesitar un incidente similar para reconocer lo que está en juego. El mal uso demostrado de tecnologías comparables, combinado con el propio conocimiento de **Google** y **Amazon** sobre los riesgos asociados con el Proyecto Nimbus, ya debería ser suficiente para desencadenar una acción. La respuesta apropiada es actuar de manera responsable y proactiva. **Google** y **Amazon** deberían inmediatamente: * Realizar y publicar una evaluación de impacto independiente sobre derechos humanos del Proyecto Nimbus. * Divulgar cómo evalúan, monitorean y hacen cumplir el cumplimiento de sus Principios de IA en contratos gubernamentales de alto riesgo, incluyendo y espe