Un informe reciente enfatiza la dificultad de medir con precisión la seguridad de los sistemas de Inteligencia Artificial (IA). El argumento central es que los puntos de referencia existentes no logran capturar las complejidades de la seguridad en IA, especialmente las propiedades sistémicas emergentes. ### El problema con los puntos de referencia El informe, enlazado [aquí](https://berryvilleiml.com/docs/no-security-meter-ai.pdf), cuestiona la efectividad de simplemente maximizar los puntos de referencia de seguridad y privacidad para garantizar la seguridad de la IA. Afirma que estos puntos de referencia no reflejan con precisión las capacidades reales de la IA, particularmente al considerar propiedades emergentes como la seguridad. ### Lecciones de la seguridad de software Estableciendo paralelismos con la seguridad de software, el informe señala la evolución desde las pruebas de penetración de caja negra hasta el análisis de código de caja blanca, el análisis de riesgos arquitectónicos y los estándares impulsados por procesos como el Building Security In Maturity Model (**BSIMM**). Dado el impacto potencialmente mayor de la IA en comparación con el software, el informe sugiere que enfoques de medición similares podrían ser aplicables. ### Un llamado a la vigilancia El informe aboga por un progreso práctico en la seguridad de la IA a través de una mejor gestión de datos y gestión de riesgos, implementando procesos de aseguramiento robustos. Sin embargo, advierte que un "medidor de seguridad" definitivo para la IA sigue siendo esquivo, lo que requiere una mayor vigilancia en las prácticas de seguridad de la IA.