Ein aktueller Bericht unterstreicht die Schwierigkeit, die Sicherheit von Systemen der Künstlichen Intelligenz (KI) genau zu messen. Das Kernargument ist, dass bestehende Benchmarks die Komplexität der KI-Sicherheit, insbesondere emergente systemische Eigenschaften, nicht erfassen. ### Das Problem mit Benchmarks Der Bericht, der [hier](https://berryvilleiml.com/docs/no-security-meter-ai.pdf) verlinkt ist, stellt die Wirksamkeit in Frage, einfach Sicherheit und Datenschutz-Benchmarks zu maximieren, um die KI-Sicherheit zu gewährleisten. Er behauptet, dass diese Benchmarks die wahren KI-Fähigkeiten nicht genau widerspiegeln, insbesondere wenn emergente Eigenschaften wie Sicherheit berücksichtigt werden. ### Lehren aus der Softwaresicherheit Parallelen zur Softwaresicherheit ziehend, bemerkt der Bericht die Entwicklung vom Black-Box-Penetrationstesting zur White-Box-Codeanalyse, zur Analyse von Architekturen auf Risiken und zu prozessgesteuerten Standards wie dem Building Security In Maturity Model (**BSIMM**). Angesichts der potenziell größeren Auswirkungen von KI als Software legt der Bericht nahe, dass ähnliche Messansätze anwendbar sein könnten. ### Ein Aufruf zur Wachsamkeit Der Bericht plädiert für praktische Fortschritte in der KI-Sicherheit durch verbesserte Datenverwaltung und Risikomanagement durch die Implementierung robuster Qualitätssicherungsverfahren. Er warnt jedoch davor, dass ein definitiver „Sicherheits-Meter“ für KI schwer fassbar bleibt, was eine erhöhte Wachsamkeit bei den Praktiken der KI-Sicherheit erfordert.