CORTEX: Neues Risikobewertungssystem für KI in Hochrisikobereichen

Mit dem neuen Rahmenwerk CORTEX (Composite Overlay for Risk Tiering and Exposure) wird die Bewertung von KI‑Systemen in Bereichen wie Gesundheit, Finanzen, Bildung, Recht und Infrastruktur revolutioniert. Das Modell basiert auf einer umfangreichen Analyse von über 1 200 dokumentierten Vorfällen aus der AI Incident Database und teilt die Fehlerarten in 29 technische Schwachstellen‑Gruppen auf.

Die Risikobewertung erfolgt in fünf Schichten: Erst wird die Wahrscheinlichkeit und der potenzielle Schaden unter Berücksichtigung der jeweiligen Nutzenanpassung ermittelt. Anschließend werden Governance‑ und Kontext‑Layer, die sich an europäischen und internationalen Regulierungsrahmen wie dem EU‑AI‑Act, NIST RMF und den OECD‑Prinzipien orientieren, eingebunden. Danach fließen technische Expositions‑Scores ein, die Faktoren wie Drift, Nachvollziehbarkeit und Angriffsrisiken abbilden. In der vierten Schicht werden Umwelt‑ und Residual‑Modifikatoren berücksichtigt, die den Einsatzkontext der Systeme widerspiegeln. Abschließend wird die finale Bewertung durch Bayesianische Risikoaggregation und Monte‑Carlo‑Simulationen ergänzt, um Volatilität und Langschwanz‑Risiken zu modellieren.

Das Ergebnis ist ein zusammengesetzter Risikopunktwert, der nahtlos in KI‑Risiko‑Register, Modell‑Audits, Konformitätsprüfungen und dynamische Governance‑Dashboards integriert werden kann. CORTEX bietet damit eine robuste, datenbasierte Grundlage, um die Sicherheit und Zuverlässigkeit von KI‑Systemen in kritischen Sektoren systematisch zu steuern.