KI-Assistenten im Sicherheitsengineering: Chancen, Risiken und Kompetenz‑Schatten

In der heutigen Zeit werden KI‑Assistenten zunehmend in die Arbeitsabläufe von Sicherheitsingenieuren für physische KI‑Systeme integriert. Doch ob diese Unterstützung die Qualität der Sicherheitsanalyse verbessert oder systematische Blindfelder erzeugt, die erst nach dem Einsatz sichtbar werden, bleibt fraglich.

Eine neue Studie entwickelt dafür einen formalen Rahmen, der die Rolle von KI in der Sicherheitsanalyse systematisch untersucht. Zunächst wird erklärt, warum herkömmliche Benchmark‑Tests für Sicherheitskompetenz unzureichend sind: die Kompetenz ist multidimensional, kontextabhängig, unvollständig und von legitimen Expertenunterschieden geprägt. Der Autor definiert ein fünfdimensionales Kompetenzmodell, das Fachwissen im jeweiligen Bereich, Normenexpertise, operative Erfahrung, kontextuelles Verständnis und Urteilsvermögen umfasst.

Der zentrale Beitrag ist die Einführung des „Kompetenz‑Schatten“. Dieser beschreibt, wie KI‑generierte Analysen die menschliche Denkweise systematisch einschränken, indem sie bestimmte Überlegungen ausblenden. Die Arbeit formalisiert vier typische Mensch‑KI‑Kooperationsstrukturen und ermittelt analytische Leistungsgrenzen. Dabei zeigt sich, dass der Kompetenz‑Schatten sich multiplizierend auswirkt und die Qualitätsdegradation weit über einfache additive Schätzungen hinausgeht.

Die wichtigste Erkenntnis lautet: KI‑Assistenten im Sicherheitsengineering sind kein reines Software‑Beschaffungsproblem, sondern ein Design‑Problem der Zusammenarbeit. Das gleiche Tool kann je nach Einsatzkontext die Analysequalität verbessern oder verschlechtern. Die Autoren formulieren Bedingungen für schattenresistente Arbeitsabläufe und fordern einen Paradigmenwechsel von der reinen Tool‑Qualifikation hin zur Gestaltung der gesamten Arbeitsprozesse.