KI gegen KI: Foundation Models sichern AI‑gesteuerte Sicherheitssysteme

Die Integration von KI‑Komponenten, insbesondere tiefen neuronalen Netzwerken, in sicherheitskritische Systeme wie Luftfahrt und autonome Fahrzeuge stellt die Branche vor neue, komplexe Herausforderungen. Die Black‑Box‑Natur von KI‑Modellen und die große semantische Lücke zwischen hochrangigen Anforderungen und den tiefen Netzwerkrepräsentationen erschweren traditionelle Verifikationsmethoden erheblich.

Darüber hinaus verschärfen langjährige Probleme der Anforderungs­technik die Situation: natürliche Sprachspezifikationen sind oft mehrdeutig, und die Skalierbarkeit der Formalisierung bleibt ein Engpass. Um diesen Hindernissen entgegenzuwirken, schlägt die aktuelle Studie einen innovativen Ansatz vor, bei dem KI selbst zum Werkzeug der Sicherheit wird.

Der erste Baustein, REACT (Requirements Engineering with AI for Consistency and Testing), nutzt große Sprachmodelle (LLMs), um informelle, sprachbasierte Anforderungen in formale Spezifikationen zu übersetzen. Dadurch können bereits in frühen Phasen Verifikation und Validierung durchgeführt werden, was die Zuverlässigkeit der gesamten Systementwicklung signifikant erhöht.

Der zweite Baustein, SemaLens, setzt Vision‑Language‑Modelle (VLMs) ein, um die Wahrnehmung von DNN‑basierten Systemen zu analysieren, zu testen und zu überwachen. Durch die Verwendung von menschlich verständlichen Konzepten wird die Nachvollziehbarkeit von Entscheidungen verbessert, und potenzielle Fehlerquellen können frühzeitig erkannt werden. Zusammen bilden REACT und SemaLens einen umfassenden Pipeline‑Ansatz, der von informellen Anforderungen bis zu validierten Implementierungen reicht und damit die Sicherheit von KI‑gesteuerten Systemen nachhaltig stärkt.