KI‑Sicherheit neu definiert: Kernelbasierte Lernbarrieren für autonome Systeme

Die rasante Verbreitung von KI‑Algorithmen in sicherheitskritischen Bereichen wie autonomem Fahren und Gesundheitswesen wirft ernsthafte Fragen zur Einhaltung strenger Sicherheitsstandards auf. Traditionelle Verfahren der formalen Sicherheitsverifikation stoßen an ihre Grenzen, wenn sie mit der Black‑Box-Natur von KI‑gesteuerten Systemen konfrontiert werden und nicht die nötige Flexibilität besitzen, um die Komplexität realer Anwendungen zu bewältigen.

In der vorliegenden Arbeit wird ein datengetriebener Ansatz vorgestellt, der die Sicherheit von Black‑Box-Systemen mit diskreten, stochastischen Dynamiken überprüft und synthetisiert. Dabei werden Kontrollbarrierzertifikate eingesetzt, die die Sicherheit garantieren, und diese Zertifikate werden direkt aus einer Sammlung von Systemtrajektorien gelernt. Durch die Verwendung von conditional mean embeddings werden die Daten in einen reproduzierenden Kernhilbertraum (RKHS) eingebettet, wodurch ein Ambiguitätssatz entsteht, der vergrößert werden kann, um das Ergebnis gegen Verhaltensweisen außerhalb der Trainingsverteilung robust zu machen.

Die Autoren liefern theoretische Resultate, wie dieser Ansatz auf allgemeine Klassen von zeitlichen Logik-Spezifikationen angewendet werden kann, die über reine Sicherheitsanforderungen hinausgehen. Für die datengetriebene Berechnung der Sicherheitsbarrieren nutzt das Verfahren eine endliche Fourier‑Expansion, um ein typischerweise unlösbares semi-unendliches Optimierungsproblem in ein lineares Programm zu überführen. Die daraus resultierende spektrale Barriere ermöglicht die effiziente Nutzung der schnellen Fourier‑Transformation, wodurch ein skalierbares und zugleich distributionsrobustes Framework zur Sicherheitsverifikation entsteht.

Das vorgestellte Konzept geht über restriktive Annahmen zu Systemdynamiken und Unsicherheiten hinaus und demonstriert seine Wirksamkeit anhand von zwei exemplarischen Anwendungen. Damit eröffnet es neue Perspektiven für die sichere Integration von KI in hochkritische Systeme.