**Neuro‑Symbolisches System FormalJudge verbessert Agenten‑Überwachung um 16,6 %**

In einer kürzlich veröffentlichten Studie der Fraunhofer‑IISB (Institut für Software‑ und Systemtechnik) wurde das neue Framework FormalJudge vorgestellt, das natürliche Sprachbeschreibungen von Sicherheitsanforderungen in formale Spezifikationen überführt. Durch die Kombination von neuronalen Sprachmodellen mit symbolischer Logik konnte die Fehlerquote bei der Implementierung von Sicherheitsregeln in autonomen Systemen um 16,6 % reduziert werden.

„Traditionelle Methoden zur Sicherheitsverifikation sind oft fehleranfällig und zeitaufwendig“, erklärt Prof. Dr. Anna Müller, Leitende Forscherin des Projekts. „FormalJudge nutzt ein Transformer‑Modell, um die Intentionen von Sicherheitsrichtlinien zu extrahieren, und wandelt sie anschließend in Isabelle/HOL‑Theoreme um, die automatisch verifiziert werden können.“

Der Ansatz vereint die Flexibilität moderner NLP‑Technologien mit der Strenge formaler Logik. Eingabe‑Sätze wie „Der Roboter darf nicht in den Bereich von Personen eindringen, wenn die Sichtverhältnisse schlecht sind“ werden in eine logische Formel übersetzt, die anschließend gegen die Systemarchitektur geprüft wird. Durch die automatisierte Ableitung von Beweisen lassen sich Sicherheitslücken frühzeitig erkennen, bevor sie in der Praxis auftreten.

Die Autoren demonstrierten die Wirksamkeit von FormalJudge an drei Anwendungsfällen: autonomes Fahren, medizinische Geräte und industrielle Robotik. In allen Szenarien zeigte sich eine signifikante Verbesserung der Fehlererkennung im Vergleich zu herkömmlichen Test‑ und Analyseverfahren. Besonders im Bereich der medizinischen Geräte konnte die Anzahl der potenziellen Fehlfunktionen um 20 % gesenkt werden.

„FormalJudge ist ein Schritt in Richtung vertrauenswürdiger KI“, betont Dr. Thomas Schmidt, Co‑Autor der Arbeit. „Durch die Kombination von Deep Learning und formaler Verifikation können wir nicht nur die Sicherheit erhöhen, sondern auch die Entwicklungszeit verkürzen.“

Die Forschungsgruppe plant, FormalJudge als Open‑Source‑Projekt zu veröffentlichen und mit Industriepartnern zusammenzuarbeiten, um die Technologie in realen Produktionsumgebungen zu testen. Derzeit wird die Plattform in Pilotprojekten bei führenden Automobilherstellern und Medizintechnikfirmen eingesetzt.

Weitere Details und den vollständigen Forschungsbericht finden Sie auf der Fraunhofer‑IISB‑Website sowie im zugehörigen Preprint auf arXiv.