X‑SYS: Neue Referenzarchitektur für interaktive Erklärungs‑Tools

Die Forschung im Bereich erklärbarer KI (XAI) hat zahlreiche technische Ansätze entwickelt, doch die Umsetzung von Erklärungen in funktionsfähige Systeme bleibt schwierig. Insbesondere interaktive Erklärungs‑Systeme müssen Algorithmen und Systemfunktionen kombinieren, die die Nutzbarkeit über wiederholte Abfragen, sich wandelnde Modelle und Daten sowie Governance‑Beschränkungen hinweg gewährleisten.

Um diesen Herausforderungen zu begegnen, stellt die Arbeit die X‑SYS‑Architektur vor – ein Referenzmodell, das XAI‑Forscher, Entwickler und Praktiker dabei unterstützt, interaktive Benutzeroberflächen (XUI) mit den notwendigen Systemkomponenten zu verbinden. X‑SYS gliedert sich in fünf Kernkomponenten: XUI‑Services, Explanation‑Services, Model‑Services, Data‑Services sowie Orchestration und Governance. Die Architektur basiert auf vier Qualitätsattributen, die als STAR (Skalierbarkeit, Nachvollziehbarkeit, Reaktionsfähigkeit, Anpassungsfähigkeit) bezeichnet werden, und ordnet Interaktionsmuster gezielt den jeweiligen Systemfähigkeiten zu, um die Weiterentwicklung der Benutzeroberfläche von der Backend‑Berechnung zu entkoppeln.

Als konkretes Beispiel wird X‑SYS in SemanticLens umgesetzt – einem System für semantische Suche und Aktivierungssteuerung in Vision‑Language‑Modellen. SemanticLens demonstriert, wie vertragbasierte Service‑Grenzen unabhängige Weiterentwicklungen ermöglichen, die Trennung von Offline‑ und Online‑Verarbeitung die Reaktionsfähigkeit sicherstellt und persistente Zustandsverwaltung die Nachvollziehbarkeit gewährleistet.

Die vorgestellte Architektur liefert somit ein wiederverwendbares Blueprint, das die Entwicklung interaktiver Erklärungs‑Tools erleichtert und gleichzeitig die Anforderungen an Skalierbarkeit, Nachvollziehbarkeit, Reaktionsfähigkeit und Anpassungsfähigkeit erfüllt. Forscher, Entwickler und Anwender können X‑SYS als Leitfaden nutzen, um erklärbare KI-Systeme effizient und nachhaltig zu realisieren.