LLMs erhöhen KI-Erklärbarkeit durch standardisierte Prozesse

Ein neues Forschungsdokument aus dem arXiv-Repository präsentiert einen innovativen Ansatz, um die Erklärbarkeit von Künstlicher Intelligenz (KI) zu verbessern. Dabei werden große Sprachmodelle (LLMs) in fest definierte Analyseprozesse eingebettet, die bereits seit langem in der Entscheidungsforschung etabliert sind.

Im Gegensatz zu herkömmlichen XAI-Methoden, die sich meist auf Feature‑Attribution oder nachträgliche Interpretationen beschränken, integriert das vorgestellte Framework LLMs in Entscheidungsmodelle wie Frage‑Option‑Kriterien (QOC), Sensitivitätsanalysen, Spieltheorie und Risikomanagement. Durch diese Integration wird die bisher undurchsichtige Logik der LLMs in nachvollziehbare und prüfbare Entscheidungswege überführt.

Die Autoren stellen eine mehrschichtige Architektur vor, die den Denkraum des LLMs von dem erklärbaren Prozessraum trennt. Empirische Tests zeigen, dass das System in dezentralen Governance‑Strukturen, Systemanalysen und strategischen Entscheidungsprozessen menschliche Entscheidungslogik reproduzieren kann. Die Ergebnisse deuten darauf hin, dass LLM‑gesteuerte Standardprozesse eine solide Basis für zuverlässige, interpretierbare und verifizierbare KI‑unterstützte Entscheidungen bieten.