MACIE: Kausale KI-Erklärung für Multi-Agenten – Transparenz in kollaborativen Systemen
In sicherheitskritischen Anwendungen, in denen Multi-Agenten-Lernsysteme eingesetzt werden, ist es entscheidend, zu verstehen, warum einzelne Agenten Entscheidungen treffen und wie sich daraus kollektives Verhalten ergibt. Trotz der wachsenden Bedeutung von erklärbarer KI (XAI) stoßen bestehende Methoden in Multi-Agenten-Umgebungen an ihre Grenzen: Sie können kollektive Ergebnisse nicht eindeutig einzelnen Agenten zuordnen, emergente Phänomene nicht quantifizieren und komplexe Interaktionen nicht adäquat erfassen.
Die neue Plattform MACIE (Multi-Agent Causal Intelligence Explainer) löst diese Probleme, indem sie strukturelle kausale Modelle, interventional counterfactuals und Shapley-Werte kombiniert. MACIE beantwortet drei zentrale Fragen: Erstens liefert es für jeden Agenten eine kausale Beitragsskala, die auf Interventionsattributionen basiert. Zweitens quantifiziert es die emergente Intelligenz des Systems über Synergie-Metriken, die kollektive Effekte von individuellen Beiträgen trennen. Drittens generiert es umsetzbare Erklärungen in natürlicher Sprache, die die gewonnenen kausalen Einsichten zusammenfassen.
In einer umfangreichen Evaluation wurden vier Multi-Agenten-Reinforcement-Learning-Szenarien – kooperativ, kompetitiv und gemischt motiviert – untersucht. Die Ergebnisse zeigen eine hochpräzise Ergebniszuordnung, einen durchschnittlichen Shapley-Wert von 5,07 mit einer Standardabweichung von unter 0,05, die Erkennung positiver Emergenz in kooperativen Aufgaben sowie einen Synergieindex von bis zu 0,461. Die Berechnungszeit beträgt lediglich 0,79 Sekunden pro Datensatz auf einer CPU, was MACIE für Echtzeitanwendungen geeignet macht.
MACIE vereint kausale Strenge, Emergenz-Quantifizierung und Multi-Agenten-Unterstützung in einem praxisnahen Paket. Damit stellt es einen bedeutenden Schritt in Richtung interpretierbarer, vertrauenswürdiger und verantwortungsvoller Multi-Agenten-KI dar und eröffnet neue Möglichkeiten für die sichere Integration solcher Systeme in kritische Anwendungsbereiche.