Autoencoder‑ähnliche Fuzzy Cognitive Maps mit LLM‑Agent erzeugen erklärbare Modelle

Ein neues Verfahren nutzt ein großes Sprachmodell, um Feedback‑Causal‑Fuzzy‑Cognitive‑Maps (FCM) in Text zu übersetzen und anschließend wieder zurückzuverwandeln. Dabei arbeitet das System wie ein Autoencoder, jedoch ohne die typischen Black‑Box‑Eigenschaften: sowohl Encoder als auch Decoder geben ihre Entscheidungen transparent aus.

Der LLM‑Agent erstellt eine textuelle Repräsentation der FCM, die von Menschen gelesen und interpretiert werden kann. Durch eine Reihe von systematischen Anweisungen wird die Identitätsfunktion des Modells approximiert, ohne die Ausgabe mit der Eingabe zu vergleichen. Das Ergebnis ist ein lossy‑Reconstruction‑Prozess, der schwache kausale Kanten entfernt, aber starke Verbindungen beibehält.

Der Encoder sorgt dafür, dass wichtige kausale Beziehungen erhalten bleiben, auch wenn dafür einige Details aufgegeben werden, um den Text natürlicher wirken zu lassen. Dieses erklärbare KI‑System bietet somit einen klaren Einblick in die Funktionsweise von FCMs und ermöglicht gleichzeitig eine benutzerfreundliche Interpretation der zugrunde liegenden Modelle.