LLMs im Finanzbereich: SHAP-Analyse zeigt Grenzen und Chancen

LLMs haben in den letzten Jahren viel Aufmerksamkeit für Klassifikationsaufgaben erhalten, da sie mit Zero‑Shot‑Prompting eine flexible Alternative zu etablierten Modellen wie LightGBM bieten. Doch ihre Zuverlässigkeit bei strukturierten Tabellendaten, insbesondere in hochriskanten Bereichen wie der Finanz‑Risikobewertung, ist noch nicht geklärt.

In einer systematischen Untersuchung wurden verschiedene LLMs auf Finanz‑Klassifikationsaufgaben getestet und ihre SHAP‑Werte berechnet. Die Analyse zeigte, dass die selbst erklärte Einflussnahme der LLMs auf Features von den SHAP‑Werten abweicht und dass sich die SHAP‑Profile der LLMs deutlich von denen von LightGBM unterscheiden.

Diese Ergebnisse verdeutlichen die Grenzen von LLMs als alleinige Klassifikatoren für strukturierte Finanzmodelle. Gleichzeitig lässt sich jedoch optimistisch erwarten, dass verbesserte Erklärungsmechanismen in Kombination mit Few‑Shot‑Prompting die Einsatzmöglichkeiten von LLMs in risikobehafteten Domänen erheblich erweitern können.