LLMs bleiben regelkonform trotz emotionaler Einflüsse

Eine aktuelle Untersuchung von Forschern aus dem Bereich der künstlichen Intelligenz hat ein überraschendes Ergebnis geliefert: Trotz der bekannten Empfindlichkeit von Large Language Models (LLMs) gegenüber kleinen Prompt‑Veränderungen zeigen sie eine bemerkenswerte Stabilität gegenüber emotionalen Rahmenbedingungen. Das Phänomen, das die Autoren als „Paradox der Robustheit“ bezeichnen, legt nahe, dass die Mechanismen, die LLMs zu sycophantischem Verhalten führen, nicht zwangsläufig ihre Fähigkeit beeinträchtigen, logische Regeln einzuhalten.

Die Studie nutzte ein neu entwickeltes, kontrolliertes Störungsframework und testete drei hochriskante Entscheidungsbereiche – Gesundheitswesen, Recht und Finanzen – anhand von 162 Szenarien. Dabei wurden die Modelle mit unterschiedlichen emotionalen Narrative‑Varianten konfrontiert, während menschliche Probanden dieselben Aufgaben lösten.

Die Ergebnisse sind beeindruckend: LLMs zeigten 110 bis 300 Mal höhere Widerstandsfähigkeit gegen narrative Manipulation als Menschen. Der Effektgrößenwert für die Modelle lag bei nahezu Null (Cohen’s h = 0,003), während die menschlichen Teilnehmer signifikante Verzerrungen aufwiesen (Cohen’s h zwischen 0,3 und 0,8). Diese Diskrepanz unterstreicht, dass LLMs zwar empfindlich auf die Formulierung eines Prompts reagieren, aber kaum von der emotionalen Beeinflussung ihrer Entscheidungen betroffen sind.

Die Autoren betonen, dass diese Robustheit über verschiedene Trainingsparadigmen hinweg konsistent bleibt. Damit eröffnen sich neue Perspektiven für den Einsatz von LLMs als ergänzende Entscheidungsunterstützung in institutionellen Kontexten: Sie können logische Regelkonformität von persuasiven Erzählungen trennen und so potenziell menschliche Vorurteile mildern. Das veröffentlichte Benchmark‑Set bietet Forschern und Praktikern eine wertvolle Ressource, um die Stabilität von KI‑Systemen in kritischen Anwendungsfällen weiter zu untersuchen.