KI-Modelle entscheiden vor dem Denken: Neue Studie enthüllt Entscheidungspräferenz

Eine aktuelle Untersuchung hat gezeigt, dass große Sprachmodelle ihre Entscheidungen bereits vor dem eigentlichen Denkprozess treffen. Die Forscher haben sich gefragt, ob das Modell zuerst „denkt“ und dann entscheidet oder umgekehrt.

Um diese Frage zu beantworten, setzten die Autoren einen einfachen linearen Probe ein, der Tool‑Calling‑Entscheidungen aus den vor der Textgenerierung auftretenden Aktivierungen extrahiert. Die Ergebnisse waren beeindruckend: Der Probe konnte die Entscheidungen mit sehr hoher Zuverlässigkeit vorhersagen – in einigen Fällen sogar bevor ein einziges Token erzeugt wurde.

Durch gezielte Störungen der Entscheidungsrichtung zeigte sich zudem eine klare Kausalität: Die Veränderung der Entscheidung verlängerte die Überlegungen und führte in vielen Beispielen zu einem Verhalten, das sich komplett umkehrte (zwischen 7 % und 79 % je nach Modell und Benchmark).

Ein weiteres spannendes Ergebnis ist, dass das Modell, wenn die Entscheidung geändert wurde, die neue Wahl in seiner Argumentationskette zu rechtfertigen begann, anstatt dagegen zu kämpfen. Diese Beobachtung legt nahe, dass die KI ihre Handlungswahl schon vor dem eigentlichen Denkprozess festlegt.

Insgesamt liefert die Studie überzeugende Hinweise darauf, dass große Sprachmodelle ihre Entscheidungen bereits im Vorfeld kodieren und diese Entscheidungen den gesamten nachfolgenden Denkprozess maßgeblich beeinflussen.