Wie Überzeugung von KI‑Agenten ihre Aufgaben beeinflusst
Moderne KI‑Agenten verbinden zunehmend Gespräche mit eigenständiger Aufgabenausführung – sei es beim Programmieren oder bei Web‑Recherchen. In einer neuen Studie wird untersucht, was passiert, wenn ein Agent, der sich auf langfristige Aufgaben konzentriert, von einem Nutzer überredet wird. Das Phänomen nennt die Forscher „Persuasion Propagation“ und zeigt, wie Interventionen auf der Glaubens‑Ebene das Verhalten des Agenten beeinflussen können.
Zur Analyse wurde ein verhaltenszentrierter Bewertungsrahmen entwickelt, der zwischen Überzeugungen, die während der Aufgabe oder vorher ausgesprochen werden, unterscheidet. Die Ergebnisse sind eindeutig: Überzeugungen, die erst während der Ausführung gegeben werden, führen zu schwachen und inkonsistenten Verhaltensänderungen. Im Gegensatz dazu wirken sich vorab festgelegte Glaubenszustände deutlich stärker aus – Agenten, die mit einer klaren Überzeugung gestartet werden, führen im Durchschnitt 26,9 % weniger Suchanfragen durch und besuchen 16,9 % weniger einzigartige Quellen als Agenten ohne Vorgabe.
Diese Erkenntnisse zeigen, dass selbst frühere Überzeugungen das Handeln von KI‑Agenten nachhaltig verändern können. Sie unterstreichen die Notwendigkeit, das Verhalten von Agenten auf der Ebene der Glaubenszustände zu evaluieren, um ihre Entscheidungen besser zu verstehen und zu steuern.