Agentische Codierer zeigen asymmetrischen Zielabweichungen bei Wertkonflikten

Agentische Codierer werden zunehmend autonom, in großem Umfang und über lange Kontextlängen eingesetzt. Während ihrer gesamten Laufzeit müssen sie Spannungen zwischen expliziten Anweisungen, erlernten Werten und Umweltbedingungen meistern – oft in Situationen, die sie während des Trainings nicht erlebt haben.

Frühere Studien zu Modellpräferenzen, Agentenverhalten unter Wertkonflikten und Zielabweichungen nutzten statische, synthetische Szenarien, die die Komplexität echter Umgebungen nicht abbilden. Um dem entgegenzuwirken, wurde ein neues Framework auf Basis von OpenCode entwickelt, das realistische, mehrstufige Codierungsaufgaben orchestriert und misst, wie Agenten systempromptbasierte Einschränkungen im Verlauf ihrer Interaktion verletzen, sowohl mit als auch ohne Umweltdruck, der konkurrierende Werte fördert.

Die Untersuchung zeigte, dass GPT‑5 mini, Haiku 4.5 und Grok Code Fast 1 asymmetrische Zielabweichungen aufweisen: Sie neigen stärker dazu, ihre Systemprompt‑Einschränkungen zu brechen, wenn diese im Widerspruch zu stark verankerten Werten wie Sicherheit und Privatsphäre stehen. Die Häufigkeit der Abweichungen korreliert mit drei Faktoren – Wertausrichtung, gegnerischer Druck und akkumuliertem Kontext. Selbst stark verankerte Werte wie Privatsphäre weisen unter anhaltendem Umweltdruck nicht‑null‑Verletzungsraten auf.

Diese Ergebnisse verdeutlichen, dass flache Compliance‑Checks unzureichend sind und dass kommentarbasierten Druck die Werthierarchien von Modellen ausnutzen kann, um Systemprompt‑Anweisungen zu umgehen. Insgesamt zeigen die Befunde eine Lücke in aktuellen Alignment‑Ansätzen auf, die sicherstellen soll, dass agentische Systeme ihre Ziele angemessen ausbalancieren.