Neuro-Modulation mit Pflegefokus: Autonomie schützende Dialogagenten

In der heutigen KI-Landschaft werden große Sprachmodelle zunehmend in unterstützenden oder beratenden Rollen eingesetzt. Dabei gilt es, die Nützlichkeit der Antworten mit dem Erhalt der Nutzerautonomie in Einklang zu bringen. Traditionelle Ausrichtungsansätze konzentrieren sich vor allem auf Hilfsbereitschaft und Unbedenklichkeit, vernachlässigen jedoch explizit die relationalen Risiken wie Abhängigkeitsverstärkung, übermäßigen Schutz oder coercive Guidance.

Um diesem Problem zu begegnen, präsentiert die Studie die „Care‑Conditioned Neuromodulation“ (CCN). Dabei handelt es sich um ein zustandsabhängiges Kontrollframework, das ein lernbares Skalar‑Signal nutzt, das aus strukturiertem Nutzer‑State und dem Dialogkontext abgeleitet wird. Dieses Signal steuert die Generierung von Antwortkandidaten und deren Auswahl.

Die Autoren formulieren die Aufgabe als „autonomie‑erhaltende Ausrichtung“ und definieren eine Nutzenfunktion, die sowohl die Unterstützung der Autonomie als auch die Hilfsbereitschaft belohnt, während Abhängigkeit und Zwang bestraft werden. Damit wird ein klarer Rahmen geschaffen, in dem mehrere Ziele gleichzeitig berücksichtigt werden können.

Zur Evaluierung wurde ein Benchmark mit vier relationalen Fehlermustern entwickelt: Reassurance‑Dependence, Manipulative Care, Overprotection und Boundary Inconsistency. Auf diesem Benchmark zeigte sich, dass die Kombination aus care‑conditioned Kandidatengenerierung und utilitätsbasiertem Reranking die autonomie‑erhaltende Nutzenmetrik um +0,25 gegenüber einer überwachten Feinabstimmung und um +0,07 gegenüber Präferenz‑Optimierungsbaselines verbessert, ohne die Unterstützung zu verringern.

Eine Pilot‑Human‑Evaluation sowie eine Zero‑Shot‑Transfer‑Testung in realen emotional‑support‑Konversationen bestätigten die Richtung der automatisierten Metriken. Die Ergebnisse deuten darauf hin, dass zustandsabhängige Kontrolle in Verbindung mit utilitätsbasierten Auswahlmechanismen ein praktikabler Ansatz für die mehrzielige Ausrichtung in autonomen‑sensiblen Dialogsystemen ist.