Psych= eChat: Emotionsverfolgung und Sicherheitsanalyse in der Beratung

Große Sprachmodelle (LLMs) haben in der psychologischen Beratung bemerkenswerte Fortschritte erzielt, doch bislang fehlt ihnen die Möglichkeit, die emotionalen Veränderungen der Klient*innen über mehrere Sitzungen hinweg explizit zu erfassen – ein zentrales Anliegen klassischer psychologischer Schulen. Gleichzeitig ist es bislang wenig untersucht, wie die Antworten von LLM-basierten Berater*innen mit diesen Emotionen in Einklang gebracht und gleichzeitig potenzielle Sicherheitsrisiken proaktiv gemindert werden können.

Mit Psych= eChat wird diese Lücke geschlossen. Das System kombiniert interaktives Rollenspiel zur Erzeugung von Berater‑Klient‑Dialogen mit zwei spezialisierten Modulen: dem Emotion Management Module, das die aktuellen Gefühle und deren Veränderungen erfasst, und dem Risk Control Module, das die möglichen Reaktionen der Klient*innen vorhersagt und Gefahren identifiziert. Auf diese Weise wird die emotionale Dynamik systematisch in den Beratungsprozess integriert.

Psych= eChat bietet zwei Modellierungsparadigmen. Im Agent Mode werden Emotion Management, Risk Control und die eigentliche Beratung in einem kollaborativen Multi‑Agenten‑Pipeline zusammengeführt. Der LLM Mode hingegen integriert alle Schritte in eine einheitliche Chain‑of‑Thought‑Logik, die eine effiziente, end‑to‑end‑Inference ermöglicht und gleichzeitig die Leistungsfähigkeit bewahrt.

Um die Wirksamkeit zu prüfen, wurden umfangreiche Experimente durchgeführt, die interaktive Bewertung, dialogbasierte Evaluation und menschliche Beurteilungen umfassten. Die Ergebnisse zeigen, dass Psych= eChat sowohl bei der emotionalen Einsicht als auch bei der Sicherheitskontrolle bestehende Ansätze übertrifft und damit einen bedeutenden Fortschritt für die sichere, empathische Nutzung von LLMs in der psychologischen Beratung darstellt.