Multi-Objective Alignment steigert Empathie & Sicherheit bei KI-Psychotherapie

Mehr als 1 Milliarde Menschen weltweit leiden an psychischen Erkrankungen, doch der Zugang zu qualifizierter Behandlung bleibt durch Personalmangel und Kostenbarrieren stark eingeschränkt. Künstliche Intelligenz bietet hier vielversprechende Lösungen, doch bisherige Ansätze optimieren einzelne Ziele isoliert und vernachlässigen die Balance zwischen Patientenpräferenzen und klinischer Sicherheit.

In einer Studie wurden 335 Personen mit eigener Erfahrung im Bereich psychische Gesundheit befragt, um ihre Rangfolge von therapeutischen Dimensionen zu erfassen. Auf Basis dieser Präferenzen entwickelte das Forschungsteam ein Multi‑Objective Alignment‑Framework, das direktes Präferenz‑Optimieren nutzt.

Für sechs zentrale Kriterien – Empathie, Sicherheit, aktives Zuhören, selbstmotivierte Veränderung, Vertrauen/Beziehung und Patientenautonomie – wurden Reward‑Modelle trainiert. Anschließend wurden Multi‑Objective‑Ansätze systematisch mit Single‑Objective‑Optimierung, überwachten Feinabstimmungen und Parameter‑Merging verglichen.

Das Multi‑Objective Direct Preference Optimization (MODPO) erzielte ein deutlich ausgewogeneres Ergebnis: 77,6 % Empathie und 62,6 % Sicherheit, im Vergleich zu 93,6 % Empathie und 47,8 % Sicherheit bei Single‑Objective‑Optimierung. Darüber hinaus übertrafen die therapeutischen Kriterien die allgemeinen Kommunikationsprinzipien um 17,2 %.

Eine blind evaluierte klinische Bewertung bestätigte, dass MODPO konsequent bevorzugt wird. Die Übereinstimmung zwischen KI‑Bewertern und menschlichen Kliniker*innen liegt auf dem Niveau der interklinischen Zuverlässigkeit, was die Zuverlässigkeit der Methode unterstreicht.