PromptCD: Testzeit-Verhaltensverbesserung durch Polarisations-Prompt-Decoding

Ein neuer Ansatz namens PromptCD verspricht, KI-Modelle ohne zusätzliche Trainingsschritte an menschliche Werte anzupassen. Während bisherige Methoden meist auf umfangreiche, kostenintensive Datensätze angewiesen sind, nutzt PromptCD die bereits vorhandenen internen Wahrscheinlichkeitsverteilungen von großen Sprachmodellen (LLMs) und Vision‑Language‑Modellen (VLMs). Durch das Erstellen von positiven und negativen Leitprompts für ein gewünschtes Verhalten werden die Token‑Wahrscheinlichkeiten und die visuellen Aufmerksamkeitsmuster gegeneinander abgewogen, sodass das Modell selbstständig bessere Entscheidungen trifft.

In Experimenten mit LLMs zeigte PromptCD signifikante Verbesserungen bei drei Kernzielen der Modell‑Ausrichtung: Hilfsbereitschaft, Ehrlichkeit und Unbedenklichkeit. Die Modelle konnten ihre Leistungen ausschließlich durch Testzeit‑Anpassungen steigern, ohne dass zusätzliche Trainingsdaten benötigt wurden. Für VLMs bewies PromptCD, dass die gezielte Verstärkung der visuellen Aufmerksamkeit die Leistung bei Visual‑Question‑Answering‑Aufgaben deutlich erhöht.

PromptCD erweitert damit die Anwendbarkeit von kontrastivem Decoding auf ein breiteres Spektrum an Verhaltensverbesserungen und bietet einen kosteneffizienten Weg, KI-Systeme zuverlässiger und menschenorientierter zu gestalten.