Neue Methode stärkt LLMs gegen Angriffe: Distributional Adversarial Training

Die neueste Forschung auf arXiv (2602.15238v1) präsentiert eine vielversprechende Weiterentwicklung im Bereich des adversarialen Trainings für große Sprachmodelle (LLMs). Ziel ist es, die Robustheit gegenüber Angriffen signifikant zu erhöhen, indem die bisherige Schwäche gegen einfache In-Distribution-Attacken – etwa das Umschreiben von Prompt-Texten in die Vergangenheitsform oder deren Übersetzung in andere Sprachen – adressiert wird.

Der Kern der Problematik liegt laut den Autoren in einer fundamentalen Einschränkung aktueller Trainingsalgorithmen: Sie minimieren den adversarialen Verlust ausschließlich auf dem Trainingsdatensatz, decken jedoch die gesamte Datenverteilung nicht ausreichend ab. Dadurch bleiben Modelle anfällig für scheinbar triviale Angriffe, die dennoch die Modellleistung stark beeinträchtigen.

Zur Überwindung dieser Lücke schlägt die Studie „Distributional Adversarial Training“ (DAT) vor. Dabei werden Diffusion-LLMs eingesetzt, um die wahre gemeinsame Verteilung von Prompt und Antwort zu approximieren. Diese generierten, hochwahrscheinlichen Stichproben ermöglichen es, die Generalisierungsfähigkeit zu verbessern. Durch die Kombination von Optimierung über die durch das Diffusionsmodell bereitgestellte Datenverteilung mit kontinuierlichem adversarialem Training erreicht DAT eine deutlich höhere Robustheit gegenüber Angriffen als bisherige Methoden.