Neue Methode für gezieltes Vergessen in großen Rechenmodellen

In der Forschung zu großen Rechenmodellen (LRMs) steht die Fähigkeit im Fokus, strukturierte Denkmuster – sogenannte Chains of Thought (CoTs) – zu erzeugen, bevor ein endgültiges Ergebnis präsentiert wird. Diese Vorgehensweise macht die Modelle jedoch anfällig für die unbeabsichtigte Weitergabe sensibler Informationen, die während des Trainings verarbeitet wurden. Besonders problematisch sind urheberrechtlich geschützte Inhalte und private Daten, deren unkontrollierte Veröffentlichung ethische und rechtliche Bedenken aufwirft.

Um diesem Problem zu begegnen, gewinnt das Konzept des gezielten Vergessens, auch Machine Unlearning genannt, zunehmend an Bedeutung. Bisher konzentrierten sich bestehende Verfahren vor allem auf das Löschen von Endergebnissen, was häufig die generelle Denkfähigkeit der Modelle beeinträchtigte. Ein direktes Anwenden von Unlearning auf die gesamten CoTs führt zu einer Verschlechterung der allgemeinen Problemlösungsfähigkeiten.

Die vorgestellte Lösung nutzt mehrere große Sprachmodelle in Kombination mit Retrieval-augmented Generation (RAG), um die CoT-Traces zu analysieren, relevante Segmente für das Vergessen zu identifizieren und durch neutrale Platzhalter zu ersetzen, die die logische Struktur bewahren. Zusätzlich wird ein neuer Feature-Replacement-Unlearning-Loss eingeführt, der gleichzeitig die Wahrscheinlichkeit für das Erzeugen vergessener Inhalte reduziert und die strukturelle Korrektheit der Ersatztexte stärkt.

Umfangreiche Experimente an synthetischen und medizinischen Datensätzen zeigen, dass das neue Framework sensitives Wissen effektiv entfernt, ohne die generelle Rechenleistung der Modelle zu beeinträchtigen. Damit bietet es einen vielversprechenden Ansatz, um die Sicherheit und Vertrauenswürdigkeit großer Rechenmodelle zu erhöhen, ohne ihre Leistungsfähigkeit zu opfern.