Reinforcement Learning verbessert Datenschutz bei synthetischen Texten

Moderne KI‑Modelle brauchen riesige, hochwertige Datensätze – oft aus nutzergenerierten Inhalten oder proprietären Corpora. Diese Daten enthalten jedoch sensible persönliche Informationen, was erhebliche Bedenken hinsichtlich Datenschutz, Datensicherheit und regulatorischer Compliance aufwirft.

Herkömmliche Anonymisierungsmethoden entfernen zwar explizite Identifikatoren, führen aber häufig zu Leistungseinbußen bei nachgelagerten Lernaufgaben. Noch gravierender: reine Anonymisierung schützt nicht vor Inferenzangriffen, die auf stilistischen, thematischen oder demografischen Hinweisen basieren. Deshalb ist ein robusterer Ansatz nötig, der sowohl die Privatsphäre als auch die Nützlichkeit der Daten erhält.

In der neuen Studie wird ein Reinforcement‑Learning‑Framework vorgestellt, das ein großes Sprachmodell (LLM) mit einer zusammengesetzten Belohnungsfunktion feinjustiert. Diese Funktion optimiert gleichzeitig explizite und implizite Privatsphäre, semantische Treue und Ausgabediversität. Um populationsweite Muster zu erfassen, kombiniert die Privatsphäre‑Belohnung semantische Signale mit strukturellen Mustern aus einem Minimum‑Spanning‑Tree über latente Repräsentationen.

Durch die Modellierung dieser sensiblen Signale im Kontext ihrer Verteilung leitet der Ansatz das Modell an, synthetische Umschreibungen zu erzeugen, die die Datenqualität erhalten und gleichzeitig das Risiko von Datenschutzverletzungen minimieren. Empirische Tests zeigen, dass die Methode die Leistung signifikant verbessert und die Privatsphäre deutlich erhöht.