DSO: Direkte Aktivierungssteuerung reduziert Bias in KI-Modellen

Generative KI‑Modelle, wie Vision‑Language‑Modelle (VLMs), werden zunehmend eingesetzt, um Entscheidungen für Nutzer zu treffen – etwa bei der Identifikation von Personen in Bildern. Dabei zeigen sich jedoch deutliche Verzerrungen: VLMs erkennen Frauen seltener als Ärzte, weil die wahrgenommenen demografischen Merkmale die Ausgaben beeinflussen.

Um solche Bias‑Probleme zu adressieren, besteht ein wachsendes Bedürfnis nach Methoden, die während der Inferenz kontrollierbar Bias reduzieren, ohne die Gesamtleistung zu stark zu beeinträchtigen. Aktivierungssteuerung (Activation Steering) ist ein beliebter Ansatz, der in großen Sprachmodellen (LLMs) sichereres Verhalten fördern kann. Aktuelle Techniken stoßen jedoch an ihre Grenzen, wenn es darum geht, ausgeglichene Ergebnisse über verschiedene demografische Gruppen hinweg zu erzielen.

Die neue Methode Direct Steering Optimization (DSO) nutzt Reinforcement Learning, um lineare Transformationen für die Aktivierungssteuerung zu finden. Diese Transformationen sind speziell darauf ausgelegt, Bias zu mildern, während gleichzeitig die Kontrolle über die Modellleistung erhalten bleibt. In Tests mit VLMs und LLMs erreicht DSO einen führenden Kompromiss zwischen Fairness und Leistungsfähigkeit und bietet Anwendern die Möglichkeit, die Balance zwischen Bias‑Reduktion und Modellkapazität in Echtzeit zu steuern.

Die Ergebnisse zeigen, dass eine direkt optimierte Steuerungsstrategie deutlich wirksamer ist als herkömmliche, vorab definierte Methoden. DSO eröffnet damit neue Perspektiven für die Entwicklung von KI-Systemen, die sowohl gerecht als auch leistungsfähig bleiben.