SCALEX: Automatisierte Bias-Analyse in Diffusionsmodellen

Ein neues Forschungswerkzeug namens SCALEX wurde auf arXiv vorgestellt, das die Analyse von Vorurteilen in Bildgenerierungsmodellen revolutioniert. Während bisherige Ansätze sich auf vordefinierte Kategorien beschränkten oder manuelle Interpretation erforderten, ermöglicht SCALEX eine skalierbare und automatisierte Untersuchung des latenten Raums von Diffusionsmodellen.

Der Kern von SCALEX liegt in der Extraktion semantisch sinnvoller Richtungen aus dem H‑Space ausschließlich über natürliche Sprachprompts. Dadurch kann das System ohne erneutes Training oder manuelle Beschriftung die latenten Dimensionen interpretieren und Bias‑Muster in Echtzeit erkennen.

In ersten Tests zeigte SCALEX, dass es geschlechtsspezifische Vorurteile in Berufsbezeichnungen zuverlässig identifizieren kann. Zudem ordnet es Identitätsbeschreibungen nach ihrer semantischen Übereinstimmung und enthüllt eine clusterartige Struktur der Konzepte – alles ohne externe Supervision.

Durch die direkte Verknüpfung von Prompts mit latenten Richtungen macht SCALEX die Bias‑Analyse in Diffusionsmodellen nicht nur skalierbarer, sondern auch transparenter und erweiterbarer als bisherige Methoden.