Vision‑Language‑Modelle: Studie zeigt Diskriminierung von Menschen mit Behinderung
Eine bahnbrechende Untersuchung hat aufgezeigt, wie moderne Vision‑Language‑Modelle (VLMs) Menschen mit Behinderung in Bildbeschreibungen darstellen. Die Forscher haben sich auf personenzentrierte Bilder konzentriert und dabei entdeckt, dass die Modelle häufig von einer faktenbasierten, evidenzbasierten Beschreibung zu spekulativen Interpretationen übergehen, die über das Sichtbare hinausgehen.
Zur systematischen Analyse wurde ein neues Benchmark entwickelt, das neutrale Eingabeaufforderungen (Neutral Prompts, NP) mit behinderungsbezogenen Kontextaufforderungen (Disability‑Contextualised Prompts, DP) kombiniert. Auf dieser Basis wurden 15 hochmoderne VLMs – sowohl Open‑Source als auch Closed‑Source – in einer Zero‑Shot‑Umgebung über neun verschiedene Behinderungskategorien hinweg getestet.
Das Bewertungssystem legt den Fokus auf die „interpretive Treue“ und nutzt klassische textbasierte Metriken, um sentimentale Verschiebungen, soziale Wertschätzung und Antwortlänge zu messen. Zusätzlich kommt ein LLM‑als‑Judge‑Protokoll zum Einsatz, das von annotierenden Personen mit eigener Erfahrung von Behinderung validiert wurde. Dieses Vorgehen gewährleistet, dass die Ergebnisse sowohl technisch als auch gesellschaftlich relevant sind.
Die Ergebnisse sind alarmierend: Das Einbringen von Behinderungskontext führt konsequent zu einer Verschlechterung der interpretiven Treue. Die Modelle erzeugen spekulative Inferenz, narrative Ausweitung, affektive Verschlechterung und ein deficit‑orientiertes Framing. Diese Effekte werden zusätzlich durch Rasse‑ und Geschlechtsdimensionen verstärkt, was die Komplexität der Diskriminierung unterstreicht.
Positiv überrascht die Studie jedoch: Durch gezielte Prompt‑Optimierung und Präferenz‑Fine‑Tuning lassen sich die interpretiven Fehler deutlich reduzieren. Diese Ansätze zeigen, dass es möglich ist, die Darstellung von Menschen mit Behinderung in VLMs zu verbessern und die Gefahr von voreingenommenen Interpretationen zu minimieren.