ECHO: Proaktive KI-Schadensvorhersage durch Mensch‑LLM‑Framework

Die wachsende Rolle von Künstlicher Intelligenz in entscheidungsrelevanten Bereichen hat deutlich gemacht, dass KI-Systeme erhebliche Schäden verursachen können – häufig durch tief verwurzelte Vorurteile im gesamten Lebenszyklus der Technologie. Trotz zahlreicher Taxonomien und Rahmenwerke werden diese Vorurteile und die daraus resultierenden Schäden bislang selten systematisch miteinander verknüpft.

Um diesem Problem entgegenzuwirken, präsentiert die neue Studie das ECHO‑Framework. Es kombiniert einen modularen Arbeitsablauf aus Stakeholder‑Identifikation, vignettenbasierten Darstellungen von voreingenommenen KI‑Systemen und einer dualen Annotation durch Menschen und Large Language Models. Durch die Einbettung in ethische Matrizen ermöglicht ECHO eine strukturierte Interpretation der Ergebnisse.

Der Ansatz ist stark auf den Menschen ausgerichtet und erlaubt die frühzeitige Erkennung von Bias‑zu‑Schaden‑Pfaden. Dadurch können Designentscheidungen und Governance‑Maßnahmen bereits in der Entwicklungsphase präventiv gestaltet werden.

Die Wirksamkeit von ECHO wurde in zwei hochriskanten Domänen – der Krankheitsdiagnose und der Personalbeschaffung – getestet. Dabei wurden domänenspezifische Muster von Bias‑zu‑Schaden‑Verbindungen aufgezeigt, die das Potenzial des Frameworks unterstreichen, eine anticipatorische Governance von KI‑Systemen zu unterstützen.