No-Code KI erklärt: Studie zeigt, wie Erklärungen Vertrauen stärken

Mit dem rasanten Einsatz von Machine‑Learning‑Modellen in Bereichen wie Gesundheit, Finanzen und öffentlicher Politik wächst die Forderung nach Transparenz automatisierter Entscheidungen. Explainable AI (XAI) soll hier Klarheit schaffen, doch die meisten Erklärungs‑Tools setzen tiefes technisches Wissen voraus – ein Hindernis, das besonders in no‑code‑ML‑Plattformen auffällt, die KI für jedermann zugänglich machen wollen.

Um dieses Problem anzugehen, hat das Open‑Source‑Projekt DashAI ein benutzerfreundliches XAI‑Modul entwickelt. Es kombiniert drei bewährte Techniken – Partial Dependence Plots (PDP), Permutation Feature Importance (PFI) und KernelSHAP – direkt in den Workflow für tabellarische Klassifikationsaufgaben. So können Anwenderinnen und Anwender ohne Programmierkenntnisse nachvollziehen, welche Merkmale die Vorhersagen beeinflussen.

Eine Nutzerstudie mit 20 Teilnehmenden, darunter ML‑Neulinge und Experten, zeigte beeindruckende Ergebnisse: Alle Erklärungsaufgaben wurden zu mindestens 80 % erfolgreich gelöst. Neulinge bewerteten die Erklärungen als hilfreich, akkurat und vertrauenswürdig (Cronbach‑α = 0,74). Experten hingegen kritisierten die Vollständigkeit, wiesen aber ebenfalls auf eine gesteigerte Vertrauenswürdigkeit hin (Cronbach‑α = 0,60). Besonders auffällig war, dass die Erklärungen das Vertrauen in die Automatisierung erhöhten, wobei Neulinge stärker davon profitierten.

Die Studie unterstreicht die zentrale Herausforderung für XAI in no‑code‑ML‑Umgebungen: Erklärungen müssen für Laien verständlich sein, gleichzeitig aber genügend Detailtiefe bieten, um Experten zu überzeugen. DashAI liefert einen ersten, vielversprechenden Ansatz, der diesen Balanceakt zu meistern scheint.