Neuer Workflow sichert vollständige Nachvollziehbarkeit von KI-Entscheidungen

Eine neue Studie aus dem arXiv präsentiert einen revolutionären Workflow, der die vollständige Nachvollziehbarkeit von KI-Entscheidungen garantiert. Der Ansatz richtet sich an die wachsende Zahl von hochriskanten Entscheidungen, die heute von automatisierten Systemen getroffen oder unterstützt werden.

Derzeit fehlt in der KI-Landschaft eine systematische Dokumentation des Entscheidungsprozesses. Ohne klare Aufzeichnungen wird es schwierig, die Verantwortung zu rekonstruieren und im Streitfall vor Gericht nachzuweisen, warum eine KI eine bestimmte Entscheidung getroffen hat. Das kann zu unbeabsichtigten Schäden und Rechtsverletzungen führen.

Der vorgestellte Workflow verlangt die lückenlose Dokumentation aller Komponenten, die in Training und Inferenz einer KI verwendet werden. Durch den Einsatz vertraulicher Rechentechnologie entstehen manipulationssichere, überprüfbare und umfassende Spuren, die jederzeit nachvollzogen werden können.

Zur Veranschaulichung demonstrieren die Autoren den Ansatz anhand einer App, die essbare und giftige Pilze unterscheidet. Dieses Beispiel zeigt, wie der Workflow in einer praxisnahen, hochriskanten Entscheidungsunterstützung eingesetzt werden kann.