AI-Produktpass: Mehr Transparenz und Nachverfolgbarkeit in der medizinischen KI

Im Rahmen des AI4HF-Projekts wurde der AI‑Produktpass entwickelt, ein standardsicher Rahmen, der die Transparenz, Nachverfolgbarkeit und Compliance von KI‑Systemen im Gesundheitswesen deutlich verbessert. Der Fokus lag dabei auf KI‑Tools zur Diagnose und Behandlung von Herzinsuffizienz.

Der Produktpass basiert auf einer relationalen Datenmodellierung, die sämtliche Phasen des KI‑Lebenszyklus erfasst: von der Studiendefinition über die Datensatzvorbereitung, Modellgenerierung und -bewertung bis hin zur Bereitstellung, Überwachung und schließlich der Erstellung des Passports. Dabei wurden die Vorgaben des EU‑AI‑Acts, der FDA‑Leitlinien und weiterer internationaler Standards berücksichtigt.

Zur praktischen Umsetzung wurde ein webbasiertes Open‑Source‑Tool mit Python‑Bibliotheken realisiert, das automatisiertes Provenance‑Tracking ermöglicht. Das System erzeugt sowohl maschinen- als auch menschenlesbare Berichte, die individuell an die Bedürfnisse verschiedener Stakeholder angepasst werden können.

Der Entwicklungsprozess war stark kollaborativ: 21 unterschiedliche Akteure – darunter Entwickler, Klinikpersonal und Regulierungsbehörden – gaben in Workshops und mittels Mentimeter‑Umfragen Feedback. Dieses Input wurde in die Gestaltung des Produktpasses einfließen lassen.

Der AI‑Produktpass erfüllt die FUTURE‑AI‑Prinzipien (Fairness, Universality, Traceability, Usability, Robustness, Explainability) und liefert detaillierte Informationen zu Zweck, Datenherkunft, Leistungskennzahlen und Einsatzumfeld des Modells. Der komplette Code ist auf GitHub verfügbar, was die Zugänglichkeit und Weiterentwicklung fördert.