KI unterstützt klinische Studien zuverlässig – selbst bei fehlerhaften Modellen

Eine neue Studie aus dem arXiv-Preprint arXiv:2510.06567v1 zeigt, dass künstliche Intelligenz (KI) klinische Studien sicher unterstützen kann, selbst wenn die zugrunde liegenden Modelle stark degradieren. Die Forscher haben zwei KI-Frameworks mit einer rein menschlichen Bewertung verglichen und dabei Kosten, Genauigkeit, Robustheit und Generalisierungsfähigkeit gemessen.

Um die Belastbarkeit der Systeme zu prüfen, wurden die Modelle absichtlich mit schlechten Vorhersagen – von Zufallsraten bis zu naiven Schätzungen – belastet. Trotz dieser Störungen blieben die Behandlungswirkungsschätzungen der Studien stabil, was die Zuverlässigkeit der KI-gestützten Ansätze unterstreicht.

Die Untersuchung stützte sich auf zwei randomisierte kontrollierte Studien, deren Endpunkte aus Wirbelsäulenröntgenbildern abgeleitet wurden. Das Ergebnis ist klar: Das „AI‑Supporting Reader“ (AI‑SR) – ein KI‑Leser, der als Unterstützung für menschliche Experten dient – erfüllt alle Kriterien und liefert konsistente Krankheitsabschätzungen, schützt die Studienergebnisse und bleibt auch bei unterschiedlichen Populationen robust.