Physiologen-Diskrepanzen im HealthBench: Nur 3 % erklärbar – Struktur entscheidend

Eine neue Analyse des HealthBench‑Datensatzes, der medizinische KI‑Bewertungen sammelt, hat die Ursachen für die häufig auftretende Meinungsverschiedenheit unter Fachärzten systematisch aufgeschlüsselt. Die Studie zeigt, dass die meisten Unterschiede nicht durch die üblichen Metadaten oder die Fachrichtung erklärt werden können.

Der Vergleich der Bewertungskriterien (Rubric) erklärt 15,8 % der Gesamtvarianz der Labels, trägt aber nur 3,6 % bis 6,9 % zur Diskrepanz bei. Die Identität des Arztes erklärt lediglich 2,4 %. Der überwältigende Rest – 81,8 % – bleibt unerklärt, auch wenn man die Metadaten, die Sprache der Rubric, die medizinische Spezialisierung, die oberflächliche Triage oder sogar Embedding‑Modelle berücksichtigt.

Ein interessanter Befund ist die „invertierte U‑Form“ der Diskrepanz in Abhängigkeit von der Ausführungsqualität: Ärzte stimmen bei klar guten oder schlechten Ausgaben überein, aber bei Grenzfällen teilen sie sich. Diese Beobachtung unterstreicht, dass die Bewertung von KI‑Generierungen besonders bei ambivalenten Texten schwierig ist.

Die Untersuchung von Unsicherheitskategorien, die von Ärzten selbst validiert wurden, zeigt, dass „reduzierbare“ Unsicherheit – etwa fehlender Kontext oder mehrdeutige Formulierungen – die Diskrepanzwahrscheinlichkeit mehr als verdoppelt (OR = 2,55). „Irreduzierbare“ Unsicherheit, also echte medizinische Mehrdeutigkeit, hat keinen Einfluss (OR = 1,01). Dennoch erklärt diese Unterscheidung nur etwa 3 % der gesamten Varianz.

Die Ergebnisse legen nahe, dass die Diskrepanz in der medizinischen KI‑Bewertung weitgehend strukturell begründet ist. Durch gezielte Schließung von Informationslücken in den Evaluationsszenarien könnte jedoch ein Teil der Unstimmigkeiten reduziert werden, was konkrete Verbesserungen für die Gestaltung zukünftiger Bewertungssysteme nahelegt.