CNNs in der Krebsdiagnostik: Bias und Zuverlässigkeit entlarvt

Convolutional Neural Networks (CNNs) gelten als vielversprechende Werkzeuge zur Erkennung verschiedener Krebsarten anhand von Bilddaten. Ihre Black‑Box-Natur erschwert jedoch ein tiefes Verständnis ihrer Entscheidungsprozesse, sodass die Bewertung bislang stark auf empirischen Tests beruht.

In einer neuen Analyse wurden 13 weit verbreitete Krebs-Benchmarkdatensätze – darunter Melanom, Karzinom, Darmkrebs und Lungenkrebs – mit vier gängigen CNN‑Architekturen untersucht. Ziel war es, die Robustheit der üblichen Evaluationsmethoden zu prüfen.

Die Forscher verglichen die Genauigkeit der Modelle auf den Originalbildern mit der Genauigkeit auf speziell zugeschnittenen Hintergrundsegmenten, die keinerlei klinisch relevante Informationen enthalten. Da diese Hintergrunddaten keine medizinischen Hinweise liefern, sollte ein korrektes Modell hier nur zufällige Treffer erzielen.

Erstaunlich zeigte sich, dass die CNNs bei den Hintergrundsegmenten oft noch sehr hohe Genauigkeiten erreichten – bis zu 93 %. Dies weist darauf hin, dass bestimmte Architekturen stark von unerkannten Biases beeinflusst werden. Die Ergebnisse deuten darauf hin, dass gängige Evaluationspraktiken in der Krebspathologie zu unzuverlässigen Schlussfolgerungen führen können.

Die Studie unterstreicht die Notwendigkeit, Biases frühzeitig zu erkennen und die Validierungsmethoden zu verbessern, um sicherzustellen, dass KI‑Modelle tatsächlich klinisch relevante Informationen nutzen und nicht lediglich Muster in den Daten ausnutzen.