Neue Methode nutzt KI-Unsicherheit für interpretierbare Modelle

Concept‑Bottleneck‑Modelle (CBMs) ermöglichen eine transparente Klassifikation, indem sie Eingaben zunächst in hochrangige, menschlich verständliche Konzepte übersetzen und diese anschließend zu einer Endentscheidung kombinieren. Der große Nachteil dieser Technik ist jedoch die aufwendige Annotationsarbeit, die Expertenwissen erfordert und die breite Anwendung stark limitiert.

Einige neuere Ansätze versuchen, diese Hürde zu überwinden, indem sie große Sprachmodelle (LLMs) einsetzen, um die Konzepte automatisch zu generieren. Dabei wird jedoch die Unsicherheit, die mit den LLM‑Annotationen einhergeht, vernachlässigt. Ohne ein zuverlässiges Quantifizieren dieser Unsicherheit laufen die Modelle Gefahr, auf Halluzinationen der LLMs zu vertrauen und dadurch Fehler zu produzieren.

Die vorgestellte Methode adressiert dieses Problem, indem sie die Unsicherheit der LLM‑annotierten Konzepte mit einer verteilungsfreien, mathematisch fundierten Garantie misst. Diese Unsicherheitswerte werden anschließend in den Trainingsprozess des CBMs einbezogen, sodass das Modell die unterschiedlichen Vertrauensniveaus der Konzepte berücksichtigt. Theoretische Analysen untermauern die Korrektheit der Unsicherheitsabschätzung, und umfangreiche Experimente auf realen Datensätzen zeigen, dass die neue Technik die gewünschten Eigenschaften – höhere Zuverlässigkeit und bessere Interpretierbarkeit – zuverlässig liefert.