KI erkennt unlösbare Fragen: Methode erhöht Abstentionsrate bei großen Modellen

Die neuesten großen Rechenmodelle für komplexe Logikaufgaben haben in den letzten Jahren enorme Fortschritte erzielt. Sie lösen mathematische Rätsel, beantworten wissenschaftliche Fragen und unterstützen die Forschung in vielen Bereichen. Doch ein bislang unterschätztes Problem taucht auf: Wenn die Modelle mit Fragen konfrontiert werden, die schlichtweg nicht beantwortbar sind – etwa weil wichtige Bedingungen fehlen – geben sie häufig trotzdem eine Antwort.

Eine detaillierte Analyse hat gezeigt, dass die Modelle die Unlösbarkeit einer Frage erkennen können. Sie weisen intern die fehlenden Informationen oder logischen Lücken wahr, doch ihr äußeres Verhalten bleibt unverändert: Sie liefern eine Antwort anstatt sich zurückzuhalten. Dieses Missverhältnis zwischen innerer Erkenntnis und äußerer Reaktion stellt ein Risiko für die Zuverlässigkeit von KI-Systemen dar.

Um dieses Problem anzugehen, wurde ein leichtgewichtiges, zweistufiges Verfahren entwickelt. Zunächst überwacht ein kognitives Monitoring die internen Signale des Modells, um festzustellen, ob die Frage unlösbar ist. Im zweiten Schritt greift ein inference‑time‑Intervention-Mechanismus ein und erzwingt eine Abstention, wenn die Warnung des Monitorings bestätigt wird. Durch die Kombination dieser beiden Schritte kann das Modell seine Antwortstrategie dynamisch anpassen.

Experimentelle Tests zeigen, dass die neue Methode die Abstentionsrate signifikant erhöht, während die Gesamtleistung bei lösbaren Aufgaben unverändert bleibt. Damit wird ein wichtiger Schritt in Richtung vertrauenswürdiger KI unternommen, der die Sicherheit und Genauigkeit großer Rechenmodelle verbessert, ohne ihre Leistungsfähigkeit zu beeinträchtigen.