KI News: Kurz und klar.

In der Welt des Verstärkungslernens konzentrieren sich robuste Methoden meist darauf, unzuverlässige Erfahrungen oder verfälschte Belohnungen zu unterdrücken. Sie besitzen jedoch keine Möglichkeit, die Zuverlässigkeit ihres eigenen Lernprozesses zu beurteilen. Das führt häufig dazu, dass sie entweder zu stark auf Rauschen reagieren und dadurch übermäßig konservativ werden, oder im schlimmsten Fall scheitern, wenn Unsicherheit anhäuft.

In einer neuen Pilotstudie wurde untersucht, ob die Einbettung von LLM‑Bewertungen in ein fiktives Wettsystem die Vorhersagegenauigkeit steigert und gleichzeitig ein deutliches Vertrauenssignal liefert. Dazu wurden 100 Mathematik‑ und Logikfragen mit überprüfbaren Antworten erstellt, die von sechs Basis‑Modellen beantwortet wurden. Drei Vorhersagemodelle schätzten anschließend, ob jedes Basismodell die jeweilige Frage korrekt beantwortet.