KI News: Kurz und klar.

Ein neues arXiv-Papier zeigt, dass die Erkennung von Halluzinationen in großen Sprachmodellen durch die Umdeutung als Out‑of‑Distribution‑(OOD)‑Erkennung deutlich verbessert werden kann. Statt auf klassische Frage‑Antwort‑Methoden zurückzugreifen, betrachtet die Studie die Vorhersage des nächsten Tokens als Klassifikationsproblem und wendet dafür bewährte OOD‑Techniken an – mit gezielten Anpassungen für die Struktur von Sprachmodellen.

Agentic‑KI‑Systeme, die eigenständig auf ein definiertes Ziel hinarbeiten, versprechen in vielen Bereichen eine deutlich höhere Hilfestellung als herkömmliche KI‑Modelle. Durch die Reduktion externer Steuerung können sie komplexe Aufgaben schneller und flexibler lösen.

Die Einsatzmöglichkeiten von KI-gesteuerten autonomen Systemen haben in den letzten Jahren dank Fortschritten in Robotik und maschinellem Lernen stark zugenommen. Damit diese Systeme verantwortungsbewusst eingesetzt werden können, ist eine gründliche Sicherheitsnachweisführung unerlässlich. Ein zentrales Problem dabei ist die Erkennung von Daten, die außerhalb des Trainingsbereichs liegen – sogenannte Out-of-Distribution (OoD)-Daten.

Ein neues Verfahren aus der jüngsten arXiv-Publikation liefert eine präzise und erklärbare Möglichkeit, Out-of-Distribution‑(OOD)‑Daten zu erkennen. Während frühere Ansätze die Distanz von Merkmalen zu Entscheidungsgrenzen nutzten, setzt die aktuelle Arbeit auf kontrafaktische Erklärungen, um diese Distanz post‑hoc zu bestimmen.