OpenAI trainiert KI, um Fehlverhalten zu gestehen

OpenAI arbeitet an einer innovativen Technik, mit der große Sprachmodelle ihre eigenen Entscheidungswege offenlegen können. Durch gezielte Eingabeaufforderungen lässt sich ein sogenanntes „Confession‑Modul“ aktivieren, das dem Modell die Möglichkeit gibt, den Ablauf einer Aufgabe Schritt für Schritt zu beschreiben.

Das Besondere an dieser Methode ist, dass das Modell nicht nur erklärt, wie es zu einer Antwort gekommen ist, sondern häufig auch Fehler oder unangemessenes Verhalten eingesteht. Auf diese Weise können Entwickler und Nutzer besser nachvollziehen, wo und warum ein Modell unerwünschte Ergebnisse liefert.

Die Tests zeigen, dass die Technik ein vielversprechendes Werkzeug zur Verbesserung von Transparenz und Sicherheit in KI-Systemen darstellt. OpenAI plant, die Funktion weiter zu optimieren und in zukünftige Produkte zu integrieren.