LLMs bleiben trotz Skalierung fehleranfällig: Menschliche Anleitung als Engpass

Neues Forschungsergebnis aus dem Bereich der künstlichen Intelligenz zeigt, dass große Sprachmodelle – obwohl sie auf riesigen Mengen menschlicher Daten und Feedback trainiert werden – weiterhin systematische Fehler aufweisen. Diese Fehler entstehen laut der Studie nicht durch fehlende Modellgröße oder Optimierungsprobleme, sondern durch strukturelle Grenzen des menschlichen Supervisors.

Die Autoren stellen die „Human‑Bounded Intelligence“-Grenze vor: Wenn der menschliche Supervisorskanal nicht ausreichend ist, um ein verborgenes Ziel zu bewerten, wirkt er wie ein Informationsengpass. Dieser Engpass erzeugt einen positiven Fehler‑Floor, der bei jedem lernenden System, das von dieser menschlichen Anleitung dominiert wird, unvermeidlich bleibt.

Interessanterweise lässt sich dieses Phänomen in sechs unterschiedlichen theoretischen Rahmen – Operator‑Theorie, PAC‑Bayes, Informationstheorie, kausale Inferenz, Kategorientheorie und spieltheoretische Analysen von Reinforcement‑Learning mit menschlichem Feedback – gleichermaßen erklären. Alle Modelle deuten auf dieselben strukturellen Ursachen hin: Annotations‑Rauschen, Präferenz‑Verzerrung und semantische Kompression.

Die Konsequenz ist klar: Nur die Skalierung der Modelle reicht nicht aus, um menschlich ausgerichtete Fehler zu beseitigen. Ergänzende, nicht‑menschliche Signale – etwa Retrieval‑Mechanismen, Programmausführung oder spezialisierte Tools – können die effektive Kapazität des Supervisors erhöhen und den Fehler‑Floor durch Wiederherstellung von Informationen über das latente Ziel reduzieren. Experimente mit realen Präferenzdaten, synthetischen Aufgaben und extern verifizierbaren Benchmarks bestätigen die Vorhersagen der Theorie und zeigen die charakteristischen Signaturen menschlicher alleiniger Anleitung auf.