Neues Messverfahren für Werteabweichungen in Sprachmodellen
Die Sicherheit großer Sprachmodelle wird bislang meist anhand statischer Tests bewertet, obwohl die wichtigsten Fehler dynamisch auftreten – etwa Werteabweichungen bei veränderten Daten, Jailbreak-Angriffe oder langsamer Abfall der Ausrichtung im Einsatz. Ein neues Forschungsprojekt nutzt die „Second Law of Intelligence“, das ethische Entropie als Zustandsvariable definiert, die ohne Gegenmaßnahmen steigt. Durch die Entwicklung einer fünf‑seitigen Verhaltens‑Taxonomie und eines Klassifikators, der die Entropie S(t) aus Modelltranskripten schätzt, wird die Entropiedynamik von Basis‑ und Anweisungs‑getunten Varianten vier führender Modelle unter verschiedenen Belastungstests gemessen.
Die Ergebnisse zeigen, dass Basis‑Modelle eine kontinuierliche Entropie‑Zunahme aufweisen, während die getunten Varianten die Drift deutlich reduzieren und die ethische Entropie um etwa 80 % senken. Aus diesen Trajektorien wird die effektive Ausrichtungsarbeit γ_eff abgeleitet und in ein Überwachungssystem eingebettet. Sobald die Entropie‑Abweichung einen festgelegten Schwellenwert überschreitet, löst das System Warnungen aus und ermöglicht so eine Echtzeit‑Überwachung der Werte‑Stabilität.