Neues Messverfahren für Werteabweichungen in Sprachmodellen
Die Sicherheit großer Sprachmodelle wird bislang meist anhand statischer Tests bewertet, obwohl die wichtigsten Fehler dynamisch auftreten – etwa Werteabweichungen bei veränderten Daten, Jailbreak-Angriffe oder langsamer Abfall der Ausrichtung im Einsatz. Ein neues Forschungsprojekt nutzt die „Second Law of Intelligence“, das ethische Entropie als Zustandsvariable definiert, die ohne Gegenmaßnahmen steigt. Durch die Entwicklung einer fünf‑seitigen Verhaltens‑Taxonomie und eines Klassifikators, der die Entropie S(t) aus Modelltranskripten schätzt, wird die Entropiedynamik von Basis‑ und Anweisungs‑getunten Varianten vier führender Modelle unter verschiedenen Belastungstests gemessen.