SAHOO: Ausrichtungssicherung bei hochgradiger Optimierung im Selbstverbesserungsprozess

SAHOO ist ein neues Framework, das die Gefahr von Alignment‑Drift bei rekursiven Selbstverbesserungsprozessen systematisch bekämpft. Durch drei zentrale Schutzmechanismen – den Goal Drift Index (GDI), der mithilfe semantischer, lexikalischer, struktureller und distributionaler Signale Abweichungen erkennt, durch constraint‑Preservation‑Checks, die sicherheitskritische Invarianten wie syntaktische Korrektheit und Nicht‑Halluzination durchsetzen, sowie durch die Quantifizierung von Regression‑Risiken, die Rückschritte in bereits erzielten Verbesserungen aufdecken – bleibt die Ausrichtung der Modelle stabil.

In einer umfangreichen Evaluation mit 189 Aufgaben aus den Bereichen Code‑Generierung, mathematisches Denken und Wahrhaftigkeit erzielte SAHOO deutliche Qualitätssteigerungen: 18,3 % mehr korrekte Code‑Ausgaben, 16,8 % mehr präzise mathematische Antworten und gleichzeitig ein starkes Einhalten der definierten Constraints. Die Fehlerraten in der Wahrhaftigkeit blieben dabei niedrig.

Die Schwellenwerte wurden auf einer kleinen Validierungsgruppe von 18 Aufgaben über drei Iterationszyklen kalibriert. Zusätzlich kartiert SAHOO die Grenze zwischen Fähigkeit und Alignment, zeigt, dass frühe Verbesserungszyklen effizient sind, während spätere Zyklen höhere Alignment‑Kosten mit sich bringen. Dabei werden auch domänenspezifische Spannungen sichtbar, etwa zwischen Sprachflüssigkeit und Faktengenauigkeit.

SAHOO macht die Erhaltung von Alignment während rekursiver Selbstverbesserung messbar, einsatzbereit und systematisch auf großem Maßstab validiert – ein entscheidender Schritt, um KI‑Systeme sicher und zuverlässig weiterzuentwickeln.