Geometrische Stabilität: Der fehlende Achsenparameter für Repräsentationen

In der Analyse von Lernrepräsentationen gibt es einen kritischen Blindpunkt: die Messung der Ähnlichkeit zeigt nur, was dargestellt wird, nicht aber, ob diese Struktur robust bleibt. Forscher haben deshalb die geometrische Stabilität eingeführt – ein neues Maß, das angibt, wie zuverlässig die geometrische Struktur von Embeddings bei Störungen erhalten bleibt. Das dazugehörige Tool Shesha ermöglicht die Messung dieser Stabilität.

In einer umfangreichen Studie mit 2 463 Konfigurationen aus sieben unterschiedlichen Domänen wurde gezeigt, dass Stabilität und Ähnlichkeit praktisch unkorreliert sind (ρ ≈ 0,01) und mechanisch verschieden funktionieren. Während Ähnlichkeitsmetriken nach Entfernung der obersten Hauptkomponenten zusammenfallen, bleibt die Stabilität empfindlich gegenüber feinen Strukturen des Manifolds.

Diese Unterscheidung liefert konkrete Vorteile: Für die Sicherheitsüberwachung wirkt Stabilität als funktionaler geometrischer „Canary“, der strukturelle Drift fast doppelt so empfindlich erkennt wie CKA und gleichzeitig störende Rauscheffekte eliminiert, die bei herkömmlichen Distanzmetriken zu Fehlalarmen führen. In Bezug auf die Steuerbarkeit kann die überwachte Stabilität die lineare Steuerbarkeit mit hoher Genauigkeit vorhersagen (ρ = 0,89–0,96). Für die Modellauswahl zeigt sich, dass Stabilität von der Übertragbarkeit getrennt ist und einen geometrischen „Steuerungsaufwand“ aufzeigt, den Optimierungen für die Übertragbarkeit mit sich bringen.

Die Anwendbarkeit geht über maschinelles Lernen hinaus: Geometrische Stabilität prognostiziert die Kohärenz von CRISPR‑Störungen und die Kopplung zwischen neuronaler Aktivität und Verhalten. Durch die Quantifizierung, wie zuverlässig Systeme ihre Struktur bewahren, ergänzt die geometrische Stabilität die Ähnlichkeit als unverzichtbares Werkzeug zur Überprüfung von Repräsentationen in biologischen und rechnerischen Systemen.