Neues Prinzip: Schnellere Trainingszeit zeigt wahre Kausalrichtung

Wissenschaftler haben ein neues Konzept namens Causal Computational Asymmetry (CCA) vorgestellt, das die wahre Kausalrichtung zwischen zwei Variablen anhand der Trainingsgeschwindigkeit von neuronalen Netzen bestimmt. Dabei wird ein Netzwerk darauf trainiert, Y aus X vorherzusagen, während ein zweites Netzwerk das Gegenteil lernt. Die Richtung, die schneller konvergiert, gilt als kausal.

Im Rahmen des additiven Rauschmodells Y = f(X) + ε, wobei ε unabhängig von X ist und f eine nichtlineare, injektive Funktion darstellt, zeigen die Autoren eine formale Asymmetrie. Im Rückwärtsmodell bleiben die Residuen statistisch abhängig vom Input, was zu einem höheren irreduziblen Verlustboden und nicht separierbarem Gradientenschall führt. Dadurch benötigt das Rückwärtsmodell im Erwartungswert mehr Gradientenschritte, um einen festen Verlustschwellenwert zu erreichen, während das Vorwärtsmodell – die wahre Kausalrichtung – schneller konvergiert.

CCA arbeitet im Optimierungszeitraum und unterscheidet sich damit von Methoden wie RESIT, IGCI oder SkewScore, die auf statistischer Unabhängigkeit oder Verteilungssymmetrien basieren. Für einen gültigen Vergleich der Konvergenzraten ist eine korrekte z‑Skala beider Variablen erforderlich.

Auf synthetischen Testdatensätzen erzielte CCA beeindruckende Ergebnisse: 26 von 30 korrekte Kausalidentifikationen über sechs verschiedene neuronale Architekturen hinweg, einschließlich 30 von 30 bei sinus- und exponentiellen Daten. Diese Leistung unterstreicht die Robustheit des Ansatzes gegenüber unterschiedlichen Modellstrukturen.

Darüber hinaus integrieren die Forscher CCA in einen umfassenderen Rahmen namens Causal Compression Learning (CCL). Dieser Ansatz kombiniert Graphstrukturlernen, kausale Informationskompression und Policy-Optimierung und bietet gleichzeitig theoretische Garantien. CCA und CCL eröffnen damit neue Wege, kausale Beziehungen aus Daten zu extrahieren, indem sie die Dynamik des Lernprozesses selbst als Hinweisgeber nutzen.