MePo: Meta-Post-Refinement verbessert kontinuierliches Lernen ohne Wiederholung

Ein neues Verfahren namens Meta Post-Refinement (MePo) verspricht einen Durchbruch im Bereich des kontinuierlichen Lernens ohne Wiederholung.

Intelligente Systeme müssen ständig aus sich wandelnden Umgebungen lernen, um in Echtzeit reagieren zu können. Das stellt die Forschung vor große Herausforderungen, insbesondere bei Online‑Datenströmen und unscharfen Aufgaben­grenzen.

MePo nutzt vortrainierte Modelle und baut auf der Idee der Meta‑Plastizität sowie rekonstruktiven Gedächtnisprozesse aus der Neurowissenschaft. Durch die Erzeugung von Pseudo‑Aufgabensequenzen aus den Vortrainingsdaten und ein zweistufiges Meta‑Lernparadigma wird die Basisarchitektur verfeinert, sodass sie sich schneller an neue Aufgaben anpassen kann.

Ein weiteres Merkmal ist die Initialisierung einer Meta‑Kovarianzmatrix, die die geometrische Struktur des vortrainierten Repräsentationsraums als Referenz nutzt und so die Nutzung von zweiten‑Ordnung‑Statistiken ermöglicht.

MePo erzielt signifikante Verbesserungen auf mehreren Benchmarks – zum Beispiel 15,10 % auf CIFAR‑100, 13,36 % auf ImageNet‑R und 12,56 % auf CUB‑200 – und funktioniert dabei ohne Wiederholung.

Der Quellcode ist öffentlich auf GitHub verfügbar: https://github.com/SunGL001/MePo.