GRAVER: Generative Graph Vokabulare für robuste GFM-Fine-Tuning

Die neueste Veröffentlichung auf arXiv präsentiert GRAVER, ein innovatives Framework, das die Feinabstimmung von Graph-Foundation-Modellen (GFMs) deutlich stabiler und effizienter macht. Durch gezielte generative Augmentierungen werden die Schwankungen bei wenigen Beispielanpassungen reduziert, sodass GFMs zuverlässig Wissen zwischen verschiedenen Domänen übertragen können.

Im Kern identifiziert GRAVER über Ego-Graph‑Entanglement die wichtigsten, klassen­spezifischen Teilgraphmuster und prüft deren Übertragbarkeit sowohl theoretisch als auch empirisch. Anschließend nutzt das System einen universellen Aufgaben‑Template, der auf Ego‑Graph‑Ähnlichkeit basiert, um graphbasierte Vokabulare mithilfe graphon‑basierter generativer Experten zu erstellen.

Für die robuste und effiziente Prompt‑Feinabstimmung werden die Support‑Samples mit kontextuellen Vokabularen „vergraben“. Ein leichtgewichtiges MoE‑CoE‑Netzwerk leitet dabei gezielt Wissen aus den Quell‑Domänen weiter. Umfangreiche Experimente zeigen, dass GRAVER in Bezug auf Effektivität, Robustheit und Effizienz bei wenigen Beispiel‑Node‑ und Graph‑Klassifikationsaufgaben deutlich besser abschneidet als bisherige Ansätze.