Neue Studie beleuchtet OOD-Generalisierung in Graph-Foundation-Modellen

arXiv – cs.LG Original ≈1 Min. Lesezeit
Anzeige

Graphen sind die Grundlage für die Darstellung relationaler Informationen in Bereichen wie sozialen Netzwerken, Molekulardaten und Wissensgraphen. Doch Modelle, die auf Graphen trainiert werden, zeigen häufig nur begrenzte Generalisierungsfähigkeit, wenn sie auf Daten außerhalb ihres Trainingsbereichs angewendet werden. In der Praxis können sich die Verteilungen durch Änderungen in der Graphstruktur, Domänensemantik, verfügbaren Modalitäten oder Aufgabenformulierung verschieben.

Um diesen Herausforderungen zu begegnen, wurden Graph-Foundation-Modelle (GFMs) entwickelt. Diese Modelle streben an, universelle Repräsentationen zu erlernen, indem sie mit groß angelegtem Pre‑Training über vielfältige Graphen und Aufgaben hinweg arbeiten. Die vorliegende Studie ist die erste umfassende Übersicht, die die Fortschritte von GFMs im Kontext der Out‑of‑Distribution (OOD) Generalisierung beleuchtet.

Zunächst werden die zentralen Probleme von Verteilungsverschiebungen im Graphenlernen erläutert und ein einheitliches Problemmodell vorgestellt. Anschließend werden bestehende Ansätze nach ihrer Zielsetzung klassifiziert: Einige sind auf eine feste Aufgabenbeschreibung ausgelegt, andere unterstützen die Generalisierung über heterogene Aufgabenformulierung hinweg. Für jede Gruppe werden die jeweiligen OOD‑Strategien und Pre‑Training‑Ziele zusammengefasst.

Abschließend werden gängige Evaluationsprotokolle diskutiert und offene Forschungsfragen aufgezeigt, die für die Weiterentwicklung von GFMs entscheidend sind. Die Autoren betonen, dass ihre Arbeit einen wichtigen Beitrag leistet, indem sie die bisher fehlende systematische Betrachtung der OOD‑Generalisation in Graph‑Foundation‑Modellen liefert.

Ähnliche Artikel