Echoless-LP: Speicher- und Effizienzsteigerung bei heterogenen Graphen
Heterogene Graph Neural Networks (HGNNs) sind das Rückgrat moderner Deep‑Learning‑Anwendungen auf komplexen Netzwerken. Traditionelle End‑to‑End‑Modelle führen jedoch während des Trainings wiederholte Nachrichtenweitergaben durch, was bei großen, realen Graphen die Effizienz stark einschränkt. Durch Vor‑Berechnung kann das Problem gemildert werden: Nachrichten werden einmalig im Pre‑Processing zusammengefasst und in reguläre Tensoren überführt, sodass Mini‑Batch‑Training deutlich schneller läuft.
Bei label‑basierten Vor‑Berechnungen werden die Labels der Nachbarn gesammelt, doch ein gravierendes Problem tritt auf: die „Echo‑Effekt“. Dabei gelangen die eigenen Labels eines Knotens während mehrhopiger Nachrichtenweitergaben zurück zu sich selbst, was zu einer unerwünschten Leakage führt. Bestehende Lösungen sind entweder speicherintensiv oder nicht mit modernen Nachrichtenweitergabemethoden kompatibel.
Die neue Methode Echoless‑LP löst dieses Problem elegant. Durch Partition‑Focused Echoless Propagation (PFEP) werden Zielknoten in Partitionen aufgeteilt und propagieren nur Informationen von Nachbarn aus anderen Partitionen. Dadurch wird der Echo‑Effekt vermieden, ohne zusätzlichen Speicheraufwand. Ergänzend kommt ein Asymmetric Partitioning Scheme (APS) sowie ein PostAdjust‑Mechanismus hinzu, um Informationsverluste durch Partitionierung und Verteilungsschwankungen auszugleichen.
Experimentelle Ergebnisse auf öffentlichen Datensätzen zeigen, dass Echoless‑LP nicht nur die Speichereffizienz verbessert, sondern auch die Modellleistung gegenüber etablierten Baselines übertrifft. Die Methode ist damit ein vielversprechender Ansatz für skalierbare, speichereffiziente Graph‑Lernaufgaben in der Praxis.