Neuer Ansatz verbessert kontinuierliches Lernen von Knowledge‑Graph‑Embeddings

arXiv – cs.LG Original ≈1 Min. Lesezeit
Anzeige

Viele Knowledge Graphs (KGs) werden regelmäßig aktualisiert, was ihre Embeddings ständig an neue Informationen anpassen muss. Um diesem Problem zu begegnen, setzen aktuelle Methoden des kontinuierlichen Lernens auf die Einbindung neuer Entitäten und die Aktualisierung bestehender Embeddings. Ein entscheidender, aber oft vernachlässigter Schritt ist die Initialisierung dieser Embeddings, die sowohl die Genauigkeit als auch die Trainingsdauer stark beeinflusst – besonders bei kleinen, häufigen Updates.

In der vorliegenden Arbeit wird eine neuartige, informierte Initialisierungsstrategie vorgestellt, die nahtlos in bestehende kontinuierliche Lernverfahren für KG‑Embeddings integriert werden kann. Dabei werden das Schema des Knowledge Graphs sowie bereits erlernte Embeddings genutzt, um für neue Entitäten Ausgangsrepräsentationen zu erzeugen, die auf deren Klassen basieren. Diese gezielte Initialisierung reduziert das Risiko des katastrophalen Vergessens und fördert gleichzeitig die Aufnahme neuer Informationen.

Umfangreiche Experimente zeigen, dass die vorgeschlagene Methode die Vorhersageleistung der KG‑Embeddings signifikant steigert und gleichzeitig die Wissensretention verbessert. Darüber hinaus beschleunigt sie den Lernprozess, indem die benötigte Anzahl an Epochen reduziert wird, was zu einer spürbaren Zeitersparnis führt. Die Vorteile wurden über verschiedene Typen von KGE‑Lernmodellen hinweg demonstriert, was die Vielseitigkeit und Praktikabilität des Ansatzes unterstreicht.

Ähnliche Artikel