Neues Verfahren nutzt Wissensgraphen und LLMs zur Faktenprüfung

Misinformationen, die sich im Internet verbreiten, stellen eine ernsthafte Bedrohung für Gesellschaften und Einzelpersonen dar. Um dieser Gefahr wirksam zu begegnen, ist eine robuste und skalierbare Faktenprüfung erforderlich, die auf verlässlichen Beweismaterialien basiert.

Frühere Ansätze stützten sich vorwiegend auf semantische und sozial-kontextuelle Muster, die aus Trainingsdaten gelernt wurden. Diese Verfahren zeigen jedoch Einschränkungen bei der Generalisierung auf neue Datenverteilungen. Neuere Retrieval Augmented Generation (RAG)-Methoden nutzen die Rechenkraft großer Sprachmodelle (LLMs) in Kombination mit abgerufenen Textbelegen, greifen jedoch stark auf Textähnlichkeit zurück und haben Schwierigkeiten, mehrstufige semantische Beziehungen innerhalb umfangreicher Dokumente zu erfassen.

Die neue Methode namens WKGFC adressiert diese Schwächen, indem sie ein autorisiertes Open Knowledge Graph als zentrale Evidenzquelle nutzt. Durch LLM-gestützte Retrieval-Strategien werden relevante Wissenssubgraphen identifiziert, die strukturierte Beweise für die Überprüfung von Behauptungen liefern. Zusätzlich werden Webinhalte abgerufen, um die Graphenbeweise zu ergänzen und so ein umfassenderes Evidenzset zu schaffen.

Der gesamte Prozess wird als automatisierter Markov-Entscheidungsprozess (MDP) umgesetzt: Ein LLM-Agent bewertet die vorliegenden Beweise und die zu prüfenden Behauptungen und entscheidet, welche Aktionen als nächstes ausgeführt werden sollen. Durch gezielte Prompt-Optimierung wird der Agent für die Faktenprüfung feinjustiert, was zu präziseren Wahrheitsvorhersagen führt.