FactGuard: KI-gestützte Video-Desinformation mit Reinforcement Learning

In einer bahnbrechenden Veröffentlichung auf arXiv präsentiert das Forschungsteam FactGuard, ein neues KI-Framework, das Video‑Desinformation mithilfe von Reinforcement Learning erkennt und bewertet.

Während multimodale große Sprachmodelle (MLLMs) bereits große Fortschritte bei der Erkennung von Video‑Falschmeldungen erzielt haben, zeigen die Autoren, dass diese Systeme häufig auf festgelegte Inferenzschichten angewiesen sind und zu stark auf intern generierte Annahmen vertrauen. Besonders in Fällen, in denen entscheidende Beweise knapp, fragmentiert oder extern verifiziert werden müssen, stoßen sie an ihre Grenzen.

FactGuard löst diese Probleme, indem es die Verifikation als iterativen Denkprozess gestaltet. Das System bewertet zunächst die Ambiguität einer Aufgabe und ruft gezielt externe Tools auf, um kritische Beweise zu beschaffen. Durch diese schrittweise Verfeinerung der Argumentationspfade kann FactGuard seine Entscheidungen kontinuierlich verbessern.

Zur Optimierung der Tool‑Nutzung und der risikosensiblen Entscheidungsfindung kombiniert FactGuard einen zweistufigen Trainingsansatz: zunächst ein domänenspezifisches, agentisches Supervised Fine‑Tuning, gefolgt von decision‑aware Reinforcement Learning. In umfangreichen Tests auf den Datensätzen FakeSV, FakeTT und FakeVV übertrifft FactGuard bestehende Methoden, demonstriert dabei herausragende Robustheit und eine starke Generalisierungsfähigkeit.