Kognitive Inception: Agentisches Denken bekämpft visuelle Täuschungen durch Skepsis

Mit dem rasanten Aufstieg von KI-generierten Inhalten stehen multimodale Large Language Models (LLMs) vor einer neuen Herausforderung: Sie können generierte Bilder oft nicht zuverlässig von echten unterscheiden. Dieses Übervertrauen macht sie anfällig für visuelle Täuschungen, die die Glaubwürdigkeit ihrer Schlussfolgerungen gefährden.

Um dieser Schwäche entgegenzuwirken, ist es entscheidend, die generalisierbare Denkfähigkeit von LLMs zu stärken, sodass sie die Echtheit visueller Eingaben selbst bei sich schnell verändernden Datenverteilungen prüfen können.

Die Autoren haben herausgefunden, dass LLMs dazu neigen, visuelle Informationen zu blind zu vertrauen. Durch gezielte Einbindung von Skepsis lässt sich diese Tendenz jedoch deutlich reduzieren und die visuelle Wahrnehmung der Modelle verbessern.

Auf dieser Basis stellen sie das Framework Inception vor – ein vollständig reasoning‑basiertes, agentisches System, das die Authentizitätsprüfung von Bildern durch einen iterativen Austausch zwischen einem externen und einem internen Skeptiker-Agenten ermöglicht.

Inception ist laut den Autoren die erste vollständig reasoning‑basierte Lösung gegen AIGC‑visuelle Täuschungen. Die Experimente zeigen, dass das System die Leistung der stärksten bestehenden LLM‑Baselines um einen großen Abstand übertrifft und den aktuellen Stand der Technik (SOTA) auf dem AEGIS‑Benchmark erreicht.