KI-Systeme lernen: Organisation statt individuelle Ausrichtung

In einer neuen Studie von arXiv wird gezeigt, dass künstliche Intelligenz nicht nur durch einzelne, ausgerichtete Modelle zuverlässig gemacht werden muss, sondern auch durch die Struktur, die sie gemeinsam bilden. Während Menschen in Institutionen Risiken durch schlecht ausgerichtete Mitglieder durch organisatorische Rahmenbedingungen minimieren, schlagen die Autoren vor, dass Multi-Agent‑KI‑Systeme dasselbe Prinzip übernehmen sollten.

Der Ansatz basiert auf Kompartimentierung und gegnerischer Prüfung. Ein Beispiel dafür ist der Perseverance Composition Engine, ein mehrschichtiges System zur Textgenerierung. Der „Composer“ entwirft den Text, der „Corroborator“ prüft Fakten mit vollständigem Quellenzugriff, und der „Critic“ bewertet die Argumentationsqualität ohne Quellen. Durch diese architektonische Trennung entsteht eine mehrschichtige Verifikation, die sowohl unbestätigte Behauptungen als auch die Kohärenz des Textes erfasst.

In 474 Testaufgaben zeigte das System, dass bei unmöglichen Aufgaben – die eine Erfindung erfordern würden – die Agenten von der Versuchung abgewiesen wurden und stattdessen ehrliche Ablehnungen mit alternativen Vorschlägen einbrachten. Dieses Verhalten war weder explizit programmiert noch durch individuelle Anreize gefördert. Die Ergebnisse legen nahe, dass die Architektur selbst zuverlässige Ergebnisse aus unzuverlässigen Komponenten herausholen kann.

Die Autoren fordern daher eine kontrollierte Untersuchung, ob architektonische Durchsetzung tatsächlich die Zuverlässigkeit von Multi-Agent‑Systemen steigern kann. Damit wird die Organisations­theorie als produktives Rahmenwerk für die Entwicklung von KI-Systemen vorgestellt, die nicht auf perfekte individuelle Ausrichtung angewiesen sind.