MAC: Multi-Agent Constitutional Learning – KI-Regeln automatisch lernen

In der neuesten Forschung wird ein innovatives Verfahren vorgestellt, das es ermöglicht, die Regeln, die große Sprachmodelle (LLMs) steuern, automatisch zu erlernen. Traditionell werden diese „Verfassungen“ von menschlichen Experten in natürlicher Sprache verfasst, doch das neue Multi-Agent Constitutional Learning (MAC) nutzt ein Netzwerk spezialisierter Agenten, um strukturierte Regelsets zu optimieren.

Der Ansatz löst zwei zentrale Schwächen bisheriger Prompt‑Optimierer: Erstens benötigen sie eine große Menge gelabelter Beispiele, und zweitens fehlt ihnen eine klare Struktur, wodurch die Verbesserungen mit zunehmender Prompt‑Größe abnehmen. MAC dagegen arbeitet mit klar definierten Regeln, die von Agenten akzeptiert, bearbeitet oder verworfen werden können. Durch die gezielte Steuerung dieser Updates entsteht ein systematischer Lernprozess.

Eine Erweiterung namens MAC+ verstärkt die Leistung, indem Agenten auf erfolgreichen Lernpfaden trainiert werden, sodass sie besonders wirkungsvolle Regeländerungen erkennen und fördern. In Tests zum Erkennen von persönlich identifizierbaren Informationen (PII) – einer Aufgabe mit wenigen Labels, bei der Interpretierbarkeit entscheidend ist – übertrifft MAC die aktuellen Prompt‑Optimierungsmethoden um mehr als 50 %. Darüber hinaus zeigt das Verfahren auch bei anderen agentenbasierten Aufgaben wie dem Tool‑Aufrufen bemerkenswerte Ergebnisse.

Ein weiterer Vorteil ist, dass MAC keine Parameter des Modells selbst aktualisiert. Stattdessen liefert es leicht verständliche, auditierbare Regelsets, die die gleiche Leistungsfähigkeit wie traditionelles supervised fine‑tuning oder das GRPO-Verfahren erreichen. Diese Kombination aus Effizienz, Transparenz und hoher Genauigkeit macht Multi-Agent Constitutional Learning zu einem vielversprechenden Ansatz für die sichere und kontrollierte Nutzung von KI‑Systemen.