KI mit Selbstkritik reduziert Fehler bei Versicherungsprüfungen drastisch

In der kommerziellen Versicherungsbranche ist die Risikobewertung und Preisgestaltung von Policen ein arbeitsintensiver Prozess, der umfangreiche manuelle Dokumentenprüfungen erfordert. Künstliche Intelligenz kann die Effizienz erheblich steigern, doch bisher fehlten den Systemen umfassende Begründungsmechanismen und interne Kontrollstrukturen, die in regulierten, hochriskanten Umgebungen zuverlässig funktionieren.

Eine neue Studie präsentiert ein „decision-negative“, human‑in‑the‑loop-Agentensystem, das einen adversarialen Selbstkritikmechanismus als begrenzte Sicherheitsarchitektur integriert. Dabei prüft ein „Critic“-Agent die Schlussfolgerungen des Hauptagents, bevor Empfehlungen an menschliche Prüfer weitergeleitet werden. Dieses interne Gleichgewichtsverfahren schließt eine entscheidende Lücke in der KI‑Sicherheit für regulierte Workflows.

Zusätzlich entwickelt die Forschung eine formale Taxonomie von Fehlermodi, die potenzielle Fehler von decision‑negative Agents klassifiziert. Diese Struktur bietet ein systematisches Rahmenwerk für die Risikoidentifikation und -steuerung in hochriskanten Anwendungen.

In einer experimentellen Evaluation mit 500 von Experten validierten Underwriting‑Fällen senkte der Selbstkritikmechanismus die Rate von KI‑Halluzinationen von 11,3 % auf 3,8 % und steigerte die Entscheidungsgenauigkeit von 92 % auf 96 %. Gleichzeitig bleibt die endgültige Entscheidungsgewalt strikt bei den menschlichen Prüfern, was die Einhaltung regulatorischer Anforderungen garantiert.

Die Ergebnisse zeigen, dass ein adversarialer Selbstkritikansatz die Zuverlässigkeit von KI‑unterstützten Versicherungsprüfungen deutlich erhöht und gleichzeitig die notwendige menschliche Kontrolle bewahrt.