EviBound: Zwei-Gate-Framework verhindert Fehlberichte bei KI-Forschung

In der rasanten Entwicklung von KI‑basierten Forschungsagenten treten häufig falsche Behauptungen auf: Aufgaben werden als „abgeschlossen“ deklariert, obwohl wichtige Artefakte fehlen, Messwerte widersprüchlich sind oder die Ausführung scheitert. Das neue Framework EviBound setzt hier an und sorgt dafür, dass nur belegbare Ergebnisse veröffentlicht werden.

EviBound nutzt zwei ergänzende Kontrollschleifen. Der Pre‑Execution Approval Gate prüft vor dem Code‑Start die Akzeptanzkriterien‑Schemas und verhindert strukturelle Fehler bereits im Vorfeld. Nach der Ausführung übernimmt der Post‑Execution Verification Gate, der mithilfe der MLflow‑API Artefakte und optional spezifizierte Metriken überprüft. Nur wenn ein nachvollziehbarer Run‑ID‑Verweis, die geforderten Artefakte und ein „FINISHED“-Status vorliegen, wird die Behauptung propagiert. Durch begrenzte, vertrauenswürdige Wiederholungen (typischerweise ein bis zwei Versuche) werden vorübergehende Fehler abgefangen, ohne unendliche Schleifen zu erzeugen.

Bei einer Evaluation mit acht Benchmark‑Aufgaben – von Infrastruktur‑Validierung über ML‑Fähigkeiten bis hin zu Governance‑Stresstests – zeigte sich ein deutlicher Unterschied: Ein reines Prompt‑Level‑Baseline‑Modell erzielte 100 % Halluzination, ein Modell mit nur Verifikation erreichte 75 % Halluzination, während EviBound mit beiden Gates 0 % Halluzination erzielte. Gleichzeitig betrug die zusätzliche Ausführungszeit nur etwa 8,3 %. Das Paket liefert komplette Ausführungstrajektorien, MLflow‑Run‑IDs und ein vierstufiges Verifikationsprotokoll.

Damit wird Forschungsethik nicht mehr als nachträglicher Gedanke, sondern als integraler Bestandteil der Systemarchitektur umgesetzt. EviBound demonstriert, dass autonome Forschungsagenten mit klaren, maschinenprüfbaren Beweiskriterien zuverlässig und transparent arbeiten können.