Neues Verfahren prüft KI-Code auf Hintertüren – Cross-Trace-Verifikation

Large language models generieren zunehmend Code ohne menschliche Kontrolle, was die Gefahr von Hintertüren und bösartigem Verhalten erhöht. In einer neuen arXiv‑Veröffentlichung stellen die Autoren das Cross‑Trace Verification Protocol (CTVP) vor, ein KI‑Kontrollframework, das unzuverlässige Code‑Generatoren anhand semantischer Orbit‑Analyse überprüft. Statt gefährlichen Code auszuführen, nutzt CTVP die eigenen Vorhersagen des Modells über Ausführungsspuren bei semantisch äquivalenten Programmvarianten. Durch die Analyse von Konsistenzmustern in diesen Spuren werden Verhaltensanomalien erkannt, die auf Hintertüren hinweisen. Das Verfahren führt zudem den Adversarial Robustness Quotient (ARQ) ein, der die Rechenkosten der Verifikation im Vergleich zur Basis‑Generierung quantifiziert und mit der Orbit‑Größe exponentiell ansteigt. Theoretische Analysen liefern informations­theoretische Grenzen, die zeigen, dass Angreifer durch Training keine Verbesserungen erzielen können – ein Ergebnis, das die Nicht‑Gamifizierbarkeit des Ansatzes bestätigt. Insgesamt demonstriert die Arbeit, dass semantische Orbit‑Analyse eine skalierbare, theoretisch fundierte Lösung für die Kontrolle von Code‑Generierungssystemen darstellt.