EU AI Act: Transparenz als Architektur – Compliance‑Hürden bei generativer KI

Der EU Artificial Intelligence Act verlangt ab August 2026, dass KI‑generierte Inhalte in zwei Formen gekennzeichnet werden: für Menschen verständlich und maschinenlesbar. Diese doppelte Transparenz soll die Nachvollziehbarkeit von KI‑Ergebnissen gewährleisten.

Forscher haben anhand von Beispielen aus der synthetischen Datengenerierung und automatisierten Faktenprüfung gezeigt, dass die Einhaltung dieser Vorgaben nicht durch ein einfaches Nachträgliches Labeling möglich ist. Die aktuelle Architektur generativer Modelle stößt dabei an fundamentale Grenzen.

In Faktenprüfungs‑Pipelines ist die Nachverfolgung der Herkunft von Inhalten aufgrund iterativer Bearbeitungsabläufe und der nicht deterministischen Ausgaben von Sprachmodellen praktisch unmöglich. Zudem fällt die Ausnahmeregelung für unterstützende Funktionen nicht zu Lasten, weil die Systeme aktiv Wahrheitswerte zuweisen statt lediglich die Präsentation zu unterstützen.

Bei der synthetischen Datengenerierung stellt sich ein Paradoxon dar: Wasserzeichen, die für menschliche Prüfer sichtbar bleiben, können von Modellen als spurielle Merkmale gelernt werden, während maschinenlesbare Markierungen bei üblichen Datenverarbeitungen leicht verloren gehen.

Die Analyse identifiziert drei strukturelle Lücken, die die Konformität behindern: fehlende plattformübergreifende Markierungsformate für vermischte Mensch‑KI‑Ausgaben, ein Missverhältnis zwischen dem regulatorischen „Zuverlässigkeits“-Kriterium und probabilistischen Modellverhalten sowie unklare Leitlinien zur Anpassung von Offenlegungen an unterschiedliche Nutzerkompetenzen. Die Schließung dieser Lücken erfordert, Transparenz als architektonisches Designprinzip zu behandeln und interdisziplinäre Forschung in den Bereichen Rechtssemantik, KI‑Engineering und nutzerzentriertem Design voranzutreiben.