KI-Fehler im Recht: Gesetzliche Folgen von erfundenen Urteilen

Die rasante Verbreitung generativer KI in der Rechtsbranche verspricht enorme Effizienzsteigerungen. Gleichzeitig birgt sie ein ernstes Risiko: KI‑Modelle können fiktive Gerichtsurteile, Gesetze und Präzedenzfälle erzeugen, die so glaubwürdig wirken, dass Anwälte sie unbemerkt in ihre Schriftsätze einbauen. Solche Fälschungen führen zu Berufsverstößen, Haftungsrisiken und Reputationsverlusten, während Gerichte mit einer neuen Bedrohung für die Integrität des adversarialen Prozesses konfrontiert werden.

Der Fehler wird oft als zufällige „Halluzination“ abgetan, doch eine physikbasierte Analyse des Transformer‑Mechanismus zeigt, dass ein deterministischer Schwellenwert existiert. Sobald der interne Zustand des Modells diesen Punkt überschreitet, wechselt die Ausgabe von verlässlicher Rechtsanalyse zu glaubwürdig klingender Erfindung. Diese Erkenntnis macht klar, dass das Risiko der Fälschung kein seltenes Glitch, sondern eine vorhersehbare Folge des Designs ist.

Die Studie demonstriert anhand eines simulierten Briefentwurfs, wie solche Fehler entstehen und welche Konsequenzen sie für die Pflicht zur technologischen Kompetenz haben. Experten fordern daher, dass Anwälte, Gerichte und Aufsichtsbehörden das veraltete „Black‑Box“-Modell durch überprüfbare Protokolle ersetzen, die auf dem tatsächlichen Fehlverhalten der Systeme basieren. Nur so kann die Rechtsordnung vor den Gefahren von KI‑Erfindungen geschützt werden.