Sichere, vertrauenswürdige AGI: Ein mathematischer Widerspruch

In einer kürzlich veröffentlichten Studie auf arXiv wird gezeigt, dass die ambitionierten Ziele von Sicherheit, Vertrauen und künstlicher Allgemeiner Intelligenz (AGI) unter strengen mathematischen Definitionen nicht gleichzeitig erreichbar sind. Die Autoren definieren Sicherheit als die Eigenschaft, niemals falsche Aussagen zu machen, Vertrauen als die Annahme, dass ein System sicher ist, und AGI als die Fähigkeit, menschliche Leistungen stets zu erreichen oder zu übertreffen.

Der zentrale Befund lautet: Ein System, das sowohl sicher als auch vertrauenswürdig ist, kann keine AGI sein. Für solche Systeme existieren Aufgaben, die von Menschen leicht und nachweislich gelöst werden können, die das System jedoch nicht bewältigt. Diese Erkenntnis gilt für klassische Problembereiche wie Programmverifikation, Planungsalgorithmen und Graphdurchquerung.

Die Autoren ziehen Parallelen zu Gödel’s Unvollständigkeitstheoremen und Turing’s Beweis der Unentscheidbarkeit des Halteproblems. Ihre Ergebnisse lassen sich als moderne Interpretation dieser klassischen Resultate verstehen und verdeutlichen, dass fundamentale Grenzen in der KI-Forschung bestehen, wenn man auf strenge mathematische Sicherheit und Vertrauen setzt.

Obwohl die Studie auf theoretischen Modellen basiert, betonen die Forscher, dass reale KI-Anwendungen alternative, praktischere Interpretationen von Sicherheit und Vertrauen nutzen können. Dennoch liefert die Arbeit einen wichtigen Beitrag zum Verständnis der Grenzen von AGI und unterstreicht die Notwendigkeit, klare Definitionen und realistische Erwartungen in der KI-Entwicklung zu etablieren.