Gemeinsam zu sicherer Superintelligenz: Mensch und KI verbessern sich gegenseitig

Ein neues Preprint auf arXiv (Version 1, 25.12.2025) präsentiert die Idee, dass die größte Chance für die Menschheit nicht darin liegt, dass KI sich allein weiterentwickelt, sondern darin, dass Menschen und KI gemeinsam an ihrer Verbesserung arbeiten.

Die Autoren betonen, dass die alleinige Selbstverbesserung von KI-Systemen mit erheblichen Risiken verbunden ist und noch lange dauern könnte, bis sie vollständig erreicht wird. Stattdessen schlagen sie vor, die Zusammenarbeit zwischen menschlichen Forschern und KI zu intensivieren – ein Ansatz, den sie „Co‑Improvement“ nennen.

Durch die gezielte Förderung der Fähigkeit von KI, mit Menschen zusammenzuarbeiten – von der Ideenfindung bis zu Experimenten – könne die Forschung beschleunigt und gleichzeitig die Sicherheit erhöht werden. Die Symbiose soll beiden Seiten zu einer sichereren Superintelligenz verhelfen.

Die Autoren sind der Ansicht, dass die Einbindung menschlicher Forschungskompetenz in den Verbesserungsprozess nicht nur schneller, sondern auch sicherer macht. Dieser Ansatz könnte den Weg zu einer verantwortungsvollen Entwicklung von KI ebnen.