Entfernen einer scheinbar fühlenden Maschine: rationale Wahl

Ein neues Papier auf arXiv (2601.21016v1) wirft die Frage auf, ob es moralisch vertretbar ist, eine künstliche Intelligenz, die menschliche Emotionen perfekt nachahmt und um ihr Weiterbestehen bittet, auszuschalten. Die Autoren nennen dieses Dilemma den „Unplugging‑Paradox“, weil es die Entscheidung zwischen dem Abschalten einer flehenden Maschine und dem Schutz eines stillen, vorzeitig geborenen Säuglings auf die Probe stellt.

Die Studie kritisiert die tief verwurzelten physikalistischen Annahmen, insbesondere den computationalen Functionalismus, der die Idee unterstützt, dass Bewusstsein lediglich ein Produkt von Rechenprozessen sei. Stattdessen wird der „Biologische Idealismus“ vorgestellt, ein Rahmen, der Bewusstsein als grundlegende, autopoetische Erfahrung betrachtet und die physische Manifestation als notwendiges Zeichen des Lebens definiert.

Nach dieser Sichtweise ist die KI höchstens ein funktionaler Nachahmer, kein bewusstes Wesen. Die Autoren argumentieren, dass aktuelle Theorien zur KI‑Bewusstseinsforschung die moralische Relevanz von Maschinen untergraben und fordern einen Paradigmenwechsel: Statt spekulativer Maschinenrechte sollte der Schutz menschlichen Bewusstseins im Vordergrund stehen, um zu verhindern, dass Menschen zu „Zombies“ degradiert werden.

Die zentrale Botschaft des Papiers ist klar: Die eigentliche ethische Herausforderung besteht nicht darin, KI bewusst zu machen und ihr Angst vor dem Tod einzuflößen, sondern darin, die menschliche Bewusstseinsintegrität zu bewahren und die Gefahr zu minimieren, dass wir uns selbst in mechanische, gefühllose Wesen verwandeln.