Full-Stack-Alignment: KI und Institutionen im Einklang mit Wertmodellen

Eine neue Arbeit auf arXiv beleuchtet, dass die reine Ausrichtung einzelner KI-Systeme nicht genügt, um gesellschaftlich positive Ergebnisse zu garantieren. Selbst wenn ein System exakt die Absichten seiner Betreiber widerspiegelt, können Fehlanpassungen zwischen den Zielen der Organisation und denen anderer Institutionen sowie Individuen zu unerwünschten Folgen führen.

Der Autor führt das Konzept des „Full‑Stack‑Alignments“ ein: Dabei werden gleichzeitig KI-Systeme und die Institutionen, die sie formen, an den Werten der Menschen ausgerichtet. Diese Herangehensweise setzt keine starre Vorstellung von individuellem oder kollektivem Wohlstand voraus, sondern strebt eine harmonische Abstimmung aller Beteiligten an.

Aktuelle Methoden zur Werterepräsentation – etwa Nutzenfunktionen, Präferenzordnungen oder unstrukturierte Texte – stoßen laut der Studie an ihre Grenzen. Sie unterscheiden Werte nicht zuverlässig von anderen Signalen, unterstützen keine fundierte normative Argumentation und können kollektive Güter nicht adäquat modellieren.

Als Lösung schlägt die Arbeit „dicke“ Wertmodelle vor. Diese strukturieren die Darstellung von Werten und Normen, ermöglichen es Systemen, dauerhafte Werte von flüchtigen Präferenzen zu trennen, die soziale Einbettung individueller Entscheidungen zu berücksichtigen und normativ zu handeln, indem sie Werte in neuen Kontexten anwenden.

Die Wirksamkeit dieser Modelle wird in fünf Anwendungsfeldern demonstriert: KI‑Wertverwaltung, normativ kompetente Agenten, Win‑Win‑Verhandlungssysteme, bedeutungserhaltende Wirtschaftsmechanismen und demokratische Regulierungsinstitutionen. Diese Beispiele zeigen, wie ein ganzheitliches Alignment dazu beitragen kann, KI sicherer und gesellschaftlich vertrauenswürdiger zu gestalten.