KI News. Verstehen, was wichtig wird.

Suche Anmelden

Suche

Finde Modelle, Firmen und Themen

Suche im News-Archiv nach Themen, die du dauerhaft verfolgen willst.

Ergebnisse für “KI-Alignment”

Neues Paradigma für medizinische KI-Alignment: ganzheitliche Optimierung

In den letzten Jahren hat sich das Reinforcement Learning (RL) für die Ausrichtung großer Sprachmodelle rasant entwickelt. Doch die Übertra…

arXiv – cs.AI 13.02.2026 05:00

<p>DemPO: Sortition-basierte KI-Alignment für repräsentative Werte</p> <p>In einer neuen Studie auf arXiv wird ein Ansatz vorgestellt, der die Werte, die KI-Systeme lernen sollen, demokratisch bestimmen soll. Der sogenannte Democratic Preference Optimization (DemPO) nutzt Sortition – die gleiche Methode, die bei Bürgerforen eingesetzt wird – um aus einer breiten Bevölkerung repräsentative Rater zu ziehen. Dadurch soll die Verzerrung, die bei herkömmlichen RLHF-Methoden entsteht, reduziert werden.</p> <p>Dem

arXiv – cs.AI 06.02.2026 05:00

KI-Alignment neu gedacht: Syntropische Agenten statt festgelegter Werte

In einer wegweisenden Arbeit wird das Konzept des KI‑Alignments neu definiert. Statt menschliche Werte in feste Regeln zu kodieren, schlägt…

arXiv – cs.AI 04.12.2025 05:00