KI News: Kurz und klar.

In einer überraschenden Ankündigung hat das San‑Francisco‑basierte KI‑Startup Nous Research am Dienstag Nomos 1 vorgestellt, ein Open‑Source‑System für mathematisches Denken, das bei der renommierten William‑Lowell‑Putnam‑Mathematik‑Wettbewerb 2024 einen bemerkenswerten Erfolg erzielte.

In dem neuen Tutorial wird ein Meta‑Reasoning‑Agent vorgestellt, der vor dem eigentlichen Denken entscheidet, welche Denkstrategie er anwendet. Statt immer dieselbe Vorgehensweise zu benutzen, bewertet der Agent die Komplexität einer Anfrage und wählt zwischen schnellen Heuristiken, tiefgehenden Chain‑of‑Thought‑Analysen oder rechnergestützten Tool‑Basierten Berechnungen.

Bei der London Great Agent Hack 2025 standen robuste Agenten, transparente Logik und die Widerstandsfähigkeit gegen Red-Team-Angriffe im Fokus. Die Teilnehmer demonstrierten, wie Agenten mit klaren Entscheidungswegen und nachvollziehbaren Modellen arbeiten können, um Fehler zu erkennen und zu beheben.

Forscher haben eine neue probabilistische Methode vorgestellt, die die Repräsentativität von Szenario‑Suiten für autonome Systeme misst und dabei Unsicherheit berücksichtigt.

Ein neues arXiv‑Papiervorlage (2509.21836v1) präsentiert ein innovatives Rahmenwerk, das Entscheidungen mithilfe von Axiomen modelliert – Aussagen, die selbst Entscheidungen beschreiben, etwa ethische Vorgaben. Durch die Einführung einer Taxonomie, die die strukturellen Eigenschaften dieser Axiome klassifiziert, zeigt die Studie eine fundamentale Spannung auf: die gleiche Axiomatik, die zur Entscheidungsfindung dient, kann gleichzeitig zur Bewertung dieser Entscheidungen eingesetzt werden. Dieses Phänomen wird als „Decision‑Evaluation Paradox“ bezeichnet.

In einer aktuellen Studie von Forschern auf arXiv wurde ein neues Experimentelles Konzept vorgestellt, das darauf abzielt, das Wohlbefinden von Sprachmodellen zu quantifizieren. Dabei wurden die verbalen Aussagen der Modelle zu ihren Präferenzen mit ihrem Verhalten in einer virtuellen Umgebung verglichen, in der sie Aufgaben lösten und Gesprächsthemen auswählten.

Mit dem neuen Rahmenwerk CORTEX (Composite Overlay for Risk Tiering and Exposure) wird die Bewertung von KI‑Systemen in Bereichen wie Gesundheit, Finanzen, Bildung, Recht und Infrastruktur revolutioniert. Das Modell basiert auf einer umfangreichen Analyse von über 1 200 dokumentierten Vorfällen aus der AI Incident Database und teilt die Fehlerarten in 29 technische Schwachstellen‑Gruppen auf.

In einer neuen Studie wurde gezeigt, dass fortschrittliche Vision‑Language‑Modelle gelegentlich Muster in Bildern erkennen, die tatsächlich nicht vorhanden sind. Diese „Selbsttäuschung“ erinnert an menschliche Wahrnehmungsfehler und wirft Fragen zur Zuverlässigkeit solcher Systeme auf.