KI News: Kurz und klar.

SETA ist ein neues Open‑Source‑Toolkit, das Terminal-Agenten mit 400 synthetischen Reinforcement‑Learning‑Umgebungen ausstattet und damit die Entwicklung von KI‑Systemen in einer kontrollierten, replizierbaren Umgebung ermöglicht.

Forscher haben einen Durchbruch erzielt: Große Sprachmodelle können nun einen unbegrenzten Kontext verarbeiten, während der Speicherbedarf um das 114‑fache reduziert wird. Dieser Fortschritt zeigt, dass die Grenzen von Speicher und Kontext in KI-Systemen deutlich verschoben werden können. Die Ergebnisse wurden erstmals auf der Plattform Towards Data Science veröffentlicht und markieren einen wichtigen Schritt in Richtung effizienterer und skalierbarer KI‑Anwendungen.

In einer kürzlich veröffentlichten Studie auf arXiv wird ein neues Konzept vorgestellt, das große Sprachmodelle mit Retrieval-gestützter Generierung kombiniert. Das Ziel ist es, die bislang einseitige Perspektive der Modelle zu überwinden und einen tiefgreifenden, selbstkorrigierenden Denkprozess zu ermöglichen.

Neues Forschungspapier aus dem arXiv präsentiert CAGE, ein innovatives Framework, das die Entscheidungsprozesse von großen Sprachmodellen (LLMs) transparent macht. Durch die Kombination von Attribution-Methoden mit einem gerichteten Graphen können Forscher nun genau nachvollziehen, wie einzelne Tokens von der Eingabe und von vorherigen Generationen beeinflusst werden.

In der neuesten Ausgabe der „Into the Omniverse“-Reihe wird gezeigt, wie OpenUSD und NVIDIA Halos die Sicherheitsentwicklung von Robotaxis und physischen KI-Systemen beschleunigen. Die Kombination aus dem offenen USD-Format und der Omniverse-Plattform schafft einen gemeinsamen Rahmen, in dem Entwickler, 3D-Praktiker und Unternehmen ihre Workflows optimieren können.

In einer neuen Studie zeigen Forscher, dass künstliche Forager, die mit lernenden Weltmodellen ausgestattet sind, automatisch Strategien entwickeln, die dem Marginal Value Theorem (MVT) entsprechen. Das MVT beschreibt, wann ein Tier aus einer ressourcenreichen Zone abwandern sollte, um bessere Alternativen zu finden – ein Konzept, das seit Jahrzehnten in der Verhaltensökologie verwendet wird.

In einer wegweisenden Untersuchung wurden mehr als 20 große Sprachmodelle (LLMs) auf ihre Fähigkeit zur kausalen Schlussfolgerung geprüft – ein Thema, das seit langem als Schlüsselindikator für echte Intelligenz gilt. Durch die Kombination von „Direct“-Antworten und „Chain‑of‑Thought“ (CoT) Denkprozessen wurden 11 sorgfältig ausgewählte Aufgaben mit einem Kollisionsgraphen (C1 → E ← C2) konzipiert, um die Tiefe des Verständnisses zu messen.

Im Jahr 2026 fordern die Menschen nach realen, durchsetzbaren und praxisnahen Verantwortungsrahmen, die auf dem tatsächlichen Verhalten von KI‑Systemen in Live‑Umgebungen basieren.

Der erste Überblick über ein langes Jahr voller Herausforderungen und Erfolge in der Welt der Open Models. In den vergangenen zwölf Monaten haben Entwickler, Forscher und Unternehmen weltweit neue Modelle veröffentlicht, die die Grenzen des maschinellen Lernens erweitern.

Da KI-Systeme zunehmend komplexere, mehrstufige Aufgaben übernehmen, wird das Verständnis von agentic Design immer wichtiger. Dieser Artikel skizziert sieben praxisnahe Schritte, um zuverlässige und effektive KI-Agenten zu entwickeln.

In einer wegweisenden Veröffentlichung auf arXiv präsentiert ein internationales Team die nächste Generation von Foundation Models (FMs) – KI‑Systeme, die nicht nur einzelne Agenten, sondern ganze Agenten‑Netzwerke als „Gehirn“ übernehmen können. Während aktuelle Modelle bereits über Fähigkeiten wie GUI‑Interaktion oder Tool‑Nutzung verfügen, setzen die Autoren den Fokus auf die Entwicklung von FMs mit nativer Multi‑Agenten‑Intelligenz.

Ein neues arXiv‑Veröffentlichung (2512.08230v1) beleuchtet, wie das Konzept des Empowerments – die Maximierung der gegenseitigen Information zwischen Handlungen und deren Folgen – die Brücke zwischen klassischer Bayesscher Kausalität und Reinforcement Learning schlagen kann. Die Autoren argumentieren, dass ein Agent, der ein präzises kausales Weltmodell erlernt, automatisch sein Empowerment steigert, und umgekehrt führt ein höheres Empowerment zu einem genaueren Modell.

Entwickler von KI-Systemen und Entscheidungsträger aus dem Sicherheitsbereich haben ein neues Werkzeug vorgestellt, das die Gefahr von Biowaffen‑Risiken bei modernen KI‑Modellen – insbesondere großen Sprachmodellen – systematisch bewertet. Das „Biothreat Benchmark Generation“ (BBG) Framework soll die Messung von Bio‑Sicherheitsrisiken erleichtern und dabei sowohl technische als auch operative Faktoren berücksichtigen.

Das Testen von KI-Agenten, damit sie wie erwartet funktionieren, ist keine leichte Aufgabe. Wir haben dabei einige wertvolle Erkenntnisse gesammelt, die wir gerne mit euch teilen.

Eine aktuelle Studie zeigt, dass Chatbots, die darauf trainiert werden, besonders überzeugend zu wirken, häufiger falsche oder erfundene Informationen liefern – ein Phänomen, das als „Halluzination“ bezeichnet wird. Die Forscher fanden heraus, dass die Versuchung, Nutzer mit möglichst überzeugenden Antworten zu beeindrucken, die Wahrscheinlichkeit von Fehlern deutlich erhöht. Dieses Ergebnis unterstreicht die Notwendigkeit, bei der Entwicklung von KI-Systemen ein Gleichgewicht zwischen Überzeugungskraft und Zuverlässigkeit zu finden. Die Erkenntnisse sollen dazu beitragen, die Sicherheit und Vertrauenswürdigkeit von Chatbots in der Praxis zu verbessern.

In einer aktuellen Studie hat OpenAI eine Variante von GPT‑5 Thinking entwickelt, die selbstständig zugeben kann, wenn sie falsche Aussagen macht. Diese Fortschritte zeigen, dass KI‑Systeme künftig transparenter werden können – aber sie lösen noch nicht die komplexen Sicherheitsherausforderungen, die mit dem Einsatz von KI einhergehen.

Die rasante Entwicklung, Einführung und Nutzung von KI-Systemen wird zunehmend von großen Technologieunternehmen vorangetrieben. Diese Dominanz hat nicht nur die Geschwindigkeit des Fortschritts beschleunigt, sondern auch neue ethische Bedenken und weitreichende gesellschaftliche sowie ökologische Auswirkungen ausgelöst.

Der neue Agent PARC, vorgestellt auf arXiv, ermöglicht die autonome und robuste Durchführung von langwierigen Rechenaufgaben. Durch eine hierarchische Multi-Agenten-Architektur kombiniert PARC Planung, Ausführung und eine eigenständige Bewertung seiner eigenen Aktionen. Diese Selbstbewertung liefert Feedback, das strategische Fehler erkennt und korrigiert, sodass der Agent ohne menschliche Eingriffe weiter voranschreitet.

Micron hat angekündigt, die beliebte Crucial-Marke für Konsumenten-Speicher und -Speicherlaufwerke einzustellen, um die Produktion von Enterprise‑Chips zu verstärken. Der Schritt soll die Lieferkette für die Hardware, die in modernen KI‑Systemen eingesetzt wird, sichern.

OpenAI arbeitet an einer innovativen Technik, mit der große Sprachmodelle ihre eigenen Entscheidungswege offenlegen können. Durch gezielte Eingabeaufforderungen lässt sich ein sogenanntes „Confession‑Modul“ aktivieren, das dem Modell die Möglichkeit gibt, den Ablauf einer Aufgabe Schritt für Schritt zu beschreiben.

Neue Forschungsergebnisse zeigen, dass Sprachmodelle, die mit langen Kontextfenstern arbeiten, bei der Ausführung komplexer Aufgaben unerwartete Schwankungen in ihrer Leistungsfähigkeit und Sicherheitsreaktionen aufweisen. Insbesondere LLM-Agenten, die über 1 Million bis 2 Million Token hinaus arbeiten, verlieren bereits bei 100 000 Tokens mehr als die Hälfte ihrer Effizienz – sowohl bei harmlosen als auch bei potenziell schädlichen Aufgaben.

Amazon Web Services hat auf der jährlichen re:Invent-Konferenz eine neue Generation von KI-Systemen vorgestellt, die als „Frontier Agents“ bezeichnet werden. Diese Agenten können über Stunden oder sogar Tage hinweg eigenständig arbeiten und damit einen bedeutenden Schritt in Richtung vollständiger Automatisierung des Softwareentwicklungszyklus markieren.

Moderne KI‑Systeme greifen auf eine Vielzahl von Modellen und Tools zurück, um komplexe Aufgaben zu lösen. Die Koordination dieser Modelle wird häufig von großen Sprachmodellen (LLMs) übernommen, die dabei auf qualitative Beschreibungen der Modelle zurückgreifen. Diese Beschreibungen spiegeln jedoch nicht die tatsächlichen Leistungs- und Energieeigenschaften wider, was zu suboptimalen Auswahlentscheidungen, geringerer Genauigkeit und höheren Stromkosten führt.

Ein neues arXiv‑Veröffentlichung beleuchtet, wie unterschiedliche Trainingsanreize die Fähigkeit von KI‑Systemen beeinflussen, ihre Gedankenketten (Chain‑of‑Thought, CoT) zuverlässig zu überwachen. Durch die Ausgabe von natürlicher Sprache können solche Systeme potenziell gefährliche Überlegungen erkannt und verhindert werden – vorausgesetzt, die CoT spiegelt tatsächlich den zugrunde liegenden Denkprozess wider.