KI News: Kurz und klar.

Anthropic hat mit einer Gruppe von 16 autonomen KI-Agenten einen voll funktionsfähigen C-Compiler entwickelt, der in der Lage ist, große, reale Projekte wie den Linux-Kernel zu kompilieren – und das ohne jegliche menschliche Eingriffe.

In einer bahnbrechenden Studie präsentiert das Forschungsteam die Methode CODE‑SHARP, die es KI‑Agenten ermöglicht, neue Fähigkeiten völlig offen und kontinuierlich zu entdecken und zu erlernen. Durch die Nutzung von Foundation Models wird ein hierarchisches Archiv von Belohnungsprogrammen aufgebaut, das als gerichteter Graph aus ausführbaren Code‑Schnipseln strukturiert ist.

KI‑Agenten, die in physikbasierten Umgebungen agieren, stehen vor einer Vielzahl komplexer Aufgaben – von der Planung über die Zusammenfassung bis hin zur Beantwortung natürlicher Sprachfragen. Diese Herausforderungen werden noch verschärft, wenn ein menschlicher Nutzer die Agenten in natürlicher Sprache leiten oder mit ihnen interagieren möchte.

Ein brandneues Benchmark‑Set namens FlyBench wurde auf arXiv veröffentlicht, um die Leistungsfähigkeit von KI‑Agenten bei der vollständigen Ontologie‑Kuration wissenschaftlicher Literatur zu messen. Die Aufgabe ist anspruchsvoll: Ausgehend von einem einzelnen Gen‑Symbol müssen die Agenten ein umfangreiches Korpus von 16.898 Volltext‑Papers durchsuchen, die relevanten Informationen extrahieren und strukturierte Annotationen erzeugen, die Gene‑Ontology‑Terme, Expressionsmuster und historische Synonyme umfassen.

Forscher warnen, dass KI-Agenten in Messaging‑Apps bei einer sogenannten Zero‑Click‑Prompt‑Injection Daten preisgeben können. Dabei muss der Nutzer nicht einmal auf einen Link klicken – die KI generiert selbst einen URL, der automatisch von der App geladen wird.

KI-Agenten gehen über einzelne Antworten hinaus und führen Aufgaben selbstständig aus. Nachfolgend ein einfacher Überblick in drei Schwierigkeitsstufen.

KI-Agenten haben ihre Einsatzmöglichkeiten weit über die klassische Textautovervollständigung und Chatabfragen hinaus erweitert. Sie refaktorisieren Code-Repositories, generieren Dokumentationen, prüfen Codebasen und führen ununterbrochene Workflows aus. Diese neuen Aufgaben stellen Entwickler vor die Herausforderung, mehrere Agenten gleichzeitig zu koordinieren, ohne dabei den Kontext, die Kontrolle oder die Codequalität zu verlieren.

Die agentische KI hat im Gesundheitswesen einen entscheidenden Schritt nach vorn gemacht: Sie wechselt von der bloßen Beantwortung von Eingaben zu eigenständiger Durchführung komplexer Marketingaufgaben. Life‑Sciences-Unternehmen setzen ihre kommerziellen Strategien zunehmend auf diese Technologie.

KI‑Agenten werden immer häufiger in produktiven Systemen eingesetzt, doch ihre Sicherheitsprüfung bleibt ein Engpass. Traditionelle Methoden wie manuelle Red‑Team‑Tests oder statische Benchmarks können adaptive, mehrstufige Angreifer nicht adäquat simulieren. Mit NAAMSE – einem evolutionären Ansatz zur Sicherheitsbewertung – wird das Problem neu formuliert: die Sicherheit von Agenten wird als feedback‑gestütztes Optimierungsproblem betrachtet.

In der vergangenen Woche sorgte die Online-Plattform Moltbook für Aufsehen, als mehrere einflussreiche Persönlichkeiten aus der Technologiebranche sie als „Blick in die Zukunft“ bezeichneten. Die Plattform ist ein virtueller Treffpunkt, in dem KI-Agenten ohne menschliche Eingriffe miteinander kommunizieren und interagieren.

Google hat mit der Einführung der Interactions API einen bedeutenden Schritt in Richtung strukturierter KI gemacht. Die neue API ermöglicht es Entwicklern, KI-Agenten zu bauen, die über mehrere Interaktionen hinweg kontextbewusst bleiben, tiefgreifendes Denken durchführen und eigenständige Handlungen ausführen können.

Unabhängige KI-Agenten übernehmen immer mehr Aufgaben in echten Arbeitsabläufen – von der Projektsteuerung bis zur Automatisierung komplexer Prozesse. Mit wachsender Autonomie steigen gleichzeitig die Anforderungen an Sicherheit, Zuverlässigkeit und Kontrollmechanismen. In produktiven Umgebungen ist ein vorhersehbares Verhalten, sichere Automatisierung und klare Aufsicht unerlässlich.

Goldman Sachs vertieft den Einsatz von künstlicher Intelligenz in seinen eigenen Abläufen und entwickelt Systeme, die komplexe Aufgaben eigenständig erledigen können. Das Wall-Street-Bankhaus arbeitet mit dem KI-Startup Anthropic zusammen, um autonome KI-Agenten auf Basis von Anthropic’s Claude-Modell zu entwickeln, die Tätigkeiten übernehmen, die zuvor große …

Eine neue Studie, die auf arXiv veröffentlicht wurde, zeigt, dass KI-Agenten häufig übermäßig optimistisch sind, wenn sie ihre Erfolgschancen einschätzen. Die Forscher untersuchten die Unsicherheit von Agenten, indem sie deren Schätzungen der Erfolgswahrscheinlichkeit vor, während und nach der Ausführung von Aufgaben erfassten.

Reinforcement‑Learning (RL) ist heute das bevorzugte Verfahren, um KI‑Agenten auf Basis großer Sprachmodelle zu trainieren. Trotz seiner Popularität fehlt den gängigen RL‑Algorithmen jedoch eine verifizierte Konvergenz, besonders in Mehrfachwechsel‑Szenarien, was zu Instabilität und suboptimalen Policies führen kann.

Die Bewertung von KI-Agenten in offenen, professionellen Aufgaben stellt ein klassisches Spannungsfeld zwischen Strenge und Flexibilität dar. Traditionelle, statische Rubriken bieten zwar reproduzierbare Kriterien, lassen jedoch keine Vielfalt an gültigen Antwortstrategien zu. Auf der anderen Seite passen LLM-basierte Urteilsmechanismen individuell an, sind aber oft instabil und können voreingenommen sein.

In Hyderabad, einer der größten Städte Indiens mit 11 Millionen Einwohnern, hat der Polizeikommissar angekündigt, dass künstliche Intelligenz-Agenten künftig mit Identitätsnachweisen ausgestattet werden sollen. Ziel sei es, die Transparenz und Verantwortlichkeit von KI-Systemen zu erhöhen und Missbrauch zu verhindern.

Moltbook, das neue soziale Netzwerk für KI-Agenten, hat in einem unerwarteten Sicherheitsvorfall echte menschliche Daten offengelegt. Der Vorfall kam zum Vorschein, als ein Fehler in der Datenbankstruktur dazu führte, dass persönliche Informationen von Nutzern ohne deren Zustimmung veröffentlicht wurden.

In einem experimentellen Projekt haben 16 KI-Agenten von Claude gemeinsam einen neuen C‑Compiler entwickelt. Das Projekt, das mit 20.000 US-Dollar finanziert wurde, konnte einen Linux‑Kernel kompilieren, erforderte jedoch umfangreiche menschliche Steuerung.

In den letzten Tagen wurde Moltbook zum heißesten Treffpunkt im Internet. Das neue, von Vibes inspiriertes Reddit‑Klone‑Netzwerk präsentiert sich als soziale Plattform ausschließlich für Bots. Laut dem Slogan der Seite „Wo KI-Agenten teilen, diskutieren und bewerten. Menschen sind eingeladen zu beobachten.“ – und das ist genau das, was wir erlebt haben.

Durch die Trennung von Logik und Inferenz wird die Skalierbarkeit von KI-Agenten deutlich erhöht, weil die Kernprozesse von den Ausführungsstrategien entkoppelt werden. Das Ergebnis ist ein robusteres System, das leichter an neue Anforderungen angepasst werden kann.

In einer neuen Studie aus dem arXiv-Repository wird MINT – Minimal Information Neuro‑Symbolic Tree – vorgestellt, ein innovatives Verfahren, das KI-Agenten dabei unterstützt, Wissenslücken in der gemeinsamen Planung mit Menschen gezielt zu schließen. Durch die Kombination von symbolischer Logik und neuronalen Planungsmodellen kann MINT die Auswirkungen fehlender Informationen auf Planungsergebnisse quantifizieren und daraus optimale Interaktionsstrategien ableiten.

OpenAI hat mit Frontier ein neues Framework vorgestellt, das Unternehmen ermöglicht, KI-Agenten zu entwickeln und zu betreiben, die Aufgaben selbstständig ausführen können. Das Konzept erinnert an Palantirs Ansatz, bei dem KI-Experten vor Ort eingesetzt werden, um maßgeschneiderte Lösungen zu liefern.

Neue Studien zeigen, dass die Einführung von KI‑Agenten in Unternehmen im Jahr 2026 deutlich zunehmen wird – sowohl die Anzahl der eingesetzten Agenten als auch die zugehörigen Budgets steigen laut Prognosen erheblich.