KI News: Kurz und klar.

Die Entwicklung von KI-Agenten ist spannend, das Debuggen jedoch oft frustrierend. Mit LangSmith Assistant – Polly, einem Agenten für Agenten, wird die Fehlersuche deutlich erleichtert. Durch die fortschrittliche Analyse und Visualisierung von Agenten-Trace-Daten können Entwickler schneller erkennen, warum ein Agent halluziniert oder ein falsches Tool auswählt.

Ein neues Benchmarking-Tool namens Finch wurde vorgestellt, das KI-Agenten in realen, unternehmensweiten Finanz- und Rechnungsprozessen testet. Die Daten stammen aus authentischen Arbeitsbereichen, darunter 15.000 Tabellenkalkulationen und 500.000 E-Mails von 150 Mitarbeitern bei Enron sowie weiteren Finanzinstituten. Dadurch bleibt die natürliche Unordnung und Vielfalt von Text, Tabellen, Formeln, Diagrammen, Code und Bildern erhalten.

In einer Welt, in der Menschen und KI-Agenten immer häufiger zusammenarbeiten, zeigt die neue Methode SpeakRL, wie Sprachmodelle zu echten Gesprächspartnern werden können. Statt nur Befehle auszuführen, lernen Agenten, aktiv nach Klarstellungen zu fragen und Missverständnisse zu beseitigen – ein Schritt, der die Effizienz von Aufgabenlösungen deutlich steigert.

Der Autor hat bereits viel Erfahrung im Aufbau agentischer Systeme gesammelt. Seine Plattform Mentornaut nutzt ein Multi-Agent-Setup mit Vektor‑Speichern, Wissensgraphen und Nutzer‑Gedächtnis‑Funktionen, sodass er glaubte, die Grundlagen bereits abgedeckt zu haben. Aus Neugierde ließ er sich die Whitepapers des Kaggle Agents Intensive durchlesen und wurde überrascht – die Inhalte sind klar strukturiert und liefern neue, praxisnahe Einsichten, die selbst erfahrene Entwickler noch nicht berücksichtigt hatten. Das Programm bietet damit einen wertvollen Überblick über aktuelle Ansätze und Best Practices im Bereich KI‑Agenten.

Nach der Veröffentlichung seines neuen Buches Building Applications with AI Agents hatte ich die Gelegenheit, mit dem Autor Michael Albada zu sprechen. In diesem Gespräch ging es um seine Erfahrungen beim Schreiben des Buches und um seine Einschätzungen zum wachsenden Feld der KI‑Agenten.

In einer wegweisenden Veröffentlichung auf arXiv wird gezeigt, dass Agenten, die auf großen Sprachmodellen (LLM) basieren, ein bislang unbekanntes makroskopisches Gleichgewicht aufweisen. Trotz der beeindruckenden praktischen Erfolge dieser Systeme fehlt bislang ein theoretisches Gerüst, das ihre Gesamtverhalten erklären kann.

In einer neuen Studie von Forschern bei Google und der UC Santa Barbara wurde ein innovatives Framework entwickelt, das KI‑Agenten ermöglicht, ihre Tool‑ und Rechenbudgets deutlich effizienter zu nutzen. Durch gezielte Kontrolle der verfügbaren Ressourcen können die Agenten ihre Entscheidungen besser abstimmen und unnötige Rechenzyklen vermeiden.

Da KI-Systeme zunehmend komplexere, mehrstufige Aufgaben übernehmen, wird das Verständnis von agentic Design immer wichtiger. Dieser Artikel skizziert sieben praxisnahe Schritte, um zuverlässige und effektive KI-Agenten zu entwickeln.

Marble, ein junges Unternehmen, das KI-Agenten für Steuerfachleute entwickelt, hat in einer Seed‑Runde 9 Millionen US-Dollar aufgenommen. Die Finanzierung wurde von Susa Ventures angeführt, während MXV Capital und Konrad Capital ebenfalls beteiligt waren.

In einer wegweisenden Studie wurden zehn erfahrene Cybersicherheitsprofis gegen sechs bestehende KI-Agenten sowie den neu entwickelten Rahmen ARTEMIS auf einem großen Universitätsnetzwerk mit rund 8.000 Hosts und 12 Subnetzen getestet. ARTEMIS belegte dabei den zweiten Platz insgesamt und fand neun valide Schwachstellen mit einer Erfolgsquote von 82 % bei den Einreichungen.

Die Initiative AAIF, unterstützt von OpenAI, Anthropic und weiteren führenden Unternehmen, setzt sich zum Ziel, KI-Agenten zu standardisieren und eine offene, interoperable Basis zu schaffen. Durch die Einführung gemeinsamer Standards soll die Fragmentierung von KI-Agenten endlich überwunden werden.

Neue Adoptionsdaten von Perplexity zeigen deutlich, wie KI-Agenten die Effizienz von Arbeitsabläufen steigern, indem sie komplexe Aufgaben in Unternehmen übernehmen.

Identity‑Management-Anbieter wie Okta sehen eine Chance, CISOs zu beruhigen, die sich Sorgen machen, dass KI-Agenten außer Kontrolle geraten. Die Angst vor unkontrollierten KI-Agenten hat bisher die breite Einführung dieser digitalen Arbeitskräfte verhindert, erklärte Shiv Ramji, Präsident von Auth0 bei Okta, in einem Interview mit The Register.

Die Linux Foundation hat heute die Agentic AI Foundation (AAIF) ins Leben gerufen, um eine unabhängige Aufsicht über die Entwicklung von KI-Agenten-Infrastrukturen zu gewährleisten.

OpenAI, Anthropic und Block haben angekündigt, gemeinsam an einem neuen Projekt zu arbeiten, das offene Standards für die Entwicklung von KI-Agenten und zugehörigen Software‑Tools schaffen soll. Diese Initiative zielt darauf ab, die Interoperabilität und Transparenz in der KI‑Entwicklung zu erhöhen und gleichzeitig die Sicherheit und Kontrolle über autonome Systeme zu verbessern.

Autonome Large‑Language‑Model‑Agenten sind zunehmend anfällig für Indirect Prompt Injection (IPI) – Angriffe, die über manipulierte externe Informationsquellen die Agentensteuerung übernehmen. Durch das Ausnutzen von Sicherheits‑Funktionskompromissen führen solche Angriffe zu unerlaubten Tool‑Aufrufen und ablenken die Agenten von ihren ursprünglichen Zielen.

Das AgentCore Gateway unterstützt jetzt die direkte Integration mit dem API Gateway. Diese neue Funktion erleichtert die Verbindung von KI-Agenten mit Unternehmensdaten, indem sie sichere und regelkonforme Kontextübermittlung an große Sprachmodelle (LLMs) ermöglicht.

Schon lange bevor der KI-Agenten‑Trend die Branche ergriff, hatte Booking.com mit einem eigenen, konversationellen Empfehlungssystem den Grundstein gelegt. Diese frühe Erfahrung ermöglicht es dem Unternehmen, sich bewusst von der hektischen Hype‑Welle abzuwenden und stattdessen einen strukturierten, mehrschichtigen Ansatz zu verfolgen.

Die Idee, dass KI‑Agenten Code automatisch schreiben und sofort in Produktionsumgebungen einsetzen können, klingt verlockend. In Wahrheit bleibt die eigentliche Herausforderung weit komplexer: Es geht darum, qualitativ hochwertigen, unternehmensgerechten Code zuverlässig zu erkennen, zu verfeinern und nahtlos in bestehende Systeme zu integrieren.

Das Testen von KI-Agenten, damit sie wie erwartet funktionieren, ist keine leichte Aufgabe. Wir haben dabei einige wertvolle Erkenntnisse gesammelt, die wir gerne mit euch teilen.

In nur sechs Monaten hat die KI-Plattform Claude Code einen Umsatz von einer Milliarde US-Dollar erzielt. Dieses Ergebnis verdeutlicht, wie leistungsstark KI-gestützte Entwicklung in der Praxis sein kann.

Ein neues Preprint auf arXiv (2512.04822v1) präsentiert einen kollaborativen Ansatz, bei dem Menschen und KI gemeinsam eine überprüfbare semantische Schicht für Agenten-KI entwickeln. Dabei schlagen die KI-Agenten zunächst Kandidaten für Wissensstrukturen aus unterschiedlichen Datenquellen vor, die anschließend von Fachexperten validiert, korrigiert und erweitert werden.

KI‑Agenten werden zunehmend zu zentralen Bausteinen moderner Softwarearchitekturen. Sie ermöglichen eigenständige Entscheidungen, dynamische Aufgabenverteilung und multimodale Interaktionen über große Sprachmodelle. Gleichzeitig eröffnen sie neue Sicherheitsrisiken, die klassische Bedrohungsmodelle nicht abdecken – von Prompt‑Injection und Kontext‑Poisoning bis hin zu unklarer Agent‑zu‑Agent-Kommunikation.

Wissenschaftler haben ein neues, einheitliches mathematisches und probabilistisches Rahmenwerk vorgestellt, das die Analyse und den Vergleich verschiedener KI-Agentenstrategien erleichtert. Das Modell verbindet abstrakte Designkonzepte wie ReAct, Multi-Agent-Systeme und Kontrollflüsse mit einer rigorosen mathematischen Formulierung.