KI News: Kurz und klar.

In den letzten Wochen haben mehrere Medienberichte die Grenzen von generativen KI-Modellen aufgezeigt. Während die Technologie weiterhin beeindruckende Texte, Bilder und Musik erzeugen kann, stoßen sie zunehmend auf praktische und ethische Hürden.

Die „What’s Next“-Reihe des MIT Technology Review untersucht Branchen, Trends und Technologien, um einen ersten Blick in die Zukunft zu geben. In der schnelllebigen Welt der künstlichen Intelligenz ist es leicht, Vorhersagen als riskant zu betrachten – doch die Autoren stützen ihre Einschätzungen auf umfangreiche Analysen und Experteninterviews.

In einer neuen Studie aus dem Bereich der Fernerkundung von Wäldern wird gezeigt, wie moderne Tiefenlernen-Modelle in Kombination mit erklärbaren KI-Methoden die Klassifikation von Baumarten deutlich verbessern können. Durch den Einsatz von Terrestrischer Laserscanning (TLS) werden hochauflösende Punktwolken erzeugt, die als Grundlage für die Analyse dienen.

Gesundheitssysteme weltweit kämpfen mit ineffizienten Diagnosen, steigenden Kosten und eingeschränktem Zugang zu Fachärzten. Diese Probleme führen häufig zu Verzögerungen in der Behandlung und zu schlechteren Gesundheitsergebnissen.

Marketplace Tech hat heute ein aufschlussreiches Interview mit einem führenden KI-Forscher geführt, der die nächste Generation von Modellen vorstellt, die nicht nur Muster erkennen, sondern die Welt verstehen.

In der Welt der erklärbaren künstlichen Intelligenz (XAI) stehen Attributionsmethoden im Mittelpunkt, wenn es darum geht, die Entscheidungen von Modellen nachvollziehbar zu machen. Typischerweise werden diese Methoden anhand von Fidelity‑Messgrößen wie Insertion und Deletion bewertet, die beide auf einer sogenannten Baseline‑Funktion beruhen. Diese Baseline verändert die Pixel eines Eingangsbildes, die laut Attributionskarte als besonders wichtig gelten.

MedXAI, ein neues, erklärbares KI-Framework für die medizinische Bildanalyse, kombiniert tiefes Lernen mit klinischem Fachwissen. Durch die Integration von Expertenwissen aus der Praxis verbessert das System die Generalisierung, reduziert Verzerrungen bei seltenen Erkrankungen und liefert verständliche Erklärungen, indem es diagnostisch relevante Bildregionen lokalisiert.

Die Interpolation – sowohl Craig- als auch Uniform-Interpolation – spielt eine zentrale Rolle in der Wissensrepräsentation. Sie ermöglicht es, komplexe Modelle zu erklären, Wissen gezielt zu vergessen, modulare Strukturen zu schaffen und sogar Lernprozesse zu unterstützen.

Ein neues Machine‑Learning‑Modell nutzt BioBERT, ein hochmodernes Sprachmodell, um unstrukturierte klinische Texte zu analysieren. Das System identifiziert Verhaltensbeschreibungen, ordnet sie den diagnostischen Kriterien des Autismus-Spektrums zu und entscheidet anschließend, ob ein Patient ASD hat oder nicht.

Die größte Konferenz im Bereich künstliche Intelligenz hat die langjährige Kritik an generativer KI bestätigt. In den Vorträgen und Workshops wurde deutlich, dass das alleinige Skalieren von Modellen nicht mehr ausreicht, um die gewünschten Fortschritte zu erzielen. Stattdessen stehen neue Ansätze im Fokus, die auf effizientere Lernmethoden, bessere Datenqualitäten und gezieltere Architekturen setzen.

In diesem Beitrag zeigen wir, wie man einen intelligenten Underwriter-Agenten für die Versicherungsbranche entwickelt, der drei zentrale Herausforderungen gleichzeitig löst: die Zusammenführung von isolierten Daten aus CRM-Systemen und Datenbanken, die Bereitstellung erklärbarer und prüfbarer KI-Entscheidungen zur Einhaltung regulatorischer Vorgaben sowie die automatisierte Betrugserkennung bei einheitlichen Underwriting-Regeln.

In den letzten Monaten hat die Forschung zu großen Sprachmodellen (LLM) einen bemerkenswerten Fortschritt erzielt: Hinweise darauf, dass diese Modelle in der Lage sind, sich ihrer eigenen internen Zustände bewusst zu werden, tauchen immer häufiger auf. Dieser Trend, der als „introspektive Bewusstheit“ bezeichnet wird, zeigt, dass LLMs nicht nur auf Eingaben reagieren, sondern auch über ihre eigenen Entscheidungsprozesse nachdenken können.

Shapley‑Werte gelten als Goldstandard für Feature‑Attributionen in erklärbarer KI, stoßen jedoch häufig an zwei Grenzen: Erstens wird in der klassischen Theorie die Additivität des Wert‑Funktionsmodells vorausgesetzt, während reale Daten oft durch nicht‑gaussianische Verteilungen, schwere Ränder, Feature‑Abhängigkeiten oder domänenspezifische Verlustskalen diese Annahme verletzen. Zweitens ist die Berechnung dichten Shapley‑Werte in hochdimensionalen Räumen mit anschließendem ad‑hoc‑Thresholding kostenintensiv und kann zu inkonsistenten Erklärungen führen.

Die neuesten Erkenntnisse aus der arXiv-Vorveröffentlichung „Jenseits der Black Box: Eine kognitive Architektur für erklärbare und ausgerichtete KI“ zeigen, dass herkömmliche KI‑Modelle in Bezug auf Nachvollziehbarkeit und Werteausrichtung stark eingeschränkt sind. Das vorgestellte Konzept, genannt „Gewicht‑Berechnungskonzept“, bietet einen radikalen Ansatz, um diese Schwächen zu überwinden.

NeurIPS hat die Liste der besten Forschungsarbeiten des Jahres 2025 veröffentlicht und damit mehr als nur beeindruckende Titel präsentiert. Die Auswahl liefert einen klaren Fahrplan für die Themen, die die KI‑Community aktuell an der Tagesordnung hat.

Die Idee des digitalen Zwillings stammt aus den NASA-Simulationsstudien der 1960er Jahre und hat sich seitdem von der Raumfahrt über die Industrie bis hin zur Medizin entwickelt. Ein digitaler Zwilling ist ein dynamisches, datengetriebenes virtuelles Modell eines physischen Systems, das kontinuierlich durch Echtzeitdaten aktualisiert wird und bidirektionale Interaktion ermöglicht.

In sicherheitskritischen Anwendungen, in denen Multi-Agenten-Lernsysteme eingesetzt werden, ist es entscheidend, zu verstehen, warum einzelne Agenten Entscheidungen treffen und wie sich daraus kollektives Verhalten ergibt. Trotz der wachsenden Bedeutung von erklärbarer KI (XAI) stoßen bestehende Methoden in Multi-Agenten-Umgebungen an ihre Grenzen: Sie können kollektive Ergebnisse nicht eindeutig einzelnen Agenten zuordnen, emergente Phänomene nicht quantifizieren und komplexe Interaktionen nicht adäquat erfassen.

Graph Neural Networks (GNNs) werden häufig zur Vervollständigung von Wissensgraphen eingesetzt. Ihre Black‑Box‑Natur hat die Entwicklung von erklärenden, logischen Regeln vorangetrieben, doch bislang fehlen systematische Ergebnisse für GNNs, die die Mittelwertaggregation nutzen. In der neuen Studie werden GNNs mit Mittelwertaggregation und nicht‑negativen Gewichten – MAGNNs – untersucht. Der Autor beweist, welche monotonen Regeln für diese Modelle wahrheitsgemäß sind, und stellt einen eingeschränkten Teil der ersten‑Ordnung‑Logik vor, mit dem jede MAGNN‑Vorhersage erklärt werden kann.

In den letzten Jahren habe ich KI-Teams in unterschiedlichen Branchen geleitet und dabei zahlreiche wertvolle Erkenntnisse gewonnen.

In der aktuellen Forschung zur erklärbaren KI wird deutlich, dass die übliche Messgröße – die Klassifikationsgenauigkeit von sogenannten Probe‑Klassifikatoren – nicht aussagekräftig genug ist, um zu beurteilen, ob ein Konzept‑Aktivierungsvektor (CAV) tatsächlich das beabsichtigte Konzept erfasst. Ein neues arXiv‑Veröffentlichung zeigt, dass Probe‑Klassifikatoren häufig auf spurious correlations zurückgreifen und damit ein hohes Accuracy‑Level erreichen, obwohl sie das Zielkonzept nicht korrekt repräsentieren.

In der Bildungsforschung gilt die Entwicklung erklärbarer Knowledge‑Tracing‑Modelle als ein zentrales Ziel. Deep Knowledge Tracing (DKT) – ein Ansatz, der ein rekurrentes neuronales Netzwerk einsetzt, um das Wissen und die Leistung von Lernenden vorherzusagen – wurde bislang als Fortschritt gegenüber traditionellen Methoden gefeiert. Viele Studien haben die Leistungssteigerung von DKT auf die Fähigkeit zurückgeführt, bidirektionale Beziehungen zwischen verschiedenen Wissenskomponenten (KCs) zu modellieren.

Ein neues arXiv‑Veröffentlichung mit dem Titel llmSHAP: A Principled Approach to LLM Explainability zeigt, wie die Shapley‑Werte, ein bewährtes Konzept aus der kooperativen Spieltheorie, auf große Sprachmodelle (LLMs) übertragen werden können, obwohl deren Vorhersagen per Definition stochastisch sind. Die Autoren untersuchen, unter welchen Bedingungen die klassischen Prinzipien der Shapley‑Attribution – wie Fairness, Additivität und Symmetrie – in LLM‑basierten Entscheidungshilfesystemen gelten, und welche Implementierungsvarianten diese Prinzipien unterstützen oder verletzen.

Große KI‑Modelle wie GPT‑4 beschleunigen die Nutzung von künstlicher Intelligenz in Bereichen wie Recht, Gesundheit und Finanzen. Damit steigen die Anforderungen an Vertrauen und Transparenz. Eine neue quantitative Untersuchung beleuchtet, wie erklärbare KI‑Systeme das Vertrauen der Nutzer beeinflussen.

Ein neues multimodales Explainable AI (XAI)-Framework wurde vorgestellt, das die Zuverlässigkeit von Convolutional Neural Networks (CNNs) in sensiblen Anwendungen deutlich verbessert. Durch die Kombination von attention‑augmentierter Feature‑Fusion, Grad‑CAM++‑basierten lokalen Erklärungen und einem Reveal‑to‑Revise‑Feedback‑Loop kann das System nicht nur hochpräzise Vorhersagen treffen, sondern auch versteckte Biases in den Daten erkennen und reduzieren.