KI News: Kurz und klar.

Unlearning in großen Sprachmodellen ist entscheidend, um regulatorische Vorgaben zu erfüllen und ethische KI-Systeme zu bauen, die keine privaten, toxischen, illegalen oder urheberrechtlich geschützten Inhalte erzeugen.

Große Sprachmodelle (LLMs) erreichen inzwischen nahezu menschliche Leistungen in einer Vielzahl von Denkaufgaben, doch ihre Nutzung auf ressourcenbeschränkten Internet-of-Things-Geräten bleibt bislang unrealistisch. Der Hauptgrund dafür ist der enorme Parameterumfang und der speicherintensive, autoregressive Decodierungsprozess, bei dem Tokens nacheinander generiert werden und ein wachsender Key‑Value‑Cache entsteht.

Vorstände in Unternehmen fordern zunehmend Produktivitätssteigerungen durch große Sprachmodelle und KI‑Assistenten. Doch die gleichen Funktionen, die KI so nützlich machen – Live‑Webbrowser, Kontextspeicherung und die Verbindung zu Unternehmensanwendungen – erweitern gleichzeitig die Angriffsfläche. Tenable-Forscher haben eine Reihe von Schwachstellen und Angriffen unter dem Titel „HackedGPT“ veröffentlicht, die zeigen, wie leicht diese neuen Möglichkeiten ausgenutzt werden können.

Ein neues Papier auf arXiv beleuchtet die bislang wenig verstandene Funktionsweise des Contrast‑Consistent Search (CCS), einer unüberwachten Methode zur Untersuchung, ob große Sprachmodelle binäre Merkmale – etwa die Wahrheit einer Aussage – in ihren internen Aktivierungen repräsentieren.

Eine neue Studie aus dem arXiv-Repository präsentiert ein innovatives ethisches Entscheidungsparadigma, das darauf abzielt, große Sprachmodelle (LLMs) besser an die vielfältigen und sich wandelnden menschlichen Werte in unterschiedlichen Regionen und Kulturen anzupassen. Der Ansatz geht über oberflächliche Konformität hinaus und fördert ein echtes ethisches Verständnis, indem er die komplexe, kontextabhängige Natur menschlicher Werte berücksichtigt.

In jüngster Zeit haben Fortschritte im Bereich der großen Sprachmodelle (LLMs) – insbesondere durch Verstärkungslernen mit verifizierbaren Belohnungen (RLVR) – die Idee des Selbstspiels nach dem Training befeuert. Dabei verbessern sich Modelle, indem sie eigene Aufgaben generieren und lösen. Obwohl Selbstspiel bereits deutliche Verbesserungen sowohl im eigenen Fachgebiet als auch außerhalb gezeigt hat, sind die zugrunde liegenden Mechanismen noch nicht vollständig verstanden.

Shuai Guo erläutert, wie tiefgreifende Forschungsagenten die Forschung revolutionieren, indem sie analytische KI mit großen Sprachmodellen kombinieren. Er betont, dass systemisches Denken entscheidend ist, um die komplexen Zusammenhänge dieser Technologien zu verstehen und die Gesamtperspektive zu behalten. Das Interview wurde erstmals auf der Plattform Towards Data Science veröffentlicht.

Dieses Jahr hat das STOC-Programm ein spannendes Experiment ins Leben gerufen, um den Einsatz von Large Language Models in der theoretischen Informatik zu erforschen. Dabei geht es darum, die Community aktiv einzubinden und neue Wege des Peer‑Review-Prozesses zu erkunden.

In einer aktuellen Untersuchung wurde festgestellt, dass etwa ein Fünftel der Antworten, die von populären Chatbots generiert werden, gefälschte Sichtweisen aus Moskows „Tier‑Medien“ enthält. Diese Bots, die auf großen Sprachmodellen basieren, verweisen in bis zu einem Viertel ihrer Antworten zum Ukraine‑Krieg auf Quellen, die von der russischen Regierung propagiert werden.

Hier finden Sie zehn prägnante Fragen, die Sie im Vorstellungsgespräch nutzen können, um das Verständnis eines KI-Ingenieurs für agentische Systeme, die auf großen Sprachmodellen, unterstützenden Tools und autonomen Arbeitsabläufen basieren, zu prüfen.

Ein brandneues Simulationsframework nutzt große Sprachmodelle, um Konsumentscheidungen und soziale Dynamiken ohne vorgegebene Regeln zu modellieren. Durch generative Agenten, die interne Überlegungen ausdrücken, Gewohnheiten bilden und Kaufentscheidungen treffen, wird die Komplexität menschlichen Verhaltens in Echtzeit erfasst.

In einem aktuellen Beitrag auf Towards Data Science wird gezeigt, wie Prompt Engineering die Analyse von Zeitreihen mit großen Sprachmodellen (LLMs) neu gestaltet. Der Artikel legt dar, welche Kernstrategien bei der Prompt-Erstellung entscheidend sind, um präzise Vorhersagen, Trendanalysen und Anomalieerkennung zu ermöglichen.

Ein neues Forschungsprojekt namens HardcoreLogic stellt große Sprachmodelle (LRMs) vor eine anspruchsvolle Herausforderung: 5.000 Logikrätsel aus zehn verschiedenen Spielen, die systematisch komplexer, ungewöhnlicher und teilweise unlösbar gemacht wurden. Ziel ist es, die Fähigkeit der Modelle zu testen, Regeln flexibel anzuwenden, anstatt sich auf bekannte Muster zu verlassen.

Eine neue Analyse aus dem arXiv-Repository beleuchtet, wie künstliche Intelligenz mit begrenzten Datenmengen umgehen kann. Der Fokus liegt auf der Reduktion von Kosten für Datenannotation und Modelltraining, während gleichzeitig robuste Generalisierung angestrebt wird.

Ein neues arXiv-Studium beleuchtet die Architektur und Implementierung von Agenten, die auf großen Sprachmodellen (LLMs) basieren. Angesichts der Grenzen herkömmlicher LLMs bei realen Aufgaben zielt die Forschung darauf ab, Muster zu identifizieren, die „agentische“ LLMs ermöglichen, komplexe Aufgaben zu automatisieren und die Leistungslücke zu menschlichen Fähigkeiten zu schließen.

In einer spannenden Rückschau beleuchtet die neue Studie die Entwicklung von künstlich intelligenten Agenten in den Sozial- und Verhaltenswissenschaften. Von den ersten programmierbaren Computern über frühe soziale Simulationen bis hin zu heutigen Experimenten mit großen Sprachmodellen wird die technologische Evolution klar nachvollzogen.

Unbemannte Luftfahrzeuge (UAVs) werden zunehmend eingesetzt, um in Katastrophenfällen wie Tsunamis schnell Sensordaten zu sammeln. Dabei ist die rechtzeitige Erfassung entscheidend, um Küstenschäden zu begrenzen.

Ein neues Tool namens Lang‑PINN nutzt große Sprachmodelle, um physikinformierte neuronale Netzwerke (PINNs) direkt aus einfachen Textbeschreibungen zu erstellen. Durch die Kombination vier spezialisierter Agenten – PDE, PINN, Code und Feedback – wird der gesamte Prozess von der Problemformulierung bis zur Ausführung automatisiert.

In einem neuen Open-Source-Resource-Paper stellen die Autoren zwei umfangreiche Datensätze vor, die reale GPS-Tracks aus Paris und New York mit einer Vielzahl semantischer Zusatzinformationen anreichern. Neben den Rohdaten enthalten die Sets Kontextschichten wie Haltepunkte, Bewegungen, Points of Interest, geschätzte Verkehrsmittel und Wetterbedingungen.

Eine aktuelle Veröffentlichung auf arXiv (2509.21545v1) präsentiert eine innovative Methode, um die Metakognitionsfähigkeiten von großen Sprachmodellen (LLMs) quantitativ zu prüfen. Statt auf Selbstberichte der Modelle zu setzen, untersucht die Studie, wie gut LLMs ihr internes Wissen strategisch einsetzen können.

Samsung Research hat ein neues Benchmark-System namens TRUEBench vorgestellt, das die Grenzen herkömmlicher Tests überwindet und die tatsächliche Produktivität von KI-Modellen in Unternehmensumgebungen genauer erfasst.

Große Sprachmodelle (LLMs) haben in den letzten Jahren enorme Fortschritte in der Sprachverarbeitung, im logischen Denken und in der autonomen Entscheidungsfindung erzielt. Gleichzeitig eröffnen sie jedoch neue Gefahren für den Datenschutz, die weit über die bekannten Risiken während des Trainings hinausgehen.

Web‑Agenten, die auf großen Sprachmodellen basieren, sind in der Lage, komplexe, mehrstufige Aufgaben in dynamischen Webumgebungen selbstständig zu erledigen. In bisherigen Studien liegt der Fokus jedoch fast ausschließlich auf dem Gesamterfolg, während Zwischenfehler kaum berücksichtigt werden. Dadurch bleiben wichtige Fehlerursachen unentdeckt und die systematische Verbesserung der Agenten wird erschwert.

Die chinesische KI-Firma DeepSeek hat mit ihrem Sprachmodell DeepSeek‑R1 einen bedeutenden Fortschritt erzielt: Durch ein trial‑and‑error‑basiertes Verstärkungslernen konnte die Maschine ihre Fähigkeit zur logischen Argumentation deutlich steigern.