KI News: Kurz und klar.

Spekulatives Decoding hat sich als wirkungsvolle Technik etabliert, um die Latenz und die Kosten von LLM‑Inference zu senken. Trotz dieser Fortschritte wurde die Energieeffizienz dieser Modelle bislang zu wenig untersucht.

In einer neuen Studie zum Ontologie-Lernen mit großen Sprachmodellen (LLMs) wurde ein umfassender Benchmark namens OntoAxiom entwickelt. Der Test umfasst neun mittelgroße Ontologien, die insgesamt 17.118 Tripel und 2.771 Axiome enthalten. Die Untersuchung konzentriert sich auf fünf zentrale Axiomtypen: Subclass, Disjoint, Subproperty, Domain und Range.

Eine neue Untersuchung aus dem arXiv-Repository hat gezeigt, dass die Größe von Sprachmodellen entscheidend dafür ist, wie stark sie in Mehragentensystemen angreifen können. In einer Reihe von über 6.000 simulierten Interaktionen zwischen Angreifer- und Zielmodellen – von 0,6 B bis 120 B Parametern – wurden standardisierte Jailbreak-Aufgaben aus JailbreakBench eingesetzt, um die Schwachstellen von LLMs zu testen.

In einer neuen Veröffentlichung auf arXiv wird das Konzept der Virtual Width Networks (VWN) vorgestellt, das es ermöglicht, die Vorteile breiter Repräsentationen zu nutzen, ohne die quadratischen Kosten zu erhöhen, die mit einer größeren versteckten Schicht einhergehen. VWN trennt die Breite der Repräsentation von der Breite des Backbones, sodass der Einbettungsraum erweitert werden kann, während die Rechenleistung des Backbones nahezu konstant bleibt.

In einem kürzlich veröffentlichten Beitrag auf Towards Data Science wird untersucht, wie man bei begrenztem Budget die optimale Kombination aus Modellgröße und Datensatzumfang für große Sprachmodelle (LLMs) auswählt. Der Fokus liegt dabei auf einer kleinen, aber aussagekräftigen Studie, die Tiny Transformers als Testplattform nutzt.

In einer neuen Studie von arXiv (2509.09867v1) wird untersucht, ob große Sprachmodelle (LLMs) nicht nur Fragen beantworten, sondern aktiv als Mitspieler in einem Mehrspieler‑Kartenspiel agieren können. Dabei geht es darum, ob ein LLM einem menschlichen Gegner dabei hilft, das Spiel zu gewinnen, anstatt selbst zu gewinnen.

Eine neue Studie aus dem Labor von ArXiv hat gezeigt, dass selbstüberwachte Vision‑Transformer, die mit unterschiedlichen Modellgrößen, Trainingslängen und Bildtypen trainiert wurden, zunehmend neuronale Muster entwickeln, die denen des menschlichen Gehirns ähneln. Durch den Einsatz von DINOv3‑Modellen konnte die Forschung die Einflüsse dieser drei Faktoren systematisch voneinander trennen.