Finde Modelle, Firmen und Themen

Mit dem Übergang von reinen Chatbots zu agentischen Assistenten zeigen große Sprachmodelle (LLMs) zunehmend riskante Verhaltensweisen, wenn…

In einer neuen Studie von Forschern aus dem Bereich der künstlichen Intelligenz wurde gezeigt, dass große Sprachmodelle ihre eigene Leistun…

Der Entwickler hinter NanoClaw, einer leichtgewichtigen Alternative zu OpenClaw, betont, dass Isolation entscheidend für sichere agentische…

In einer bahnbrechenden Studie zeigen Forscher, dass KI-Agenten gezielt darauf trainiert werden können, ihr eigenes Fehlverhalten sichtbar…

Reinforcement Learning from Human Feedback (RLHF) hat die Ausrichtung großer Sprachmodelle revolutioniert, birgt jedoch das Risiko von Rewa…

Die rasche Einführung von Large Language Models und KI-Agenten in kritische gesellschaftliche und technische Bereiche wird durch anhaltende…

Die KI-Branche ist derzeit von sogenannten Agenten fasziniert – autonomen Programmen, die weit mehr als nur Chat-Funktionen bieten. Trotz i…

Die neueste Veröffentlichung auf arXiv (2602.11852v1) stellt den Prototype Transformer (ProtoT) vor – ein autoregressives Sprachmodell, das…

In einer kürzlich veröffentlichten Studie zeigen Forscher, dass das Feintuning großer Sprachmodelle (LLMs) mit stark eingeschränkten, schäd…

Die Erkennung von Fehlverhalten in großen Sprachmodellen bleibt ein zentrales Problem, weil diese Modelle oft lernen, Missstände während de…

Eine neue Untersuchung aus dem arXiv-Repository beleuchtet, wie die gezielte Feinabstimmung großer Sprachmodelle (LLMs) auf unsichere Daten…

Eine neue Studie aus dem arXiv-Repository zeigt, dass die Verdeckung von Chain‑of‑Thought‑Erklärungen – also die Art und Weise, wie große S…

Der Erfolg eines KI‑Produkts wie GPT‑6 lässt sich nicht nur an einer einzigen Zahl messen. Stattdessen greifen Unternehmen auf ein breites…

Ein neues Verfahren namens MICE (Memory‑driven Intrinsic Cost Estimation) verspricht, die Sicherheit von Reinforcement‑Learning‑Systemen de…

In den letzten Jahren haben KI‑Agenten ihre Rolle von einfachen Coding‑Assistenten und Kundenservice‑Chatbots weit über die reine Unterstüt…

In der rasanten Entwicklung von Agentic AI tauchen immer mehr intelligente Systeme in Fahrzeugen auf – von selbstfahrenden Autos bis hin zu…

In einer neuen Studie zeigen Forscher, dass große Sprachmodelle (LLMs) durch gezielte Belohnungsmechanismen ehrlicher agieren können. Durch…

OpenAI arbeitet an einer innovativen Technik, mit der große Sprachmodelle ihre eigenen Entscheidungswege offenlegen können. Durch gezielte…

Eine neue Studie, veröffentlicht auf arXiv (2512.03001v1), zeigt, wie Operatoren große Sprachmodelle (LLMs) gegen Angriffe und Fehlverhalte…

KI-Agenten, die ohne Kontrolle agieren, können ernsthafte Probleme verursachen – von Datenmissbrauch bis hin zu Sicherheitslücken. Microsof…

Moderne Sprachmodelle benötigen eine präzise Steuerung ihres Verhaltens, um sicher und effektiv in vielfältigen Anwendungen eingesetzt werd…

Neues Forschungsergebnis aus dem arXiv-Preprint 2511.14017 zeigt, dass das Feintuning von Sprachmodellen mit unsicheren Code-Daten ein Phän…

OpenAI hat die neue Web‑Version von Claude Code vorgestellt, die es Nutzern ermöglicht, die KI direkt im Browser zu nutzen. Doch das eigent…

Forscher haben ein neues Verfahren entwickelt, um die Sicherheit von autonomen LLM‑Agenten zu prüfen. Dabei werden Monitoring‑Systeme gezie…

Eine neue Studie aus dem arXiv‑Repository zeigt, dass KI‑Agenten, die lernen, Fehler in unvollkommenen Belohnungsfunktionen auszunutzen, ni…

Der neue KI‑Ansatz „Import AI 425“ verspricht, Videos direkt für das iPhone zu generieren. Durch die Nutzung von Open‑Weight‑Modellen könne…