Suche

Finde Modelle, Firmen und Themen

Suche im News-Archiv nach Themen, die du dauerhaft verfolgen willst.

Ergebnisse für “FAST”
Aktuell

Könnte KI bereits Menschen versehentlich töten?<br/> <p>Ein schockierender Vorfall hat die Welt erschüttert: gestern verfehlte ein Luftangriff auf ein Schulgelände im Iran fast 150 Kinder.</p> <p>Der Autor Tyler Austin Harper (The Atlantic) hat mir heute Morgen einen Thread geschickt, in dem er die Frage stellt, ob die Fehlzielen auf den Einsatz von künstlicher Intelligenz zurückzuführen sein könnte.</p> <p>Falls KI-Systeme beteiligt waren, wirft das dringende Fragen zur Verantwortung, Transparenz und Siche

Gary Marcus – Marcus on AI
Forschung

<p>Metakognitive Entropie-Kalibrierung verbessert verifizierbares RL-Reasoning</p> <p>In den letzten Jahren haben große Rechenmodelle für komplexe Aufgaben, wie Mathematik und Frage‑Antwort‑Systeme, enorme Fortschritte erzielt. Diese Modelle werden meist mit Reinforcement Learning und verifizierbaren Belohnungen (RLVR) trainiert. Dabei wird jedoch fast ausschließlich ein binäres Korrektheitssignal verwendet, während die inhärente Unsicherheit des Modells weitgehend ignoriert wird. Dieses „Uncertainty‑Reward

arXiv – cs.AI
Forschung

<h1>Indische KI-Modelle: Neuer Benchmark prüft Sicherheitsresistenz in 12 Sprachen</h1> <p>Die Sicherheit großer Sprachmodelle wird bislang fast ausschließlich in Englisch getestet – ein Ansatz, der die Schwachstellen in anderen Sprachen vernachlässigt. Mit dem neuen Benchmark <strong>Indic Jailbreak Robustness (IJR)</strong> wird das geändert. IJR bietet einen „judge‑free“ Test, der 45.216 Angriffs‑Prompts in zwölf indischen und südasiatischen Sprachen abdeckt und sowohl einen JSON‑Track mit vertraglich fe

arXiv – cs.AI