KI News: Kurz und klar.

Ein neues Verfahren namens Discrete Transformer eröffnet die Möglichkeit, aus trainierten Modellen eigenständig ausführbare Programme zu generieren. Durch die gezielte Trennung von numerischer Aufmerksamkeit und elementweiser Arithmetik wird die bisherige Schwierigkeit der Superposition – bei der sich Informationen in überlappenden Richtungen vermischen – überwunden. Das Ergebnis ist ein Modell, das nicht nur die Leistung traditioneller RNN-basierter Ansätze erreicht, sondern gleichzeitig die Interpretierbarkeit in kontinuierlichen Variablenbereichen deutlich verbessert.

In einer neuen Studie auf arXiv wird gezeigt, dass große Sprachmodelle (LLMs) bei der Induktion von Regeln aus wenigen Beispielen fast die gleiche Qualität liefern wie Menschen. Der Ansatz basiert auf einer Hypothesen‑Suche, bei der das Modell mögliche Regelvorschläge generiert und prüft, anstatt direkt ein Programm zu schreiben.