LLM-Hypothesen‑Suche erreicht menschenähnliche Leistung bei Few‑Shot‑Regeln

In einer neuen Studie auf arXiv wird gezeigt, dass große Sprachmodelle (LLMs) bei der Induktion von Regeln aus wenigen Beispielen fast die gleiche Qualität liefern wie Menschen. Der Ansatz basiert auf einer Hypothesen‑Suche, bei der das Modell mögliche Regelvorschläge generiert und prüft, anstatt direkt ein Programm zu schreiben.

Im Vergleich dazu schneiden reine Programmgenerierungs‑Methoden deutlich schlechter ab. Die Autoren erklären, dass die direkte Codierung von Regeln oft zu Fehlern führt, weil das Modell die komplexen Zusammenhänge nicht sofort erkennt. Durch die iterative Suche nach Hypothesen kann das LLM jedoch systematisch bessere Vorschläge finden.

Eine detaillierte Fehleranalyse hebt die wichtigsten Engpässe in der Hypothesen‑Generierung hervor und liefert konkrete Ideen, wie die Programminzuktion verbessert werden kann. Die Ergebnisse unterstreichen das enorme Potenzial von LLM‑basierten Suchstrategien für die Modellierung von induktivem Denken und zeigen gleichzeitig die Herausforderungen auf, die noch zu überwinden sind, um effizientere Systeme zu entwickeln.