Lokale LLM‑Ensembles verbessern Zero‑Shot‑NER in Portugiesisch

In der Welt der Sprachmodelle glänzen große LLMs bei vielen Aufgaben, doch bei der Erkennung benannter Entitäten (NER) bleiben sie besonders bei weniger gut dokumentierten Sprachen wie Portugiesisch hinter den Erwartungen zurück. Obwohl Open‑Weight‑Modelle eine lokale Nutzung ermöglichen, gibt es kein einzelnes Modell, das alle NER‑Aufgaben gleichermaßen meistert. Diese Lücke motiviert die Entwicklung von Ensemble‑Ansätzen.

Der neue Ansatz präsentiert ein dreistufiges Pipeline‑Modell, das mehrere lokal einsetzbare LLMs kombiniert, um Zero‑Shot‑NER in Portugiesisch zu realisieren. Durch einen heuristischen Auswahlmechanismus werden optimale Modellkombinationen bestimmt, wobei nur minimale annotierte Daten nötig sind. Das Ergebnis: Auf vier von fünf portugiesischen NER‑Datensätzen übertrifft das Ensemble einzelne Modelle.

Besonders bemerkenswert ist, dass Ensembles, die auf unterschiedlichen Quell‑Datensätzen trainiert wurden, in Cross‑Dataset‑Konfigurationen ebenfalls bessere Leistungen erzielen. Dies deutet darauf hin, dass für neue Aufgaben möglicherweise keine zusätzlichen annotierten Daten mehr erforderlich sind. Der Ansatz demonstriert, wie mehrere kleine LLMs ohne Feinabstimmung zusammenwirken können, um skalierbare, ressourcenschonende Zero‑Shot‑NER zu ermöglichen.

Der zugehörige Code ist auf GitHub verfügbar: https://github.com/Joao-Luz/local-llm-ner-ensemble.