Neue Methode ermöglicht unbegrenzte Textlänge für Sprachmodelle
Sprachmodelle wie GPT haben die Verarbeitung natürlicher Sprache revolutioniert, doch ihre Fähigkeit, lange Texte zu verstehen, ist durch die Größe des Kontextfensters begrenzt. Traditionelle Ansätze zur Längenextrapolation leiden häufig unter Leistungseinbußen oder hohen Rechenkosten.