SpeContext: Effiziente Langkontext-Analyse mit spekulativer Kontextdünnung
In einer wegweisenden Veröffentlichung präsentiert SpeContext ein neues Paradigma für die Verarbeitung langer Kontexte in großen Sprachmodellen (LLMs). Das Konzept nutzt ein distilliertes Sprachmodell (DLM) als Retrieva…