Panini: Kontinuierliches Lernen im Tokenraum durch strukturierten Speicher

Mit der wachsenden Nutzung von Sprachmodellen zur Beantwortung von Fragen zu neuem Material steigt der Bedarf, dass diese Modelle über Inhalte nachdenken können, die sie nicht in ihrer Trainingsphase gesehen haben. Dabei geht es um aktuelle Dokumente, sich wandelndes Wissen und individuelle Nutzerdaten.

Der gängige Ansatz Retrieval‑Augmented Generation (RAG) speichert die Dokumente in kleinen, wörtlichen Stücken und ruft bei jeder Anfrage nur einen Teil dieser Stücke ab. Das führt zu ineffizienter Rechenlast, weil das Modell immer wieder dieselben Texte verarbeitet, und kann zudem irrelevante Kontexte einbringen, die zu unbegründeten Antworten führen.

Panini verfolgt einen völlig anderen Weg: Das Grundmodell bleibt unverändert, während jedes neue Erlebnis in einen externen semantischen Speicher integriert wird. Dokumente werden als Generative Semantic Workspaces (GSW) dargestellt – ein netzwerkartiges System aus Frage‑Antwort‑Paaren, das Entitäten und Ereignisse erkennt. Das Modell kann so die erlebten Situationen rekonstruieren und neues Wissen durch logisch fundierte Inferenzketten erschließen, ohne die wörtlichen Texte erneut zu laden.

In sechs Benchmark‑Tests übertraf Panini die Konkurrenz um 5‑7 % und benötigte dabei 2‑30 mal weniger Tokens für die Antwort‑Kontext‑Berechnung. Das System ist vollständig Open‑Source, reduziert die Anzahl unbegründeter Antworten und bietet damit einen effizienten, skalierbaren Ansatz für kontinuierliches Lernen in Sprachmodellen.