KI News: Kurz und klar.

Die neueste Variante von ProtTeX, genannt ProtTeX-CC, löst zwei zentrale Probleme moderner Protein‑LLMs. Durch eine intelligente Kompression, die Sequenz‑ und Strukturdaten auf Residuenebene zusammenführt, wird die Eingabelänge um die Hälfte reduziert, ohne dass die Modellleistung leidet. Anschließend fasst ein selbstlernender Kompressionsmodul jede komplette Demonstration auf weniger als 16 Tokens zusammen, was zu einer Gesamtkürzung des Prompts um rund 93,7 % führt. Damit kann ProtTeX-CC in wenigen Beispielen (16‑Shot) In‑Context‑Learning durchführen, obwohl das ursprüngliche Modell nur Einzelprotein‑Inputs unterstützt. Die Anpassungen erfordern lediglich wenige zusätzliche Parameter und verändern die Kernarchitektur nicht, sodass die Methode schnell einsatzbereit ist und die Generalisierungsfähigkeit von Protein‑LLMs deutlich verbessert.

In der Welt der Multi-Agenten-Systeme, die von großen Sprachmodellen angetrieben werden, eröffnet AgentCDM einen neuen Ansatz für die kollaborative Entscheidungsfindung. Während bisherige Methoden entweder auf ein einzelnes „dictatorisches“ Agentenmodell setzen oder sich auf einfache Abstimmungsmechanismen stützen, nutzt AgentCDM die Prinzipien der Analyse konkurrierender Hypothesen aus der Kognitionswissenschaft, um systematisch kognitive Verzerrungen zu reduzieren.

In der Forschung zur Erklärung kognitiver Prozesse wird häufig auf Berechnungen über Repräsentationen verwiesen. Doch was muss ein System eigentlich erfüllen, um eine bestimmte Berechnung mit den passenden Repräsentationsvehikeln durchzuführen? Die Autoren zeigen, dass die Sprache der Kausalität – insbesondere die Theorie der kausalen Abstraktion – einen besonders wirkungsvollen Blickwinkel auf diese Frage bietet.

Supervised Fine‑Tuning (SFT) ist die gängige Methode, um große Sprachmodelle (LLMs) für neue Aufgaben zu adaptieren. Dabei werden die Modelle anhand von Experten‑Demonstrationsdatensätzen trainiert, was die Implementierung vereinfacht und schnell zu Experten‑ähnlichem Verhalten führt. Allerdings zeigen sich bei SFT‑Modellen häufig Einschränkungen in der Generalisierung, wenn sie auf unbekannte Situationen stoßen.