Selbstdistillation steigert Protein-Design: Schnellere Feinabstimmung von PLMs

In einem bahnbrechenden Beitrag aus dem Bereich der Proteinbiotechnologie zeigen Forscher, wie die Selbstdistillation von Protein-Sprachmodellen (PLMs) die Vielseitigkeit im Protein-Design deutlich erhöht. Durch eine neuartige, schnelle Feinabstimmung (SFT) lassen sich die Modelle nicht nur präziser an spezifische Aufgaben anpassen, sondern auch stabilere und funktionellere Enzyme generieren.

Traditionell ist die Feinabstimmung von Sprachmodellen ein Standardverfahren, doch bei Proteinen stößt man schnell an die Grenze fehlender, hochwertiger Annotationsdaten. Die neue Methode umgeht dieses Problem, indem sie das PLM selbst nutzt, um Trainingsdaten zu erzeugen. Ein leichtgewichtiges Kurationspipeline kombiniert mit domänenspezifischen Filtern sorgt dafür, dass nur die besten Sequenzvorschläge für die weitere Analyse ausgewählt werden.

Die Filter können die Ausgabe des Modells eigenständig verfeinern und gleichzeitig Kandidaten für die In‑Vitro‑Bewertung identifizieren. In Kombination mit der Feinabstimmung führt dies zu einer signifikanten Steigerung der Stabilität und Funktionalität der erzeugten Enzyme und eröffnet gleichzeitig neue Pfade im Proteinsequenzraum, die über natürliche Varianten hinausgehen.

Die Autoren demonstrieren die Wirksamkeit ihres Ansatzes mit dem groß angelegten PLM GenSLM, das auf die Familie der Tryptophansynthase-Enzyme angewendet wurde. Das feinabgestimmte Modell liefert Sequenzen, die nicht nur neuartig sind, sondern auch verbesserte Eigenschaften in Bezug auf gezielte Designkriterien und emergente Proteinmerkmale aufweisen.

Der Ansatz ist modell- und systemunabhängig, was ihn zu einem vielseitigen Werkzeug für die Proteinengineering-Forschung macht. Durch die Kombination von Selbstdistillation und gezielter Feinabstimmung eröffnet sich ein neues Kapitel in der rationalen Gestaltung von Proteinen, das sowohl die Forschung als auch die industrielle Anwendung voranbringen kann.