PolyGLU: Dynamische Aktivierungsrouten in Transformer-FFNs
Biologische Nervensysteme nutzen eine Vielfalt von Neurotransmittern – Glutamat, GABA, Dopamin und Acetylcholin – um unterschiedliche Signalverarbeitungsmodi in denselben neuronalen Schaltkreisen zu realisieren. Moderne…