MAGNET: Autonomes Expertensystem für Sprachmodelle ohne GPUs

MAGNET (Model Autonomously Growing Network) ist ein dezentrales System, das die komplette Erstellung, das Training und die Bereitstellung von domänenspezifischen Sprachmodellen auf handelsüblichen Hardwarekomponenten ermöglicht. Durch die Kombination von vier Kernkomponenten – einer autonomen Forschungs-Pipeline, einer CPU‑basierten BitNet‑Schulung, einer effizienten, verteilten Zusammenführung von Spezialisten und einer On‑Chain-Beitragsverfolgung – kann MAGNET ohne GPUs leistungsstarke Modelle erzeugen.

Die autonome Forschungs‑Pipeline, genannt Autoresearch, automatisiert sämtliche Schritte des maschinellen Lernens: von der Datensammlung über die Hyperparameter‑Suche bis hin zur Bewertung und fehlergetriebenen Iteration. Dadurch werden neue Modelle kontinuierlich verbessert, ohne dass menschliche Eingriffe erforderlich sind.

Für das Training nutzt MAGNET BitNet b1.58, ein ternäres Verfahren, das CPU‑native Inferenz ohne GPU‑Hardware ermöglicht. Die verteilte Aggregation der Spezialisten erfolgt über DiLoCo, was die Kommunikation stark reduziert und die Skalierbarkeit erhöht. Alle Beiträge werden auf der HOOTi EVM‑Chain protokolliert, sodass Transparenz und Nachvollziehbarkeit gewährleistet sind.

Die Wirksamkeit von Autoresearch wurde in drei Fallstudien demonstriert: Die Klassifizierung von Videos zur Sicherheitstechnik erreichte eine balancierte Genauigkeit von 0,9851 (im Vergleich zu 0,9287). Bei der Vorhersage von Kryptowährungstrends stieg die Trefferquote von 41 % auf 54,9 %. Und die Hyperparameter‑Optimierung von BitNet senkte den Validierungsfehler um 16,7 % bei einem zehnstufigen Sweep.