KI News: Kurz und klar.

Wissenschaftler aus dem Bereich der neurowissenschaftlich inspirierten Lernalgorithmen haben einen wichtigen Durchbruch erzielt: Durch ein gezieltes Initialisieren der Neuronen in Predictive Coding Netzwerken lassen sich die bislang hohen Rechenkosten drastisch senken. Das neue Verfahren nutzt die bereits erzielten Fortschritte aus vorherigen Trainingsschritten und überträgt sie auf die aktuelle Iteration.

Ein neues Forschungsprojekt aus dem arXiv-Repository präsentiert Symmetry-Loss, einen algorithmischen Ansatz, der die Prinzipien des Gehirns nutzt, um Invarianten und Equivarianten in künstlichen Lernsystemen zu erzwingen. Durch eine differenzierbare Einschränkung, die aus den Symmetrien der Umwelt abgeleitet wird, wird das Lernen als schrittweise Verfeinerung einer effektiven Symmetriegruppe modelliert – ein Prozess, der stark an die Entwicklungskonzepte erinnert, bei denen sich die kortikalen Repräsentationen an die Struktur der Welt anpassen.

Predictive Coding (PC) ersetzt das herkömmliche globale Backpropagation durch eine lokale Optimierung von Gewichten und Aktivierungen. In der neuen Studie wird gezeigt, dass lineare PC‑Netze sich elegant als zellulare Sheaves darstellen lassen.

Eine neue Studie untersucht, ob Predictive Coding – die maschinelle Klassifikation von Dokumenten, die in der Rechtsbranche eingesetzt wird – auch bei Instant‑Messaging‑Korpora funktioniert. Die Forscher haben ein Verfahren entwickelt, das die informelle und oft sehr kurze Natur von Chatnachrichten berücksichtigt.