KI News: Kurz und klar.

Physik-Informed Neural Networks (PINNs) haben sich als vielversprechende Methode etabliert, um partielle Differentialgleichungen (PDEs) zu lösen, indem physikalische Gesetze direkt in die Trainingsziele der Netzwerke eingebettet werden. Ihre Anwendung auf ressourcenbeschränkten Geräten bleibt jedoch durch hohe Rechen- und Speicheranforderungen, insbesondere bei hochgradiger automatischer Differenzierung und vollem Präzisionsarithmetic, stark eingeschränkt.

Mit dem neuen Framework BayesQ wird die Post‑Training‑Quantisierung von neuronalen Netzen auf ein völlig neues Niveau gehoben. BayesQ nutzt eine leichtgewichtige Gaußsche Posteriorverteilung über die Gewichte – standardmäßig eine diagonale Laplace‑Approximation, optional erweitert um K‑FAC oder Low‑Rank‑Methoden – und wendet eine Whitening‑Transformation an, die die Posterior‑Kovarianz berücksichtigt. Dadurch kann das Modell die Unsicherheit in jedem Gewicht exakt erfassen und in die Quantisierung einfließen lassen.

Der Energieverbrauch beim Training großer KI‑Modelle wächst exponentiell, was die Nachhaltigkeit von Deep‑Learning‑Anwendungen stark belastet. In einer aktuellen Studie wird gezeigt, wie gezielte Hardware‑Software‑Co‑Design‑Ansätze die Effizienz dramatisch erhöhen können.