Ternäre Logikgatter: Polynomialbasierte Methode beschleunigt Training

In der Forschung zu differenzierbaren Logikgatternetzwerken (DLGNs) wurden bisher ausschließlich binäre Gatter mit zwei Eingängen verwendet. Diese Netzwerke lernen kompakte, interpretierbare Boolesche Schaltungen, doch die Beschränkung auf 16 mögliche Gatter limitiert ihre Ausdruckskraft. Die Erweiterung auf ternäre Kleene‑Logik, bei der ein drittes „UNKNOWN“-Zustand eingeführt wird, eröffnet die Möglichkeit, unter Unsicherheit gezielt abzulehnen – ein Feature, das in vielen Anwendungen von großem Nutzen ist.

Der Weg dorthin ist jedoch nicht trivial. Für jeden Neuron in einem ternären DLGN gibt es 19 683 potenzielle Gatter. Das herkömmliche Softmax‑über‑Gatter‑Training wird dadurch unpraktikabel, da die Parameteranzahl exponentiell wächst. Um dieses Problem zu lösen, wurde die Polynomial Surrogate Training (PST)-Methode entwickelt. Jeder ternäre Neuron wird dabei als Polynom zweiten Grades in beiden Eingängen dargestellt, was nur neun lernbare Koeffizienten erfordert – ein Reduktionsfaktor von 2 187 gegenüber der Softmax‑Variante.

Die Autoren zeigen theoretisch, dass die Differenz zwischen dem trainierten Netzwerk und seiner diskretisierten Logikschaltung durch einen datunabhängigen Commitment‑Loss begrenzt ist, der bei Konvergenz verschwindet. Praktische Experimente auf CIFAR‑10 mit Netzwerken von 48 000 bis 512 000 Neuronen demonstrieren, dass die Hardening‑Gap mit zunehmender Überparameterisierung schrumpft. Ternäre Netzwerke trainieren 2‑3‑mal schneller als binäre DLGNs und entdecken funktional vielfältige ternäre Gatter. Auf synthetischen und tabellarischen Aufgaben fungiert der UNKNOWN‑Ausgang als Bayes‑optimaler Unsicherheitsindikator, sodass selektive Vorhersagen die Genauigkeit über die binäre Variante hinaus steigern, sobald niedrige Konfidenzwerte herausgefiltert werden.

Darüber hinaus eröffnet PST einen generellen Ansatz, bei dem die Parameteranzahl nur quadratisch mit der Logik‑Valenz wächst. Damit wird die Entwicklung von differenzierbaren Logiknetzwerken mit beliebig vielen Zuständen realisierbar und verspricht neue Möglichkeiten in Bereichen wie erklärbare KI, robuste Entscheidungsfindung und adaptive Systeme.