Karpathy's Wochenend-Hack: LLM Council skizziert fehlende AI-Orchestrierung
Am vergangenen Wochenende hat Andrej Karpathy, der ehemalige Leiter der KI-Abteilung bei Tesla und Mitbegründer von OpenAI, ein kleines, aber aufschlussreiches Projekt gestartet: den „LLM Council“. In einem GitHub-Repository veröffentlichte er das Ergebnis, das er als „Vibe Code“ bezeichnete – ein Stück Software, das größtenteils von KI-Assistenten geschrieben wurde und vor allem zum Spaß gedacht war. Trotz des beiläufigen Warnhinweises, dass er keine Unterstützung bieten werde, liefert das Projekt einen klaren Blick auf ein bislang wenig beleuchtetes Thema im Unternehmensbereich.
Der LLM Council ist mehr als nur ein Spiel. In wenigen hundert Zeilen Python und JavaScript skizziert Karpathy eine Referenzarchitektur für die entscheidende, bislang fehlende Schicht der modernen Softwarelandschaft: die Orchestrierungs-Middleware, die Unternehmensanwendungen mit dem ständig wechselnden Markt an KI-Modellen verbindet. Für Entscheider, die 2026 ihre Plattforminvestitionen festlegen, zeigt das Repository die Realität des „Build‑vs‑Buy“-Dilemmas in der KI-Infrastruktur auf.
Was besonders auffällt, ist die Einfachheit der Logik zum Routen und Aggregieren von KI-Modellen – ein Konzept, das überraschend unkompliziert ist. Die wahre Komplexität liegt jedoch in dem operativen Wrapper, der diese Modelle für den Einsatz in Unternehmen robust, skalierbar und sicher macht. Der LLM Council demonstriert, dass hier ein klarer, strukturierter Ansatz fehlt, der die Brücke zwischen Technologie und Geschäftsanforderungen schlägt.
Wie funktioniert der LLM Council? Vier KI-Modelle treten in einem simulierten Debattenformat gegeneinander an, kritisieren sich gegenseitig und arbeiten unter der Führung eines „Chairman“ zusammen, um schließlich eine konsolidierte Antwort zu liefern. Dieses spielerische Szenario verdeutlicht, wie KI-Systeme in einer orchestrierten Umgebung zusammenarbeiten können und liefert gleichzeitig wertvolle Einblicke für die Praxis der Unternehmens-IT.