Neue Erkenntnisse: Wie begrenzte Aufmerksamkeit die KI-Entscheidungen limitiert
In einer brandneuen Studie auf arXiv wird ein neues Konzept namens Attention‑Constrained Inference (ACI) vorgestellt, das die Grenzen aufzeigt, die entstehen, wenn KI‑Systeme mit einer großen Menge an Daten konfrontiert werden, aber nur begrenzte Aufmerksamkeit für die Prüfung einzelner Einträge aufbringen können.
Die Autoren beschreiben ein zweistufiges Verfahren: Zunächst wird ein kostengünstiger Screening‑Schritt durchgeführt, der bis zu K Datensätze bewertet. Anschließend kann ein teurerer Verifizierungs‑Schritt nur B dieser Kandidaten genauer prüfen. Unter der Annahme eines Bayes‑Log‑Loss‑Zieles untersuchen sie, wie viel Unsicherheit in den Posterior‑Schätzungen pro Zeitfenster reduziert werden kann – ein Maß, das sie „epistemic throughput“ nennen.
Ihr Hauptresultat ist die sogenannte JaKoB‑Skalierung: Der epistemische Durchsatz besitzt einen Basisterm, der linear mit der Anzahl der Verifizierungen und der Prävalenz der relevanten Informationen wächst. Zusätzlich gibt es einen „Information‑Leverage“-Term, der mit der Wurzel aus J·K·B skaliert, wobei J die Qualität des Screenings zusammenfasst. Das bedeutet, dass ein Ausbau des kostengünstigen Screenings die Wirkung knapper Verifizierungen nicht nur linear, sondern sogar nichtlinear verstärken kann – selbst wenn informative Datensätze selten sind.
Die Autoren zeigen weiter, dass diese Skalierung im schwachen Screening‑Grenzfall optimal ist. Im sparsamen Verifizierungs‑Regime (B ≪ K) ist ein signifikanter Nutzen nur möglich, wenn die Score‑Verteilungen stark‑schwanzig sind; bei leicht‑schwanzigen Scores beschränkt sich die Verstärkung auf logarithmische Größenordnungen.