Mensch-AI-Teams im Wandel: Agentische Systeme und Unsicherheit

Die rasante Entwicklung künstlicher Intelligenz führt zu einer strukturellen Transformation, bei der agentische Systeme – autonome Agenten mit offenen Handlungswegen, generativen Darstellungen und sich wandelnden Zielen – immer stärker in den Vordergrund rücken. Diese neuen Fähigkeiten bringen eine erhebliche strukturelle Unsicherheit in die Zusammenarbeit zwischen Mensch und KI (Human‑AI‑Teaming, HAT) mit sich. Ungewissheit entsteht nicht nur über die möglichen Verhaltenspfade der Agenten, sondern auch über deren epistemische Grundlagen und die Stabilität der über sie geltenden Logiken im Zeitverlauf.

In diesem Kontext reicht die klassische Idee, dass Alignment durch die Vereinbarung begrenzter Ausgaben erreicht werden kann, nicht mehr aus. Stattdessen muss die Abstimmung kontinuierlich gepflegt werden, während Pläne sich entfalten und Prioritäten verschieben. Um diese Herausforderung zu adressieren, erweitert die Studie die Theorie der Team‑Situationswahrnehmung (Team SA). Diese Theorie stützt sich auf gemeinsame Wahrnehmung, Verständnis und Projektion als integratives Fundament für die Zusammenarbeit und geht davon aus, dass ein einmal erreichte gemeinsames Bewusstsein koordinierte Aktionen durch iterative Aktualisierung unterstützt.

Agentische KI stellt diese Annahme jedoch in Frage. Die Autoren rekonfigurieren Team SA, um sowohl menschliches als auch KI‑Bewusstsein unter offenen Agenturen neu zu definieren und die Sinngebung von Projektion‑Kongruenz über heterogene Systeme hinweg zu beleuchten. Anschließend prüfen sie, ob die dynamischen Prozesse, die traditionell die Stabilität von Teams in relationalen Interaktionen, kognitivem Lernen sowie Koordination und Kontrolle gewährleisten, auch bei adaptiver Autonomie weiterhin funktionieren.

Durch die Unterscheidung von Kontinuität und Spannung klärt die Arbeit, wo die etablierten Erkenntnisse noch Bestand haben und wo strukturelle Unsicherheit neue Belastungen erzeugt. Abschließend skizziert sie einen zukunftsweisenden Forschungsrahmen, der die Weiterentwicklung von Mensch‑KI‑Teams in einer Welt mit zunehmend agentischen Systemen vorantreiben soll.