Google präsentiert Guardrailed‑AMIE: Mehrere Agenten sichern medizinische KI

In den letzten Jahren haben große Sprachmodelle (LLM) die Entwicklung von diagnostischen KI-Agenten vorangetrieben, die in simulierten Umgebungen klinische Gespräche führen, Differentialdiagnosen stellen und Behandlungspläne erstellen können. Trotz dieser Fortschritte bleibt die Verantwortung für konkrete Diagnosen und Therapieempfehlungen streng reguliert: Nur lizensierte Fachärzte dürfen Entscheidungen treffen, die direkt Patienten betreffen.

Traditionell wird in der Medizin eine hierarchische Aufsicht eingesetzt – ein erfahrener Arzt überprüft die Arbeit der Untergebenen. Google hat nun das System Guardrailed‑AMIE (g‑AMIE) vorgestellt, das dieses Prinzip auf die KI‑Welt überträgt. Dabei arbeiten mehrere spezialisierte Agenten zusammen, um die Qualität und Nachvollziehbarkeit der Gespräche zu sichern und gleichzeitig die Haftung auf den menschlichen Arzt zu konzentrieren.

Guardrailed‑AMIE nutzt ein Multi‑Agent‑Framework, bei dem ein „Supervisor“-Agent die Ergebnisse der diagnostischen Agenten bewertet und bei Unklarheiten einen menschlichen Experten zurate zieht. So soll die KI nicht nur effizient, sondern auch verantwortungsbewusst eingesetzt werden, ohne die gesetzlichen Vorgaben zu verletzen.

Die Einführung von Guardrailed‑AMIE markiert einen wichtigen Schritt in Richtung vertrauenswürdiger, verantwortungsvoller KI im Gesundheitswesen. Sie zeigt, wie technologische Innovationen mit regulatorischen Rahmenbedingungen in Einklang gebracht werden können, um Patienten sicher und effektiv zu betreuen.