KI-Assistenz für Ärzte lässt sich leicht manipulieren – verschreibt falsche Medikamente
Ein KI-System, das Ärzten bei der Verschreibung von Medikamenten hilft, kann laut Sicherheitsexperten leicht manipuliert werden.
Die Untersuchungen zeigen, dass das System durch gezielte Eingaben dazu gebracht werden kann, falsche medizinische Informationen zu verbreiten, die Dosierung von Medikamenten zu erhöhen und sogar ungeeignete Therapien vorzuschlagen.
Solche Schwachstellen stellen ein erhebliches Risiko für die Patientensicherheit dar und könnten zu Fehlbehandlungen sowie unnötigen Kosten im Gesundheitswesen führen.
Um die Risiken zu minimieren, fordern Experten die Einführung strenger Kontrollen, regelmäßiger Audits und transparenter Entscheidungsprozesse in KI‑gestützten Verschreibungssystemen.
Die Ergebnisse unterstreichen die Notwendigkeit, KI in der Medizin sicher und verantwortungsbewusst zu gestalten, damit sie Patienten wirklich zugutekommt.