Polizei sperrt Microsoft Copilot wegen kontroverser Halluzination

West Midlands Police hat die Nutzung von Microsoft Copilot vorübergehend eingestellt, nachdem das KI-Tool eine falsche Meldung über ein nicht stattgefundenes West Ham-Spiel generiert hat. Die Halluzination sorgte für Aufsehen und verdeutlichte die Risiken, wenn KI-Systeme in polizeilichen Anwendungen eingesetzt werden.

Der Chatbot hatte fälschlicherweise ein Spiel zwischen West Ham und einem anderen Team beschrieben, das nie stattgefunden hat. Diese Fehlinformation führte zu Bedenken hinsichtlich der Zuverlässigkeit von KI-gestützten Tools und zwang die Polizeibehörde, die Nutzung von Copilot aus Sicherheitsgründen zu suspendieren.

Die Entscheidung fällt in den Kontext des jüngsten Rücktritts des vorherigen Polizeichefs, der wegen einer Empfehlung, israelische Fußballfans von einem Spiel in Birmingham auszuschließen, frühzeitig zurücktreten musste. Der amtierende Chef hat nun die Nutzung von Copilot aus Gründen der Genauigkeit und Vertrauenswürdigkeit ausgesetzt.