UK-Polizei gesteht Fehlgebrauch von Copilot AI bei Fan‑Bannungen

Die britische Polizei hat endlich die Fehler eingestanden, die bei der Nutzung des KI‑Tools Copilot entstanden sind. Durch eine fehlerhafte Analyse wurden mehrere Fußballfans fälschlicherweise verbannt, was zu erheblichem Unmut in der Fan‑Community führte.

Copilot, ein KI‑System, das von der Polizei zur Unterstützung bei der Auswertung von Verhaltensdaten eingesetzt wurde, hat in diesem Fall „Halluzinationen“ erzeugt. Das bedeutet, dass die KI falsche Schlüsse aus den vorliegenden Daten gezogen hat und dadurch unbegründete Verdächtigungen aussprach.

Nach dem öffentlichen Aufschrei hat die Polizei eine interne Untersuchung eingeleitet und erklärt, dass sie künftig strengere Kontrollen und Prüfungen bei der Nutzung von KI‑Systemen einführen wird. Die Verantwortlichen betonen, dass die Sicherheit der Fans und die Integrität der Ermittlungen oberste Priorität haben.

Der Vorfall unterstreicht die Notwendigkeit, KI‑Tools mit Vorsicht und unter klaren ethischen Richtlinien einzusetzen. Die Polizei hat angekündigt, die Einsatzrichtlinien zu überarbeiten und Schulungen für ihre Mitarbeiter zu intensivieren, um ähnliche Fehler in der Zukunft zu verhindern.