KI verwechselt Chipspackerl mit Waffe, Polizei legt Schüler Handschellen an

Polizisten in Baltimore umzingelten kürzlich einen Highschool-Schüler, weil ein KI-Tool eine Waffe bei ihm gesehen haben soll. Als er mit Handschellen vor den Polizisten kniete und durchsucht wurde, stellte es sich heraus, dass es sich dabei nur um eine Chipspackung der Marke Doritos handelte.

Der Vorfall ereignete sich am Montagabend vor der Kenwood Highschool in Baltimore. Der 16-jährige Taki Allen saß mit Freunden zusammen, als die Polizei sie umzingelte und Allen zwang, niederzuknien. Dann legten sie ihm Handschellen an und durchsuchten ihn.

➤ Mehr lesen: New York: Ärger über KI-basierte Waffen-Detektoren in U-Bahn

Chipspackung sah wie Waffe aus

Bei der Durchsuchung fanden sie nichts. Als sie Allen das Foto zeigten, das den Alarm ausgelöst hatte, sah er, dass er darauf eine Packung Doritos hielt. "Ich hielt sie mit beiden Händen und ein Finger war ausgestreckt - sie sagten, es sah wie eine Waffe aus", sagte Allen gegenüber lokalen Medien.

Schulen in Baltimore nutzen seit dem vergangenen Jahr ein Alarmsystem des Unternehmens Omnilert. Dieses wertet Bilder von Überwachungskameras auf dem Schulgelände mittels KI aus und schickt verdächtige Bilder an die Polizei weiter. Diese muss dann entscheiden, ob es sich wirklich um eine Waffe handelt oder nicht. 

Myriam Rogers, Schulleiterin der öffentlichen Schulen im Bezirk Baltimore County, verteidigt den Einsatz des Systems. "Das Programm hat das getan, was es tun sollte, nämlich einen Alarm auslösen, damit Menschen nachsehen konnten, ob zu diesem Zeitpunkt Anlass zur Sorge bestand", so Rogers.

Omnilert versagte bereits einmal

Omnilert war bereits im Jänner in den Nachrichten, als das System eine Waffe bei einer Schießerei in einer Highschool in Nashville nicht erkannt hatte. Dabei kam eine 16-Jährige ums Leben und eine weitere Person wurde verletzt.

Laut Omnilert lag das Problem in Nashville daran, dass sich der Schütze zu weit von den Überwachungskameras entfernt befunden hatte. Die KI konnte die Waffe daher nicht erkennen und somit auch keinen Alarm auslösen.