Was KI bei Videoüberwachung heute schon kann

Zwei Männer gehen aufeinander los, es fliegen die Fäuste. Kurze Zeit später ist die Polizei zu Stelle, alarmiert wurde sie von der Überwachungskamera, die oberhalb des Platzes installiert wurde. Eine Künstliche Intelligenz (KI) erkannte automatisch die Situation und alarmierte die Beamten. Diese mussten nur noch die Aufnahme ansehen und sicherstellen, dass es sich wirklich um eine Schlägerei handelt.

Das Szenario ist heutzutage technisch bereits möglich. KI kann bereits visuelle Muster erkennen, sie mit anderen Informationen verknüpfen und eigenständig reagieren. Voraussetzung dafür ist eine umfassende Kameraüberwachung, wie sie kürzlich vom Innenministerium beschlossen wurde. Seit dieser Woche ist es für die Polizei möglich, den öffentlichen Raum mit Kameras zu überwachen, wenn aufgrund einer Lageeinschätzung gefährliche Angriffe oder kriminelle Strukturen drohen. „Unser Ziel ist die Prävention von Straftaten“, wird Innenminister Gerhard Karner in einer Aussendung zitiert.

Die Maßnahme ruft auch Kritikerinnen und Kritiker auf den Plan. Die Datenschutz-NGO epicenter.works sieht etwa einen „massiven Angriff auf die Grundrechte“ und fordert bei Videoüberwachung im öffentlichen Raum eine „Verhältnismäßigkeitsprüfung in jedem Einzelfall statt eines Befehls des Innenministers zur Ausweitung“. Die NGO verweist hier auch auf die zunehmenden Möglichkeiten durch KI, auch im Hinblick auf Gesichtserkennung. 

➤ Mehr lesen: Innenminister Karner ermöglicht mehr Video-Überwachung

"Rasante Weiterentwicklung"

KI-Systeme, die vor einigen Jahren noch sehr fehleranfällig waren, wurden stetig verbessert. „Die Technologie hat sich die vergangenen Jahre rasant weiterentwickelt“, sagt Bernhard Moser vom Software Competence Center Hagenberg und Präsident der Österreichischen Gesellschaft für Künstliche Intelligenz sowie Mitglied im KI-Beirat der Österreichischen Bundesregierung.

Objekterkennung ist für KI mittlerweile kein Problem mehr, selbst handelsübliche Überwachungskameras können zwischen Menschen, Tieren und Autos unterscheiden. KI-basierte Kameraüberwachungssysteme können auch Feuer und Rauch erkennen und einen Alarm an die Feuerwehr weiterleiten. Auch die automatische Kennzeichenerkennung auf Autobahnen – etwa zur Vignettenkontrolle – basiert teilweise auf KI.

Schwieriger wird es, wenn die KI Handlungsmuster erkennen soll, bzw. die Abweichung davon. Das Programm weiß: Menschen gehen z.B. auf dem Gehsteig und manchmal auf der Straße. Autos fahren normalerweise auf der Straße. Klettert ein Mensch eine Mauer hoch oder fährt ein Auto auf dem Gehsteig, kann das Programm ebenfalls zuverlässig Alarm schlagen.

➤ Mehr lesen: Zehntausende Überwachungskameras streamen ungeschützt ins Netz

Mittlerweile ist die KI bereits so weit, um Intentionen zu erkennen. „Künstliche Intelligenz hat generell immer etwas mit Unsicherheit zu tun. Sie kann aber einigermaßen vorhersagen, welche Szenarien mit welcher Wahrscheinlichkeit eintreten werden“, sagt Moser. „Das machen wir Menschen auch, wir wägen ständig irgendwelche Risiken ab.“

Ki muss trainiert werden

Um eine Situation einordnen zu können, muss eine KI aber daraufhin trainiert werden. Das Programm weiß nämlich nicht, wie die typischen Bewegungsabläufe einer Schlägerei aussehen und wie sie sich etwa von einem Walzer unterscheiden. „Diese Trainingsdaten muss man aber nicht immer aufnehmen, sondern man kann sie auch am Computer simulieren“, sagt Moser. Somit können gezielt bestimmte Aktionen erkannt werden. Das Training durch Simulationen ist auch schneller als das klassische Training durch voraufgezeichnetes Material.

An einer solch intelligenten Video-Überwachung arbeitet beispielsweise auch das deutsche Fraunhofer-Institut und die Polizei Mannheim. 2018 startete man ein gemeinsames Projekt, das Gewalt im öffentlichen Raum verringern sollte. Eine KI soll dabei entsprechendes Verhalten erkennen, indem die Position des Körpers und der Gliedmaßen bestimmt wird. Das auf 5 Jahre ausgelegte Projekt wurde 2023 um weitere 4 Jahre verlängert, um die Software zu einem marktreifen Produkt weiterzuentwickeln.

KI ist nicht fehlerfrei

Trotz all der technischen Fortschritte ist Künstliche Intelligenz aber weiterhin keinesfalls fehlerfrei. Laut dem Unternehmen Axis Communications, einem weltweiten Branchenführer im Bereich der Videoüberwachung, liegt die Trefferquote je nach Bedingungen zwischen 85 und 95 Prozent. Das mag hoch klingen, an belebten Plätzen führt das allerdings zu Hunderten Fehlern pro Tag. Es ist daher immer noch nötig, dass sich ein Mensch die Aufnahmen ansieht, um die Situation zu beurteilen. 

➤ Mehr lesen: Wie sicher sind vernetzte Überwachungskameras?

Wie bei anderen KI-Modellen sind auch Videoanalyseprogramme anfällig für einen sogenannten Bias, also eine gewisse Voreingenommenheit, die sich aus den Trainingsdaten ergibt. Finden sich in den Daten z.B. nur Männer, die sich prügeln, werden solche auch beim Einsatz in der realen Welt eher als gewalttätig eingestuft – und vielleicht auch Alarm geschlagen, wenn es sich nur um eine freundschaftliche Umarmung handelt.  „Es besteht die Gefahr, dass KI existierende Vorurteile übernimmt und verstärkt. Es gibt Metriken, mit denen man einen solchen Bias erfassen und vermeiden kann“, sagt Moser. „Aber ausschließen kann man das nie.“

Überwachungsdruck im öffentlichen Raum

Technisch ist in Sachen KI-basierte Videoüberwachung bereits einiges möglich, in asiatischen Ländern wie China, aber auch in den USA und Teilen Europas wird sie bereits eingesetzt. Experten und Datenschützer warnen allerdings davor, dass durch die Überwachung Proteste gegen Autokraten unterdrückt werden können, bevor sie überhaupt entstehen. Weniger Menschen würden gegen Regierungen demonstrieren, wenn KI-Überwachung im öffentlichen Raum eingesetzt wird. Zudem wird befürchtet, dass dadurch „marginalisierte Gruppen wie Obdachlose“ unter Druck gesetzt werden.