AMS beruft gegen Algorithmus-Stopp durch Datenschutzbehörde

Der umstrittene AMS-Algorithmus wird weiterhin ein Thema bleiben: Das Arbeitsmarktservice (AMS) hat nämlich eine sogenannte „Bescheidbeschwerde“ gegen eine Entscheidung der Datenschutzbehörde (DSB) eingebracht, wie die futurezone auf Anfrage in Erfahrung gebracht hat.

Damit geht das AMS innerhalb der vierwöchigen Frist gegen die Entscheidung der DSB rechtlich vor. Die Datenschutzbehörde hatte Mitte August entschieden, dass das Arbeitsmarktservice (AMS) in Österreich den umstrittenen Algorithmus nicht wie geplant am 1. Jänner 2021 flächendeckend einführen darf.

Argumente der Behörde

Die Begründung: Das AMS hat laut der Behörde verabsäumt, eine Datenschutz-Folgeabschätzung durchführen zu lassen. Zudem gibt es Lücken in der Rechtslage. Außerdem, kritisierte die Behörde, gäbe es für die Betroffenen derzeit keine Möglichkeit gegen eine Entscheidung zu berufen, heißt es in dem Bescheid.

Mit der Bescheidbeschwerde geht es jetzt in einen Rechtsstreit zwischen AMS und Behörde um den umstrittenen Algorithmus. Das AMS-System hätte Arbeitslose per Computer in insgesamt 3 Gruppen eingeteilt und damit darüber entschieden, wie viel Fördergelder für eine betroffene Person eingesetzt werden. Für eine derartige Entscheidung herangezogen worden wären Kriterien wie Wohnort, Geschlecht, Betreuungspflichten oder Herkunft.

Streitpunkt automatisierte Entscheidung

Sachbearbeiter hätten zwar laut dem AMS offiziell die Letztentscheidung darüber gehabt, doch die Datenschutzbehörde geht in seiner Entscheidung von einer „routinemäßigen Übernahme“ der Computerergebnisse aus. „In manchen Gebieten Österreichs beträgt die Beratungszeit bloß 10 Minuten. Weiters ist aufgrund der Ausnahmesituation rund um COVID-19 davon auszugehen, dass sich Berater vermehrt auf die automatisiert erstellten Ergebnisse verlassen“, heißt es seitens der Datenschutzbehörde.

Die DSB geht damit davon aus, dass es sich bei dem Arbeitsmarktchancen-Modell um eine automatisierte Entscheidung handelt - und da gibt es für Betroffene laut EU-Datenschutzgrundverordnung (DSGVO) ganz andere Rechte.

Diesen Punkt will das AMS nun ausjudizieren, womit das Verfahren zu einer spannenden Vorlage für sämtliche algorithmenbasierten Entscheidungen in ganz Europa werden könnte. Sachbearbeiter des AMS müssten nämlich eine Entscheidung anhand des Computersystems treffen, ohne zu wissen, wie genau diese Werte eigentlich berechnet worden sind. Dies ist nun nicht nur für Wissenschaftler, sondern auch für Datenschutzjuristen ein interessanter Punkt, der rechtlich zu klären sein wird.

Vorerst nicht mehr in Verwendung

Mit dem Algorithmus geht es laut AMS vorerst während des Gerichtsverfahrens nicht weiter. „Der Algorithmus wird im AMS nicht mehr verwendet, d.h. konkret, dass systemgenerierte Informationen zu den Arbeitsmarktchancen der Kunden nicht mehr möglich sein werden“, so das AMS auf Anfrage der futurezone.

Hier geht es zu der futurezone-Serie:
Teil 1: Der AMS-Algorithmus ist ein „Paradebeispiel für Diskriminierung“
Teil 2: Warum Menschen Entscheidungen von Computerprogrammen nur selten widersprechen
Teil 3: Wie ihr euch gegen den AMS-Algorithmus wehren könnt
Teil 4: Wo Algorithmen bereits versagt haben
Interview: AMS-Chef: "Mitarbeiter schätzen Jobchancen pessimistischer ein als der Algorithmus"
Umstrittener AMS-Algorithmus teilt Arbeitslose ab sofort in Kategorien ein