AMS gibt grünes Licht für Bewertung von Arbeitslosen durch Algorithmus

Das Arbeitsmarktservice ( AMS) darf ein Computerprogramm einsetzen, um die Arbeitsmarktchancen von Arbeitslosen zu bewerten. Das hat der Verwaltungsrat am Dienstag beschlossen. Das Programm befindet sich derzeit im Testbetrieb und soll ab Mitte 2020 österreichweit in den Echtbetrieb wechseln.

Eigene Jobagentur für Chancenlose

Das System funktioniert Folgendermaßen: Das AMS zeigt seit November 2018 den Mitarbeitern per Computer die Arbeitsmarktchancen von ihren Kunden an, wenn diese bei ihnen vorstellig werden. Wer arbeitslos wird und sich beim AMS meldet, wird seither von einem Computerprogramm bewertet und eingeteilt. Im Segment A befinden sich Personen mit sehr guten Integrationschancen ohne Unterstützungsbedarf, im Segment B die Personen mit mittleren Integrationschancen, die „notwendige Unterstützung“ bekommen sollen, und im Segment C die Personen mit „geringen Integrationschancen“ in den Arbeitsmarkt.

Die Betreuung dieser Personen mit schlechter Jobperspektive soll künftig laut „Standard“ an eine externe Jobagentur ausgelagert werden, die für die Betroffenen Angebote wie „gemeinsames Bewegen und Musizieren“ oder zur „psychosozialen Stabilisierung“ schafft. Menschen, denen der Computer schlechte Perspektiven prognostiziert, bekommen damit keine teuren Ausbildungen mehr, sondern werden in ein eigenes Programm gesteckt. Auch diese "Anpassung des Dienstleistungs- und Förderangebots" wurde am Dienstag vom Verwaltungsrat beschlossen. "Dies betrifft neue Förderangebote für Personen mit niedrigen Arbeitsmarktchancen, wird aber auch zur Effizienzsteigerung der für arbeitsmarktpolitische Fördermaßnahmen eingesetzten Budgetmittel führen", bestätigt das AMS gegenüber der futurezone.

Heftige Kritik im Vorfeld

Das Vorhaben des AMS war in der Vergangenheit bereits heftig kritisiert worden, weil gewisse Bevölkerungsgruppen von vornherein diskriminiert werden. Da Frauen etwa am Jobmarkt schlechtere Arbeitsmarktchancen haben, bekommen sie vom Algorithmus automatisch einen Punkteabzug. Wenn sie zusätzlich noch Kinder zu betreuen haben, werden ihnen ebenfalls weniger Chancen zugerechnet. Für Männer mit Betreuungspflichten gilt dies jedoch nicht. Punkteabzug gibt es zudem für ausländische Staatsbürger sowie alle, die in Wien auf Jobsuche sind. Johannes Kopf sagte zu dieser Problematik im futurezone-Interview: " Nicht das System diskriminiert, sondern es gibt alleine Auskunft über die Arbeitsmarktchancen. Richtig ist, dass Diskriminierung zwar am Markt vorkommt, aber mit unseren Förderungen haben wir ja gerade die Aufgabe dieser Diskriminierung entgegen zu wirken." Kopf signalisierte die Zustimmung zum Computersystem durch den gesamten Vorstand. Man sei überzeugt, dass die technische Unterstützung der Berater dabei helfen würde, dass mehr Menschen wieder Arbeit finden würden.

Keine Details über Evaluierung

Das Computerprogramm befindet sich derzeit im Testbetrieb und eigentlich hätte das AMS das Programm nach einem Jahr evaluieren wollen. Nun wurde der Einsatz aber vorzeitig beschlossen. Laut AMS sei der Algorithmus bereits in der Entwicklungsphase evaluiert worden und "wird laufend weiterentwickelt und evaluiert". Konkrete Auskünfte, wann Ergebnisse einer derartigen Evaluierung offengelegt werden, war nicht in Erfahrung zu bringen. "Weiters ist geplant, spätestens nach einem Jahr auch die Anpassung des Dienstleistungs- und Förderangebots des AMS in Abhängigkeit von den Arbeitsmarktchancen der Arbeitsuchenden entsprechend zu evaluieren", so das AMS. Diese soll laut AMS "von einem oder mehreren unabhängigen, renomierten Forschungsinstituten durchgeführt werden".      

Digital-Expertin Ingrid Brodnig kritisierte im Gespräch mit der futurezone die „mangelnde Transparenz“. Über den Algorithmus hätte man nur aus den Medien erfahren, so die Kritik. „Ich schlage vor, dass gerade die öffentliche Hand, ehe sie Algorithmen für so wichtige Entscheidungen einsetzt, eine verpflichtende ethische Evaluierung durchführen soll.“ Laut AMS sei der Algorithmus "transparent und offen kommuniziert" worden. Man habe etwa auf Anfrage der Volksanwaltschaft, der Gleichbehandlungsanwaltschaft und der Plattform "Campaigner - epicenter.works - for digital rights" ausführlich geantwortet. Auch der Wissenschaftler Florian Cech von der TU Wien fordert eine unabhängige, ganzzeitliche Studie zur Technikfolgenabschätzung.

In eine ähnliche Kerbe stößt auch die WU-Professorin und Institutsleiterin des Privacy und Sustainable Labs, Sarah Spiekermann: „Maschinen können ähnlich wie Experten Muster erkennen. Der AMS kann durch seine historischen Daten lernen, wovon Vermittelbarkeit in groben Zügen abhängt. Das ist ein spannendes Wissen. Aber die Ausnahme von diesen Mustern bestätigt die Regel. Ein hinreichend großer Teil der Arbeitslosen wird anders sein. Einzigartig und damit menschlich. Und was machen wir dann mit diesen einzigartigen Menschen, die dem Muster nicht entsprechen?“

Entscheidet am Ende der Mensch?

Laut dem AMS handle es sich bei dem Computerprogramm um ein „digitales Assistenzsystem“. Das bedeutet, dass am Ende ein Mensch über die Einteilung entscheide. „Alles, was wir bisher aus Forschung und Praxis wissen ist, dass Menschen der vermeintlichen Objektivität von Maschinen großen Glauben schenken und eher bereit sind, ihr eigenes Urteil anzupassen, als der Maschine zu widersprechen“, so Spiekermann. Sie fragt sich daher, welche Prozesse das AMS vorgesehen habe, um sicherzustellen, dass eigene Mitarbeiter ermutigt werden, die Einteilung des Computerprogramms zu widersprechen. Die Trefferquote des Programms soll laut Angaben der Entwickler bei 85 Prozent liegen. Das bedeutet: Jährlich werden etwa 50.000 Personen falsch klassifiziert.

Hier geht es zu der futurezone-Serie:
Teil 1: Der AMS-Algorithmus ist ein „Paradebeispiel für Diskriminierung“
Teil 2: Warum Menschen Entscheidungen von Computerprogrammen nur selten widersprechen
Teil 3: Wie ihr euch gegen den AMS-Algorithmus wehren könnt
Teil 4: Wo Algorithmen bereits versagt haben
Interview: AMS-Chef: "Mitarbeiter schätzen Jobchancen pessimistischer ein als der Algorithmus"
Umstrittener AMS-Algorithmus teilt Arbeitslose ab sofort in Kategorien ein