Netzpolitik
06.12.2018

Computer sagt nein: Algorithmus gibt Frauen weniger Chancen beim AMS

Ein Computerprogramm berechnet seit kurzem die Arbeitsmarktchancen von Arbeitslosen. Experten schlagen Alarm.

Das Arbeitsmarktservice ( AMS) zeigt ab sofort den Mitarbeitern per Computer die Arbeitsmarktchancen ihrer Kunden an, wenn diese bei ihnen vorstellig werden. Das Programm, das sich jetzt im Testbetrieb befindet, wurde von der Synthesis Forschung GmbH innerhalb von zehn Monaten entwickelt und soll jetzt ein Jahr lang „behutsam“ ausprobiert werden, bevor es für tatsächliche Bewertungen herangezogen werden soll. Das erzählte Johannes Kopf, Vorstand des AMS.

Kriterien

Wer sich beim AMS arbeitslos meldet, wird von dem Computerprogramm nach bestimmten Kriterien bewertet und eingeteilt. Alle Menschen über 30 bekommen alleine aufgrund ihres Alters Punkteabzüge, ab 50 fallen diese sogar noch drastischer aus. Menschen, die gesundheitlich beeinträchtigt sind, bekommen ebenfalls Abzüge im System, ebenso wie Menschen, die aus Nicht-EU-Ländern stammen.

Positivpunkte gibt es für eine Lehre. Eine Matura oder höhere Ausbildung zählt nur minimal dazu. Frauen bekommen per se weniger Punkte als Männer. Müssen sie zudem Kinder betreuen, wird das vom Computer ebenfalls negativ bewertet. Florian Cech, Forscher an der Informatikfakultät der TU Wien, sieht in der Festschreibung der Kategorien ein „Paradebeispiel für Diskriminierung“.

Diskriminierung

Der Experte hält die Abbildung des Arbeitsmarktes in einem Computermodell ebenso wenig für klug wie Ben Wagner, Forscher am Privacy Lab der WU Wien. „Das wird bestehende Vorurteile einzementieren“, sagt Wagner. „Es führt dazu, dass man nur noch als Nummer wahrgenommen wird und nicht mehr als Mensch.“ Etwa dass Betreuungspflichten nur bei Frauen negativ angerechnet werden, sei „höchstproblematisch“, so der WU-Forscher.

Für Michael Wagner-Pinter von der Synthesis Forschung GmbH seien die Negativpunkte für Betreuungspflichten „eine bittere Wahrheit für Frauen, die sich im Chancenmodell widerspiegelt.“ Das AMS selbst versucht zu beruhigen. 50 Prozent der Fördermittel sollen für Frauen ausgegeben werden, obwohl ihr Anteil „unterproportional“ sei, heißt es auf futurezone-Anfrage.

Erstes Feedback

Das neue System werde von den Mitarbeitern positiv angenommen. „Das Feedback ist gut“, heißt es seitens des AMS. Der Computer spuckt nämlich bereits jetzt eine Einteilung in die drei Segmente aus: A, B und C. Ein fiktives Beispiel: In der Gruppe A befindet sich der 22-jährige Kfz-Mechaniker Martin aus Bregenz, der als Person mit „sehr guten Integrationschancen ohne Unterstützungsbedarf“ bewertet wird. Er wird nicht extra mit Kursen gefördert.

Im Segment B, in dem der Großteil der Arbeitslosen landen soll, findet sich eine 28-jährige Verkäuferin aus Amstetten, die ein Kind zu betreuen hat. Sie wird vom AMS mit Fördermitteln unterstützt. Im Segment C finden sich Personen mit „geringen Integrationschancen“, wie Anna, wieder.

Wieviel Fördergelder es für die Gruppe C geben wird ist nicht bekannt. Das AMS schweigt dazu trotz mehrmaliger Nachfragen der futurezone beharrlich. „Wenigstens ein Viertel“ der Gruppe C soll Gesundheitsförderungen und Einzelcoachings bekommen, heißt es vage.

„Drei Klassen“

Die Arbeitsmarktsprecherin der Grünen Wien, Barbara Huemer, kritisiert das Vorgehen: „Einmal in der Schublade der ,aufgegebenen Fälle' gelandet, ist der Zugang zu qualitätsvollen Förderungen schwierig und die Chancen wieder Tritt zu fassen sinken. Damit droht ein Teufelskreis, aus dem es kaum mehr ein Entrinnen gibt.“

Die Gemeinde Wien spricht von einem „Drei-Klassen-System“, bei der vor allem Alte und Kranke auf der Strecke bleiben werden. Berechnungen der Stadt zeigen, dass derzeit 61.000 Personen (das sind 44 Prozent) der Arbeitslosen in Wien in die Gruppe C fallen und nur 3.800 Personen (rund drei Prozent) in die Gruppe A. „Die von der Stadt Wien kolportierten Zahlen sind alt. Neue Zahlen werden dann wieder vorliegen, wenn das Assistenzsystem in den Echtbetrieb geht, heißt es seitens des AMS dazu.

Fehlerquote

Das Computerprogramm hat mit rund 15 Prozent zudem eine relativ hohe Fehlerquote. Jährlich werden etwa 50.000 Personen falsch klassifiziert. Laut AMS-Vorstand Kopf soll der Computer den Sachbearbeitern nur bei ihren Entscheidungen helfen, diese aber nicht für sie treffen. „Es ist ein wahnsinniger Aufwand, sich über solche Entscheidungen hinwegzusetzen. Ein Computersystem wird schnell zu einer neutral-objektiven Instanz und es kommt zu einer Entsolidarisierung“, kritisiert WU-Wien-Forscher Wagner.

Das Assistenzsystem ist derzeit im Testbetrieb und nicht in Anwendung, heißt es seitens des AMS. Im Laufe des Jahres 2019 sollen Erfahrungen gesammelt werden. Die AMS-Kunden werden auch erst ab dann von ihren Betreuern über die neue Klassifizierung aufgeklärt. Eine umfassende Information darüber erfolgt, sobald das System zur Anwendung kommt, so das AMS.

 

Hier geht es zu der futurezone-Serie:
Teil 1: Der AMS-Algorithmus ist ein „Paradebeispiel für Diskriminierung“
Teil 2: Warum Menschen Entscheidungen von Computerprogrammen nur selten widersprechen
Teil 3:
Wie ihr euch gegen den AMS-Algorithmus wehren könnt
Teil 4: Wo Algorithmen bereits versagt haben

Interview: AMS-Chef: "Mitarbeiter schätzen Jobchancen pessimistischer ein als der Algorithmus"
Umstrittener AMS-Algorithmus teilt Arbeitslose ab sofort in Kategorien ein