AMS-Algorithmus kostet 1,8 Millionen Euro

AMS-Sachbearbeitern wird ab Juli 2020 per Computer angezeigt, wie es um die Jobchancen ihrer Kunden steht. Nun hat das zuständige Ministerium die Kosten für die Entwicklung des Systems offengelegt. In der parlamentarischen Anfragebeantwortung von Familienministerin Christine Aschbauer (ÖVP) heißt es, dass die Entwicklung „zirka 1,8 Millionen Euro“ gekostet habe. Die jährlichen Kosten für Wartung und Pflege des Systems liegen bei zirka 61.000 Euro.

Arbeitslose Menschen werden vom AMS-Algorithmus in 3 Gruppen eingeteilt: Im Segment A befinden diejenigen, die so gute Chancen haben, dass sie von alleine wieder Arbeit finden. Im Segment B landen diejenigen mit mittleren Integrationschancen in den Arbeitsmarkt. In der Gruppe C werden den Sachbearbeitern Personen angezeigt, denen man eher geringe Chancen gibt, wieder von selbst am Arbeitsmarkt Fuß zu fassen.

An dem System gab es bereits heftige Kritik von Wissenschaftlern und anderen Organisationen (jüngst etwa in diesem Forschungspapier). Es sei „diskriminierend“, weil Frauen vom Computersystem Abzüge bekommen, speziell dann, wenn sie auch Betreuungspflichten nachkommen müssen. Schlechtere Chancen zugeschrieben bekommen auch Menschen mit chronischen Krankheiten und Personen über 50 Jahren.

Wird jemand benachteiligt?

Die netzpolitische Sprecherin der SPÖ, Katharina Kucharowits, wollte mit der Anfrage an die zuständige Ministerin vor allem wissen, ob es zu Benachteiligungen von diesen Personengruppen kommen werde. Denn schließlich sei bekannt, dass Menschen mit schlechten Chancen in eine eigene Beratungs- und Betreuungseinrichtung ausgelagert werden sollen, anstatt Förderungen zu erhalten. Dies wurde vonseiten des Ministeriums nun auch bestätigt. Allerdings soll es „ergänzend“ zum Extra-Betreuungsprogramm auch geplante Fördermaßnahmen für benachteiligte Personen geben. So gebe es ein „arbeitsmarktpolitisches Frauenprogramm“, sowie ein spezielles Maßnahmenpaket für Menschen mit Behinderung und älteren Personen. Für diese Personen seien „zahlreiche Förderinstrumente reserviert“, heißt es. Näheres wurde zu diesem Punkt nicht bekanntgegeben.

Für Kucharowits ist dies zu wenig. „Die Beantwortung lässt einiges offen und ist für mich unzureichend“, sagt die SPÖ-Abgeordnete zur futurezone. „Uns ist wichtig, dass die, die Unterstützung benötigen, diese auch wirklich bekommen und keine Kürzungen vorgenommen werden“, sagt Kucharowits. Doch dies lässt sich aus der Anfragebeantwortung nicht wirklich herauslesen, zu vage sind die Formulierung zu den Förderungen. Auch eine genaue Aufschlüsselung, für welche Gruppe wie viel Fördergelder zur Verfügung stehen soll, fehlt.

Laut Ministerin Aschbacher versuche das Modell „Ungleichheiten am Arbeitsmarkt auszugleichen und besser und individuell auf die speziellen Bedürfnisse von Zielgruppen einzugehen“. Doch genau das sehen Wissenschaftler komplett anders. Sie befürchten, dass durch den AMS-Algorithmus bestehende Ungerechtigkeiten am Arbeitsmarkt festgeschrieben und damit noch verstärkt werden. „Der Algorithmus berechnet also nicht die Chancen, die ein Individuum am Arbeitsmarkt hat, sondern die strukturelle Benachteiligung, die Menschen mit gleichen Dateneinträgen in der Vergangenheit widerfahren ist“, kritisierte die Wissenschaftlerin Paola Lopez, Mathematikerin an der Universität Wien.  

Begutachtung erfolgte von derselben Firma

Im Regierungsabkommen von Türkis-Grün wurde eine „Evaluierung, Adaptierung und Weiterentwicklung“ des AMS-Algorithmus angekündigt. „In welche Richtung es hier Entwicklungen geben kann, hängt von den Ergebnissen der Evaluierung ab. Es wäre unseriös, dem vorzugreifen“, sagt Süleyman Zorba, netzpolitischer Sprecher der Grünen, zur futurezone.

Laut der Anfragebeantwortung des Ministeriums sei es derzeit noch zu keiner Evaluierung des Systems gekommen, weil dieses erst nach einem „aussagekräftigen Beobachtungszeitraum“ erfolgen könne. Doch das System wurde begutachtet – und zwar vom selben Forschungsinstitut, das den Algorithmus auch entwickelt hat. „Es konnte gezeigt werden, dass das System die vorgegebenen Anforderungen erfüllt hatte“, heißt es in der Anfragebeantwortung. Der Name der Forschungseinrichtung, die Synthesis GmbH, wurde in der ganzen Anfragebeantwortung übrigens nie genannt, obwohl in der Anfrage der SPÖ-Nationalrätin danach gefragt worden war.  

Assistenzsystem statt Algorithmus

Ministerin Aschbauer nennt den AMS-Algorithmus, wie er selbst im Regierungsprogramm bezeichnet wird, übrigens anders. Es heißt in ihrer Anfragebeantwortung „Arbeitsmarktchancen-Assistentssystem“ (AMAS). Das liegt daran, dass am Ende die Sachbearbeiter entscheiden sollen, welche Fördermaßnahmen den Arbeitslosen zur Verfügung gestellt werden, und nicht der Computer. „Alle AMS-Mitarbeiter sollen mit einem eigens entwickelten EDV-Tool informiert und in der Handhabe des neuen Assistenz-Systems trainiert werden“, heißt es in der Anfragebeantwortung. „Ein Computer darf sich nicht über Menschen stellen“, sagt Kucharowits. „Das Wichtige ist, dass die Berater am Ende die richtigen Schlüsse ziehen und keiner aufgrund des Programms Förderung verliert“, so die SPÖ-Nationalrätin.

Bei einem ähnlichen Algorithmus in Polen, der mittlerweile wieder abgeschafft wurde, hat weniger als einer von hundert Mitarbeitern die Entscheidung des Computersystems hinterfragt und dem errechneten Ergebnis widersprochen. Ein Grund dafür war vor allem der Zeitmangel, weil auf einen Sachbearbeiter sehr viele Menschen kamen, die er zu betreuen hatte. „Dieses Argument, dass am Ende der Kette ein Mensch auf das Ergebnis schaut, ist trügerisch. Dieser weicht eben nicht vom Algorithmus ab, weil der Aufwand groß ist und man der Technik vertraut“, warnt auch Daniela Zimmer, Juristin und Datenschutz-Expertin bei der Arbeiterkammer (AK).

Die AK sieht hier auch ein Schlupfloch bei der Rechtsdurchsetzung von Betroffenen. Die Datenschutzgrundverordnung (DSGVO) würde derzeit nur Menschen vor automatisierten Entscheidungen schützen. „Der Schutz muss auf halbautomatisierte Entscheidungen erweitert werden“, fordert die AK.

Hier geht es zu der futurezone-Serie:
Teil 1: Der AMS-Algorithmus ist ein „Paradebeispiel für Diskriminierung“
Teil 2: Warum Menschen Entscheidungen von Computerprogrammen nur selten widersprechen
Teil 3: Wie ihr euch gegen den AMS-Algorithmus wehren könnt
Teil 4: Wo Algorithmen bereits versagt haben
Interview: AMS-Chef: "Mitarbeiter schätzen Jobchancen pessimistischer ein als der Algorithmus"
Umstrittener AMS-Algorithmus teilt Arbeitslose ab sofort in Kategorien ein