Wie ihr euch gegen den AMS-Algorithmus wehren könnt

Was, wenn ein Computer plötzlich über dein Leben entscheidet? Etwa darüber, was für eine Ausbildung du bekommst, weil dein bisherigen Job wegautomatisiert wurde? Und was, wenn der Computer die falsche Entscheidung trifft?

Beim AMS werden Arbeitsmarktchancen ab 2019 von einem Computerprogramm ausgerechnet: Wer mit 66-prozentiger Wahrscheinlichkeit innerhalb von sieben Monaten wieder einen Job haben wird, soll ab 2019 als Person mit hoher Arbeitsmarktchance gelten. Wer weniger als 25 Prozent Chance hat innerhalb von zwei Jahren einen Job zu bekommen, gilt dann als Kunde mit niedrigen Chancen.

In beiden Kategorien gibt es weniger Förderungen als in der mittleren Kategorie. Frauen, Ältere, gesundheitlich Beeinträchtigte und Frauen mit Kindern werden vom Computerprogramm automatisch schlechter eingestuft. Laut dem AMS-Vorstand Johannes Kopf soll das System so vorbereitet werden, dass es den Beraterinnen und Beraten sowie den Kundinnen und Kunden „die wichtigsten Gründe für die Einschätzung der Arbeitsmarktchancen“ ausweisen wird. Das bedeutet, dass ihr auch das Recht habt, diese Entscheidung nachvollziehen zu können - und dagegen Einspruch erheben.

"Gefahr der Fehlentscheidungen"

Angelika Adensamer, Juristin der Grundrechtsorganisation epicenter.works, warnt: "Es ist enorm wichtig, dass die Debatte über algorithmengestützte Entscheidungen möglichst breit geführt wird. Vor allem, wenn es um richtungsweisende Entscheidungen für das Leben von Menschen geht, ist besondere Vorsicht geboten. Die Gefahr, dass es dabei zu Diskriminierung und Fehlentscheidungen kommt, ist systemimmanent.“ Derzeit liegt die Fehlerrate des Systems bei rund 50.000 Menschen pro Jahr, die falsch eingeordnet werden.

Betroffene Kundinnen und Kunden haben jedoch auch Rechte und müssen das Rating ihrer Person nicht unhinterfragt hinnehmen. „Man hat das Recht, dass eine Entscheidung nicht ausschließlich getroffen wird, sondern von einer echten Person“, erklärt Adensamer im futurezone-Gespräch. „AMS-Vorstand Kopf sagt, dass das hier der Fall ist. Trotzdem steht zu befürchten, dass sich Beraterinnen und Berater auf die Ergebnisse verlassen, die von der Software vorgeschlagen werden.“

Das befürchten auch zahlreiche befragte Experten der TU und WU Wien, dass viele AMS-Sachbearbeiter die Entscheidung des Programms einfach übernehmen werden und nicht hinterfragen. Diverse Studien belegen zudem, dass das Ergebnis eines Computerprogramms die Entscheidung praktisch in jedem Fall mitbeeinflusst.

Nachvollziehbarkeit der Entscheidung

„Die Betroffenen und auch die Menschen, die auf Basis automatisierter Entscheidungen arbeiten, können nicht nachvollziehen, wie der Algorithmus funktioniert. Je komplexer er wird, desto mehr wird er zur Black Box. Das AMS ruft hier Geister, die im schlimmsten Fall die Zukunft von Menschen zerstören und die unsere Gesellschaft nur schwer wieder los wird", fürchtet Adensamer. Die Datenschutzgrundverordnung (DSGVO) verbietet zudem automatische Entscheidungen, die eine „nachteilige Rechtsfolge für betroffene Personen hat“.

Die Entscheidung des Computerprogramms basiert auf gesammelten Data Warehouse (DWH)-Daten zu statistischen Daten plus Daten darüber, wie oft und wie lang jemand arbeitslos war, welchen Beruf er erlernt hat und welcher ausgeübt wurde. „Das DWH wird vom AMS im Rahmen rechtlich normierter Bedingungen geführt“, erklärt Michael Wagner-Pinter von der Firma Synthesis Forschung GmbH, die hinter dem Algorithmus stecken und ein entsprechendes Ergebnispapier dazu veröffentlicht hat.

Profiling und Daten richtigstellen

Hier handelt es sich laut Andreas , Geschäftsführer der Datenschutzagentur, um klassisches „Profiling“. „Entsprechend notwendig ist es seitens des AMS, die Funktionsweise zu erläutern. Kunden haben hier ein Recht auf die Richtigstellung der Daten. Dazu muss man aber erst einmal rausfinden können, was eigentlich falsch ist. Man muss Gegenmaßnahmen setzen können. Für jeden Einzelnen hängt eine ganz wesentliche Entscheidung dran, ob man eine Schulung kriegt oder nicht“, erklärt Krisch.

„Man hat auch ein Recht, die Daten, die einen betreffen, berichtigen zu lassen, nach Artikel 16 DSGVO. Das kann zumindest helfen, wenn die Berechnung auf falschen Daten beruht“, sagt Adensamer. Zudem gibt es für Betroffene ein generelles Auskunftsrecht laut DSGVO, das man ebenfalls per Formular anfordern kann (siehe Link zu den Dokumenten bei der Datenschutzbehörde).

Information in "verständlicher Sprache"

Das AMS muss laut DSGVO außerdem in „präziser, verständlicher und leicht zugänglicher Form in einer klaren und einfachen Sprache“ über das neue Computerprogramm aufklären. Auch die „involvierte Logik sowie die Tragweite einer Verarbeitung für die Person“ muss den AMS-Kunden von den Sachbearbeitern erklärt werden.  

Hat eine Frau ein Kind und dadurch entsprechende Betreuungspflichten, kriegt sie vom AMS-Algorithmus Extra-Punkteabzüge. Männer mit Betreuungspflichten jedoch nicht. Begründet wird dies offiziell damit, dass dies eine „bittere Wahrheit“ des Arbeitsmarktes sei, die sich im Arbeitsmarktmodell widerspiegle, wie es Wagner-Pinter formuliert hat.

Gleichbehandlung?

Hier ergibt sich insbesondere eine interessante Fragestellung, als dass es in Österreich ein „Gleichbehandlungsgesetz“ gibt, das besagt: „Auf Grund des Geschlechts, insbesondere unter Bezugnahme auf den Familienstand oder den Umstand, ob jemand Kinder hat, darf im Zusammenhang mit einem Arbeitsverhältnis niemand unmittelbar oder mittelbar diskriminiert werden.“ Hat dies nicht auch für Schulungsmaßnahmen zu gelten?

Die Anlaufstelle für Betroffene ist in so einem Fall an und für sich die Gleichbehandlungsanwaltschaft. Diese wollte auf Anfrage der futurezone jedoch keine Stellungnahme zur Frage abgeben, ob sie künftig auch Fälle von Diskriminierung durch den AMS-Algorithmus behandeln werden.

"Wir sind nicht Amazon"

„ Amazon hat seinen Job-Algorithmus etwa eingestellt, weil es das Problem mit der Frauenfeindlichkeit nicht in den Griff bekommen hat. Wenn Amazon sein Programm zur Gänze einstellt wegen dieses Problems, ist dies ein Alarmsignal. Amazon hat hier deutlich mehr Erfahrung mit Algorithmen als das AMS“, sagt Wirtschaftsinformatiker Krisch.

„Bitte nicht vergessen, wir sind nicht Amazon oder irgendeine angeblich ,böse' Versicherung. Unser aller AMS ist jene Organisation, die seit ihrer Gründung täglich gegen Diskriminierung am Arbeitsmarkt kämpft und das auch weiter entschieden tun wird. Versprochen“, erklärte AMS-Vorstand Kopf, angesprochen auf die Amazon-Algorithmus-Problematik.

Bei den Personen, die unter die 25-Prozent-Chancengrenze fallen, soll jedoch laut einem Bericht des „Standard“ gespart werden, weil hier „arbeitsmarktpolitische Interventionen vergleichweise teuer“ seien. Der damalige Sozialminister Alois Stöger (SPÖ) verhinderte im Herbst 2016 wegen dieser Bedenken, dass ein derartiges Computerprogramm eingesetzt wird. Seine Begründung damals: Mit dem System würden perspektivlose Arbeitssuchende künftig weniger gefördert. Wir fragen uns, was hat sich seither geändert?

Zwei Links für Betroffene:
Datenschutzbehörde
Gleichbehandlungsanwaltschaft

Hier geht es zu den anderen Teilen der futurezone-Serie:
Teil 1: Der AMS-Algorithmus ist ein „Paradebeispiel für Diskriminierung“
Teil 2: Warum Menschen Entscheidungen von Computerprogrammen nur selten widersprechen
Teil 3: Wie ihr euch gegen den AMS-Algorithmus wehren könnt
Teil 4: Wo Algorithmen bereits versagt haben
Interview: AMS-Chef: "Mitarbeiter schätzen Jobchancen pessimistischer ein als der Algorithmus"