Computerbewertungen von Arbeitslosen in Polen werden gestoppt

In Österreich befindet sich der Computeralgorithmus, der künftig über Arbeitsmarktchancen von Arbeitslosen entscheiden soll, noch in der Testphase. In Polen wird das System, das Arbeitssuchende mittels Scoring in drei Gruppen eingeordnet hatte, bereits wieder gestoppt. Das berichtet „Algorithmwatch“ unter Berufung auf einen Bericht der Stiftung Panoptykon. Das System sei verfassungswidrig und hätte niemals in Kraft treten dürfen, heißt es.

Die futurezone hat bereits über das 2012 von Sozialministerium entwickelte System berichtet. Seit 2014 werden dort Arbeitssuchende in Polen aufgrund von zusammengeführten Datensätzen und Fragebögen in drei Klassen eingeordnet und die Fördertöpfe werden aufgrund dieser Kriterien verteilt – ähnlich, wie es jetzt beim Arbeitsmarktservice (AMS) geplant ist, nur mit anderen Kriterien zur Einteilung, wer förderwürdig ist und wer nicht.

Große Gruppe ohne Förderungen

In der Gruppe mit den besten Arbeitsmarktchancen landeten in Polen zuletzt zwei bis fünf Prozent, in der Gruppe mit mittleren Chancen 44 Prozent, in der Gruppe mit schlechten Chancen die restlichen Personen. Bei der Arbeitsvermittlung Publiczne Służby Zatrudnienia (PSZ), die rund 350 Jobcenter betreibt, wurden Daten wie Alter oder Geschlecht eingegeben sowie 24 Fragen, die mithilfe von computergestützten Interviews in den Jobcentern abgearbeitet worden waren.

Neben fehlender Transparenz und Nachvollziehbarkeit der Entscheidungen kam es in Polen laut einem Paper (PDF) auch zu dem Problem, dass es zwischen den offiziellen, deklarierten Förderzielen und der tatsächlich umgesetzten Praxis eine große Diskrepanz gab.

Langzeitarbeitslose, die gar kein großes Interesse an einer Förderung hatten, landeten etwa in derselben Kategorie wie Menschen, die erst vor kurzem ihre Jobs verloren hatten und wissbegierig waren. Die mit dem Programm angestrebte „Individualisierung“ der Förderungen wurde damit obsolet, heißt es in dem Forschungspapier.

Alle verdächtig

Zudem seien die Arbeitssuchenden nicht mehr wie mündige Bürger behandelt worden, sondern waren plötzlich aufgrund des eingeführten Systems alle als „verdächtig“ eingestuft worden, schreiben die Forscher. Der „typische Arbeitslose“ sei faul, würde sich nicht um einen neuen Job bemühen und würde nur betrügen, um möglichst lange nicht arbeiten zu müssen, heißt es darin. Arbeitssuchende mussten daher erst einmal beweisen, dass sie wirklich an einer neuen Arbeitsstelle oder Förderungen interessiert seien, heißt es. Zudem seien Personen, die in die unterste Kategorie gesteckt worden waren, mit einem „sozialem Stigma“ versehen worden.

Zwar sollten alle Kategorien von den Sachbearbeitern als gleichwertig behandelt werden, doch in der Praxis habe sich gezeigt, dass dies nicht der Fall war. Die Sachbearbeiter teilten die Menschen in „gut“ und „schlecht“ ein und nahmen den Menschen damit auch einen Teil ihres Selbstbewussteins weg.

Kaum ein Mitarbeiter hinterfragte das System

Wie in Österreich war der Profiling-Mechanismus ursprünglich als Beratungsinstrument für die Servicemitarbeiter in den Jobcentern gedacht. Die Mitarbeiter sollten – wie beim AMS-System -  das letzte Wort darüber behalten, in welche Gruppe Betroffene eingeordnet werden. In der Praxis hat jedoch weniger als einer von hundert Mitarbeitern die Entscheidung des Computersystems hinterfragt und entschieden, dem errechneten Ergebnis zu widersprechen.

Den Mitarbeitern fehlte meist die Zeit, Entscheidungen im Detail zu prüfen, aber sie befürchteten auch Konsequenzen vonseiten ihrer Vorgesetzten, wenn eine Entscheidung später infrage gestellt würde, heißt es im Bericht bei Algorithmwatch.

Intransparent

Das System in Polen war auch alles andere als transparent. Das heißt, die Menschen wussten nicht, warum sie bestimmte Förderungen nicht erhalten haben. Erst als die Stiftung Panoptykon, eine führende Organisation für digitale Rechte in Polen, aufgrund einer Anfrage unter Berufung auf Informationsfreiheit durchgeführt hatte, wurden die Bewertungsregeln veröffentlicht.

Der Oberste Rechnungshof in Polen, stellte bei einer Überprüfung fest, dass das System unwirksam sei und zu Diskriminierung führen könne. Frauen würden demnach anders bewertet als Männer, zudem hätten benachteiligte Personen wie Alleinerzieherinnen, Menschen mit Behinderung sowie Landbewohner eine höhere Wahrscheinlichkeit, in der dritten – nicht förderungswürdigen – Gruppe zu landen.

Der Kommissar für Menschenrechte brachte den Fall schließlich vor den Verfassungsgerichtshof. Dieser stellte fest, dass der Kriterienkatalog vom Parlament bereits im Gesetz festgelegt werden hätte müssen und damit sei das Gesetz verfassungswidrig. Die polnische Regierung will das Scoring von Arbeitslosen nun bis Ende 2019 einstellen.

Das AMS in Österreich gibt zwar an, dass Arbeitslose künftig Auskunft erhalten sollen, warum sie in eine bestimmte Gruppe eingeordnet und damit für Transparenz gesorgt werden. Ob und wie dies umgesetzt wird, wird sich allerdings erst in der Praxis zeigen.

Zum Nachlesen geht es hier zu der futurezone-AMS-Algorithmus-Serie:
Teil 1: Der AMS-Algorithmus ist ein „Paradebeispiel für Diskriminierung“
Teil 2: Warum Menschen Entscheidungen von Computerprogrammen nur selten widersprechen
Teil 3: Wie ihr euch gegen den AMS-Algorithmus wehren könnt
Teil 4: Wo Algorithmen bereits versagt haben
Interview: AMS-Chef: "Mitarbeiter schätzen Jobchancen pessimistischer ein als der Algorithmus"
Umstrittener AMS-Algorithmus teilt Arbeitslose ab sofort in Kategorien ein
Computer sagt nein: Algorithmus gibt Frauen weniger Chancen beim AMS
AMS-Konferenz: Wenn Algorithmen Vorurteile lernen