© Kurier/Jeff Mangione

Netzpolitik
06/25/2020

Petition „Stoppt den AMS-Algorithmus“ gestartet

Der Algorithmus führe zu großer Ungerechtigkeit und Diskriminierung, insbesondere in Zeiten von Corona, sagen die Initiatoren.

von Franziska Bechtold

Eigentlich soll der AMS-Algorithmus ab Juli 2020 flächendeckend in Österreich zum Einsatz kommen. Diese verpflichtende Einführung wurde aufgrund der Corona-Krise auf 2021 verschoben – nicht genug für die Grundrechts-NGO epicenter.works. Sie fordern gemeinsam mit dem Momentum Institut, das System gar nicht erst einzusetzen.

Der Algorithmus sei diskriminierend, ungerecht und intransparent, sagte Andreas Czák von epicenter.works in einer Pressekonferenz. Der Algorithmus teile Personen anhand einer Vielzahl von Merkmalen in drei Kategorien ein. Die Kategorie entscheidet etwa darüber, ob die Person Fördermittel für Weiterbildungen erhält, oder als hochqualifiziert eingestuft wird und somit keine Unterstützung bekommt. Dagegen wurde die Petition „Stoppt den AMS‑Algorithmus“ ins Leben gerufen, die ab sofort Unterstützer sucht.

Unfaire Kriterien

7 Forderungen wurden dafür formuliert. An oberster Stelle steht, dass „Menschen, nicht Computer entscheiden sollen“. Einer der größten Kritikpunkte ist, dass menschliche Schicksale aus Kostengründen an den Algorithmus ausgelagert würden. So unterscheide der Algorithmus lediglich 2 Geschlechter, ohne Inter- und Transmenschen zu inkludieren. Das sei rechtswidrig, so Czák. Zudem kenne der Algorithmus nur 3 Nationalitäten: Österreich, EU und nicht EU. Somit würden Menschen aus Afrika und Amerika mit Menschen aus der Schweiz gleichgesetzt, ohne beispielsweise Sprachkenntnisse abzufragen.

Besonders in der Corona-Krise habe sich die Situation, allerdings nicht der Algorithmus geändert, so Barbara Blaha, Politikwissenschaftlerin und Leiterin des Momentum Instituts. Insbesondere Menschen, die in der Tourismusbranche gearbeitet haben, würden vom Algorithmus als leicht vermittelbar eingestuft und würden damit keine Weiterbildung erhalten. Tatsächlich sei es fraglich, ob in diesem Bereich wieder genügend Stellen besetzt würden, so Blaha.

Fehler im System

Weitere Forderungen sind „Fähigkeiten fördern, statt Schwächen bestrafen“, „mehr Ressourcen für das AMS“, „proaktive Aufklärung über die Rechte von Arbeitssuchenden“ und ein genereller „Risikocheck für Algorithmen“. So sollten Fehler im System und Daten gefunden werden, um negative Auswirkungen auf die Bevölkerung zu verhindern, bevor man sie flächendeckend einsetzt.

Zudem wird „umfassende Transparenz“ gefordert. Dazu erklärte Ben Wagner von der WU Wien, dass Länder wie Polen, Schweden und Australien nach Einführung eines vergleichbaren Systems große Probleme hatten, Fehler zu beheben. Polen habe daraufhin den Algorithmus wieder ausgesetzt, da das dortige Verfassungsgericht entschieden hat, dass er, unter anderem aufgrund fehlender Transparenz, nicht grundrechtskonform ist.

Freiwilligkeit

Auch der österreichische Algorithmus sei nicht transparent, heißt es in der Petition. Laut Wagner handelt es sich bei dem System nicht um eine Blackbox, also ein geschlossenes und komplexes System mit nicht nachvollziehbaren Vorgängen. Es wäre "wenig kompliziert, Transparenz herzustellen", sagt Wagner. Einer Forderung von epicenter.works, den Quellcode des Systems offenzulegen, sei das AMS nicht nachgekommen.

Schlussendlich fordern die Initiatoren der Kampagne, dass der Algorithmus, wenn er denn eingeführt werden sollte, auf Freiwilligkeit basiert. Dabei heißt es von Czák und Blaha wiederholt, die AMS-Berater müssten sich zwar nicht an die Auswertung des Algorithmus halten, man befürchtet aber, dass die meisten die Daten nicht hinterfragen würden. „Technik wird als so wichtig und mächtig eingeschätzt, dass man sie nicht mehr hinterfragt“, sagt Blaha. Dem widerspricht das AMS: "Das ist nicht richtig. Eine Befragung von Mitarbeiterinnen und Mitarbeitern des AMS hat ergeben, das sich ein großer Anteil gegen die Auswertungen des Algorithmus entscheiden wird, wenn diese aus Beratersicht nicht zutreffen", teilte man der futurezone auf Anfrage mit

Schulungen verschoben

Laut Czák können die Ergebnisse des Algorithmus bereits vielerorts von Beratern eingesehen werden – allerdings sei aufgrund der Corona-Krise niemand dafür geschult worden. Das AMS bestätige gegenüber der futurezone, dass spezielle Schulungen zur Nutzung der Informationen des Algorithmus verschoben werden mussten, "da in der Folge der Corona-Krise generell die Konzepte der Kundenbetreuung des AMS überarbeitet werden müssen". Allerdings gebe es schon lange umfassende Informationen für die Berater über die Nutzung des Algorithmus. 

Zu ihrer Einstufung können Betroffene eine Auskunft durch den AMS-Berater einfordern, oder ein Auskunftsbegehren gemäß der Datenschutzgrundverordnung stellen.

Hier geht es zu der futurezone-Serie zum AMS-Algorithmus:
Teil 1: Der AMS-Algorithmus ist ein „Paradebeispiel für Diskriminierung“
Teil 2: Warum Menschen Entscheidungen von Computerprogrammen nur selten widersprechen
Teil 3: 
Wie ihr euch gegen den AMS-Algorithmus wehren könnt
Teil 4: Wo Algorithmen bereits versagt haben

Interview: AMS-Chef: "Mitarbeiter schätzen Jobchancen pessimistischer ein als der Algorithmus"
Umstrittener AMS-Algorithmus teilt Arbeitslose ab sofort in Kategorien ein