Gericht erlaubt Einsatz von AMS-Algorithmus

Ein Bescheid der Datenschutzbehörde wurde vom Bundesverwaltungsgericht wieder aufgehoben, nachdem das Arbeitsmarktservice Einspruch erhoben hatte. Damit darf das AMS den umstrittenen Algorithmus offiziell wieder einsetzen, berichtet „Der Standard“ am Montag.

Das geplante und seit Herbst 2018 im Testbetrieb befindliche System hätte Anfang Jänner 2021 in den Regelbetrieb übernommen werden sollen. Es teilt Arbeitslose per Computer je nach Arbeitsmarktchancen in insgesamt 3 Gruppen ein. Je nachdem wird entschieden, wie viel Fördergelder für eine Person eingesetzt werden. Für die Einteilung werden Kriterien herangezogen wie Wohnort, Geschlecht, Betreuungspflichten oder Herkunft.

Damit gilt das System seit längerem als umstritten. Zahlreiche Forscherinnen und Forscher, Bürgerrechtsorganisationen sowie die Arbeiterkammer, kritisieren den Algorithmus. Zuletzt hatten Forscherinnen und Forscher des Instituts für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften sowie der TU Wien in einer Studie festgestellt, dass durch eine derartige Einteilung in 3 Gruppen negative, soziale Auswirkungen zu erwarten seien, wie Doris Allhutter, Forscherin am ITA im Gespräch mit der futurezone erklärt hatte. „Menschen werden dadurch demotiviert oder finden sich mit ihrem Schicksal ab. Das ist eine Richtung, in die wir uns als Gesellschaft nicht bewegen wollen“, so Allhutter.

Keine neue Gesetzesgrundlage

Die Datenschutzbehörde hatte die Verwendung der verschiedenen Kriterien, die zum Einteilen in eine der 3 Gruppen notwendig sind, als „eingriffsintensives Profiling“ bezeichnet, für das es einer eigenen Rechtsgrundlage bedarf, die noch nicht geschaffen worden war. Der Bundesverwaltungsgerichtshof kam jetzt jedoch zum Schluss, dass es das Gesetz auch bereits jetzt erlaubt, personenbezogene Daten zu verarbeiten und eine Gesetzesänderung nicht notwendig sei.

Auch von der Datenschutzbehörde bemängelt worden war, dass die Entscheidung über das weitere Schicksal von Arbeitslosen und ob diese gefördert werden oder nicht, ausschließlich von einem Computer getroffen werde, weil AMS-Sachbearbeiter „maximal 10 Minuten“ Zeit für den gesamten Beratungsprozess veranschlagt haben und sich bei ihren Entscheidungen wohl vor allem auf den vom Computer errechneten Score verlassen.

Entscheidung trifft der Mensch

Das Bundesverewaltungsgericht sieht dies nun anders. Das AMS habe „interne Leitlinien“ festgelegt, die besagen, dass Berater die Letztentscheidung haben. Wenn tatsächlich so wenig Zeit für Berater übrig bleibe, jeden Fall selbst zu beurteilen, müsse das nachgewiesen werden, so das Gericht. „Es ist schade, dass anscheinend bewiesen werden muss, dass algorithmische Vorschläge routinemäßig von Anwenderinnen und Anwendern übernommen werden. Dazu gibt es genug Forschung und das ist seit Jahren ein bekanntes Phänomen. Und außerdem: Das System ist ja dazu gebaut worden, um auch oft genug verwendet zu werden. Sonst wäre die kostspielige Entwicklung sinnlos gewesen“, sagt Paola Lopez, interdisziplinäre Universitätsassistentin am Juridicum, zur futurezone.

Das AMS will nun vorerst noch abwarten, ob seitens der Datenschutzbehörde Rechtsmittel eingebracht werden. Eine Beschwerde beim Verfassungsgerichtshof oder eine Revision am Verwaltungsgerichtshof wären denkbar. Rein formal wäre ein Einsatz aber ab 2021 möglich, weil der Verwaltungsrat bereits grünes Licht dafür gegeben hatte.

Corona macht Daten untauglich

Doch sind die Daten, auf den sich der AMS-Algorithmus beziehen, eigentlich noch etwas wert? „Die Datenbasis ist für die mittelfristige Verwendung wertlos“, sagt etwa Florian Cech, Forscher an der TU Win. Seit der Corona-Krise seien die Arbeitsmarktchancen in vielen Branchen nicht mehr vergleichbar mit dem, was davor Realität gewesen sei, so der Forscher. Das liege daran, dass bei dem System aus vergangenen Daten für die Zukunft geschlossen werden soll.

Die Datenbasis vieler für die Aussagen für Individuen zu verwenden, sei immer problematisch, sagt Lopez. „Doch jetzt mit Corona, und eigentlich immer in einer dynamischen Gesellschaft, kann man nicht vernünftigerweise davon ausgehen, dass die Zukunft so sein wird wie die Vergangenheit.“

Lopez empfiehlt daher, „dass die vielfache Kritik von wissenschaftlicher und aktivistischer Seite vom AMS entsprechend ernst genommen und der Einsatz eines solchen Systems ganz grundlegend überdacht wird.“ Auf die 120-seitige Studie der Forscher der TU Wien und des ITU kam bis heute etwa keine Reaktion seitens des AMS, auch eine Medienanfrage dazu blieb unbeantwortet.