AMS-Chef: "Mitarbeiter schätzen Jobchancen pessimistischer ein als der Algorithmus"

Mitarbeiter des Arbeitsmarktservices ( AMS) sollen ab 2019 bei der Einteilung der Arbeitslosen nach ihrer Aussicht auf einen Arbeitsplatz von einem Algorithmus unterstützt werden. Wer mit 66-prozentiger Wahrscheinlichkeit innerhalb von sieben Monaten wieder einen Job haben wird, soll künftig als Person mit hoher Arbeitsmarktchance gelten. Wer weniger als 25 Prozent Chance hat, innerhalb von zwei Jahren einen Job zu bekommen, gilt dann als Kunde mit niedrigen Chancen. Alle anderen haben eine mittlere Perspektive. Die futurezone hat mit dem AMS-Vorstand Johannes Kopf über den Algorithmus gesprochen.

Futurezone: Nach welchen Kriterien trifft der Algorithmus seine Entscheidung und wie transparent läuft dieser Prozess ab?
Johannes Kopf: Vorweg: Der Algorithmus trifft keine Entscheidungen, sondern berechnet die Integrationschancen. Betreffend der konkreten Details sind wir gerade dabei die Unterlagen aufzubereiten und werden die sehr komplexe Methode vorrausichtlich am Freitag noch veröffentlichen (hier findet ihr es).  

Sie haben im „Standard“-Interview erklärt, dass die Prognose-Qualität des Systems derzeit bei 85 Prozent liegt. Damit werden noch immer Tausende Menschen (konkret: laut aktuellen Zahlen zirka 50.000 pro Jahr) in eine falsche Schublade gesteckt. Wie kann das AMS das verantworten?
Der Algorithmus berechnet die zukünftige Wahrscheinlichkeit einer Arbeitsaufnahme verbunden mit einer gewissen Dauer der Beschäftigung. Wir haben intensiv und mehrfach die Methode erprobt und verbessert, ich halte ehrlich gesagt eine Trefferquote von 85 Prozent für sehr gut, immerhin betrifft es die Zukunft. Bei bisherigen „Pilots“ hat sich gezeigt, dass teilweise unsere Beraterinnen und Berater die Chancen einer zukünftigen Jobaufnahme pessimistischer einschätzen, als es das Modell errechnete.

Es heißt, AMS-Mitarbeiter sollen nach wie vor eigene Entscheidungen treffen können und jemanden, der falsch klassifiziert wurde, „hochstufen“ können. Bisherige Studien zum Umgang von Algorithmen zeigen, dass Computerempfehlungen von Menschen kaum verändert werden. Das liegt daran, dass Computer von vielen Menschen noch immer als "allwissend" und "neutral" wahrgenommen werden. Wieso sollte das bei AMS-Mitarbeitern anders sein und wie will man diese gezielt dazu motivieren, die Entscheidung des Computersystems zu hinterfragen?
Genau diese Dinge werden wir erproben und diskutieren, aber schon jetzt verfolgen wir einen völlig anderen Ansatz. Es geht darum in Anhängigkeit von den Chancen ein passenderes Instrumentarium der Unterstützung einzusetzen. So ist zum Beispiel mit der Betreuungseinrichtung, die ich mir vor kurzem selbst angesehen habe, als Ziel vereinbart, dass zumindest 25 Prozent der Teilnehmerinnen und Teilnehmer so gefördert werden, dass man sie anschließend „hochstufen“ kann und sie dann in der Lage sind, zum Beispiel eine längere Ausbildung auch zu schaffen.

Bisherige Erfahrung mit Algorithmen zeigen, dass Menschen „lieber nicht" in Computerentscheidungen eingreifen.
Auch dies ist hier keineswegs richtig.  Wir haben ja gerade als Ziel von Ausgrenzung bedrohte Menschen besonders zu fördern. Das heißt unsere vom Verwaltungsrat gesetzten Ziele wie z.B. die Integration von Älteren, Menschen mit Behinderung oder auch konkrete Programme wie z.B. unser Programm zur Integration von langzeitarbeitslosen Menschen gehen immer einer solchen Einteilung vor.

Automatisierte Entscheidungen finden derzeit meistens völlig intransparent statt, ohne, dass davon Betroffene eingreifen können. Wie wird das beim AMS-Algorithmus gehandhabt?
Das System ist so vorbereitet, dass es unseren Beraterinnen und Beratern und auch den Kundinnen und Kunden die wichtigsten Gründe für die Einschätzung der Arbeitsmarktchancen ausweist.

Laut der EU-Datenschutzgrundverordnung (DSGVO) haben Betroffene das Recht auf Erklärung, wie ein algorithmusbasierter Entscheidungsprozess über sie zustande gekommen ist. Wie sieht dieser DSGVO-Mechanismus im Fall des AMS genau aus?
Die Technik trifft keine Entscheidung, sondern weist nur die Arbeitsmarktchancen aus.

Laut der DSGVO haben Betroffene zudem das Recht, dass ein falscher Datensatz, der zur Verarbeitung herangezogen worden ist, ausbessern zu lassen. Wie wird das in dem Fall beim AMS gehandhabt? Wo können Betroffene sich beschweren, wenn das Computersystem falsche Entscheidungen über sie fällt?
Dies hat doch überhaupt nichts mit dem Algorithmus zu tun. Schon jetzt teilen uns Kundinnen und Kunden mit, wenn z.B. eine Ausbildung nicht in der EDV eingetragen ist.

Die bisherige Erwerbskarriere der Betroffenen fließt in den Algorithmus ein, also wie oft und wie lang jemand arbeitslos war, welchen Beruf er erlernt hat und welcher ausgeübt wurde. Auch das Alter, die Staatsbürgerschaft und die Ausbildung werden bewertet. Diskriminierung ist damit bewusst vorprogrammiert, weil es sowohl ältere Personen als auch Personen mit nicht österreichischer Staatsbürgerschaft trifft und diese damit nicht in die „mittlere Kategorie“ fallen werden. Wie rechtfertigt das AMS eine bewusste Diskriminierung von Arbeitslosen?
Nicht das System diskriminiert, sondern es gibt alleine Auskunft über die Arbeitsmarktchancen. Richtig ist, dass Diskriminierung zwar am Markt vorkommt, aber mit unseren Förderungen haben wir ja gerade die Aufgabe dieser Diskriminierung entgegen zu wirken. Dies zeigt sich schon jetzt deutlich im immer wieder kritisierten Umstand, dass etwa schon jetzt Akademikerinnen und Akademiker oder andere gut ausgebildete, junge Menschen deutlich unterdurchschnittlich gefördert werden.

Welche Firma hat den Algorithmus, der künftig bei der Einteilung der Arbeitslosen zum Einsatz kommt, entwickelt?
Johannes Kopf: Der Algorithmus wurde vom AMS auf Basis einer EU weiten Ausschreibung an die SynthesisForschung GesmbH vergeben, ein Institut das jahrzehntelange Erfahrung mit Arbeitsmarktforschung und der Evaluierung von Arbeitsmarktpolitik hat.

Wie lange war die Entwicklungsdauer?
Die Modellentwicklung hat rund zehn Monate gedauert.

Wieviel hat das Projekt gekostet?
Die Entwicklung des Algorithmus hat, wie auch im Amtsblatt der EU veröffentlicht,  237.142,8 Euro plus Umsatzsteuer gekostet.

Wie viele Menschen haben an der Entwicklung des Algorithmus mitgearbeitet?
Das Projektteam bei Synthesis bestand aus sechs Personen, umfangreiche Vorarbeiten und viel Know-how stellte aber auch die Bundesgeschäftsstelle des AMS.