Wo der Mensch bleibt, wenn KI das Finanzwesen prägt

Im Finanzwesen wird künstliche Intelligenz (KI), wie auch in anderen Wirtschaftsbereichen, als große Zukunftschance gesehen. Egal ob in der Kundenbetreuung, in der Aufdeckung von Betrugsfällen oder in der Prozessautomatisierung, KI soll künftig an vielen Stellen zum Einsatz kommen. Andererseits wirft die neue Technologie auch zahlreiche ethische Probleme auf. Am Dienstag diskutierten internationale Experten im Rahmen der Veranstaltungsreihe "Club Orange" von ING in Wien über das Thema.

Verantwortung

"Eines der wichtigsten Probleme ist die Verantwortung", meint Mark Coeckelbergh. Der Professor für Medien- und Technikphilosophie an der Universität Wien berät die EU-Kommission bei KI-Themen. "Wenn man eine Maschine mit Entscheidungsfähigkeit ausstattet, wer ist dann für diese Entscheidungen verantwortlich?" Seiner Meinung nach sei es wichtig, am Ende einer Entscheidungskette, z.B. bei einer Kreditwürdigkeitsprüfung, immer einen Menschen zu platzieren.

Laut Coeckelbergh sei es außerdem nicht immer nachvollziehbar, wie künstliche Intelligenz zu einer bestimmten Entscheidung gelangt. Gerade im Umgang mit Menschen, etwa einem Bankkunden, sei Transparenz aber maßgeblich. "Jeder, der mit KI und Kunden arbeitet, sollte im Stande sein zu erklären, was da passiert."

Voreingenommenheit

Eine weitere Herausforderung beim Einsatz von künstlicher Intelligenz ist die Voreingenommenheit (engl. Bias) bei bestimmten Aufgabenstellungen. "Gesichtserkennungs-Software, die in den USA entwickelt wurde, funktioniert etwa in Asien viel schlechter", gibt Coeckelbergh als Beispiel. Da KI von Menschen entwickelt wird, sind auch seine Entscheidungen oft von Tendenzen und Ausrichtungen beeinflusst.

Brydie Lear, KI-Expertin von ING, schildert den Fall einer lernfähigen Software, die Online-Händler Amazon zum Durchforsten von Bewerbungen einsetzte. Das Programm entwickelte eine Vorliebe für männliche Kandidaten, was für einen Skandal sorgte. "Voreingenommenheit gab es schon lange vor KI", meint Lear. "Das Programm hat eine Verzerrung aufgezeigt, die in der Gesellschaft existiert." Laut Coeckelbergh sei es vor allem wichtig, einmal in einer KI festgestellte Tendenzen auszumerzen und nicht zu wiederholen.

Arbeitsplätze

Eine problematische Auswirkung von KI, wie von Automatisierung im Allgemeinen, ist der Abbau von Arbeitsplätzen. "Ja, viele Menschen werden ihren Job verlieren. Maschinen werden viele Aufgaben besser erledigen können.", meint Lena-Sophie Müller, Geschäftsführerin des deutschen Digitalisierungsnetzwerks Initiative D21.

Optimisten weisen an diesem Punkt stets darauf hin, dass KI auch viele neue Arbeitsplätze schaffen wird. "Das Problem ist nur: Das werden andere Leute sein. Eine Supermarktkassiererin wird nicht von heute auf morgen zum Data Analyst werden."

Laut Müller wird es in Zukunft großen Bedarf an Aus- und Weiterbildung geben. Als positives Beispiel bringt die Digitalisierungsexpertin die Deutsche Bahn. "Dort erhalten Lokführer eine duale Ausbildung. Wenn Züge automatisch fahren, machen sie einfach etwas an anderes im Unternehmen."

Regulierung

Neben einer massiven Aufwertung des Bildungssystems kommt auf die Politik laut Müller noch eine andere Herausforderung zu: "Die Aufgabe von Entscheidungsträgern ist es, die Möglichkeiten von KI auszunutzen und negative Auswirkungen zu verhindern." Das richtige Rahmenwerk für künstliche Intelligenz zu finden, sei aber auch Aufgabe von Unternehmen. Das Schlagwort dazu laute "Corporate Digital Responsibility".

"Das ganze Feld KI ist sehr dynamisch, das macht die Regulierung schwer", gibt Müller zu. "Man kann nicht sagen, man macht da ein Gesetz und das deckt alles ab." Ihrer Meinung nach sollten gesetzliche Vorgaben am besten so aufgebaut sein, dass Unternehmen im Finanzsektor die Freiheit zum Experimentieren haben, aber in einer gesicherten Umgebung ("Sandbox"), ohne dass dies unmittelbare Auswirkungen auf Kunden hat.

Mark Coeckelbergh merkt an, dass die Datenschutzgrundverordnung bereits zu einem gewissen Grad einschränkt, was Unternehmen mit KI tun dürfen. "Aber Technologien bewegen sich um den Globus, da fällt die Regulierung schwer." Die Experten am Podium sind sich einig, dass es gerade in Europa künftig strengere Regeln für KI geben wird. Unternehmen können den Entstehungsprozess dieser Regeln maßgeblich beeinflussen. Coeckelbergh: "Sie können proaktiv die Initiative übernehmen, wie man diese Technologie auf ethisch korrekte Weise verwenden kann. In China und den USA wird da weniger Wert drauf gelegt, in Europa könnten sich Unternehmen dadurch auszeichnen."

Zukunft

Das Finanzwesen wird in Zukunft jedenfalls stark von KI geprägt sein. "Die Zukunft der Kundenbetreuung wird definitiv automatisiert sein, aber auch personalisiert", meint Brydie Lear. "Banking baut aber sehr auf Vertrauen und persönlicher Erfahrung auf. Das kann man nur zum Teil durch KI abdecken." Mark Coeckelbergh warnt davor, den menschlichen Faktor völlig auszulöschen: "Generell akzeptieren Kunden Automatisierung, aber es wird einen Bedarf an menschlichem Kontakt geben, das sollte man nicht ignorieren."

Das Bild, das in der Gesellschaft von KI vorherrscht, ist laut Lena-Sophie Müller von Science Fiction und Medien geprägt. "In vielen Fällen wird KI durch Roboter dargestellt, die unsere Jobs übernehmen. Man muss dieses Bild vom bösen Roboter loswerden und zeigen, welche Möglichkeiten KI eröffnet." Brydie Lear stimmt zu: "Es gibt viel Misstrauen und Unsicherheit rund um KI. Was hilft, ist der Dialog - so wie dieser hier."

Dieser Artikel entstand im Rahmen einer Kooperation zwischen ING und der futurezone.