Wie man Empfehlungssysteme fairer machen kann

Empfehlungssysteme sollen das Leben im Netz leichter machen. Auf Amazon bekommt man etwa basierend auf seinen Interessen und Käufen unter „Bücher, die dir gefallen können“, Tipps für die nächste Lektüre. Auf Netflix werden einem Serien und Filme angezeigt, die man als als nächstes ansehen könnte. Doch auch auf Reiseplattformen, Medienportalen oder Musikdiensten kommen personalisierte Empfehlungen zum Einsatz.

Forschung im Labor

Julia Neidhardt vom Institut für Information System Engineering an der TU Wien beschäftigt sich seit Jahren mit diesen personalisierten Systemen und forscht nun im Christian Doppler Labor daran, wie man diese noch besser machen kann. „Noch besser“ heißt nicht, dass Empfehlungen den Geschmack der Nutzenden noch genauer treffen müssen, sondern, dass sie die Erwartungen, die Nutzer*innen mitbringen, auf eine andere Art und Weise übertreffen. „Ein gutes System sollte nicht nur den Geschmack treffen, sondern auch Vielfalt bieten und damit Überraschungsmomente liefern“, erzählt Neidhardt im Gespräch mit der futurezone.

Im Christian Doppler Labor wird die Forscherin zusammen mit Projektpartner*innen nicht nur an der Theorie arbeiten, sondern auch mit praktische Daten. „Was in der Forschung zu diesen Systemen bisher fehlt, ist, dass sehr viele Dinge oft statisch betrachtet werden und auf alten Daten basieren. Wir sehen in der Zusammenarbeit mit Unternehmen eine große Chance, uns die Dynamiken der Systeme anzusehen und mit Menschen darüber zu sprechen, die Empfehlungen erhalten“, sagt Neidhardt.

Historische Daten würden nämlich nur ein Abbild der Vergangenheit widerspiegeln, so Neidhardt. „Damit sind Algorithmen zwar genauer, aber haben praktisch nicht so viel Relevanz“, sagt die Forscherin. Ein Beispiel dafür aus dem Bereich der Empfehlungen für Krimis und Thriller: Viele Bestseller stammen von männlichen Autoren. Diese werden, basierend auf den Datensätzen der Vergangenheit, dann vielfach weiterempfohlen, weil das System das so gelernt hat. Krimi- und Thrillerautorinnen werden vom System dann weniger häufig empfohlen.

Fairere Systeme

„Da stecken freilich auch kommerzielle Interessen dahinter. Ein System bringt schließlich immer mehrere Interessengruppen zusammen“, sagt Neidhardt. „Die Frage ist: Ist es fair für die Autorinnen, die nicht angezeigt werden?“ Diesen „Bias“, wie er in der Fachsprache genannt wird, möchte Neidhardt ebenfalls untersuchen. „Die Empfehlungssysteme sollten fair sein und für alle Ergebnisse in gleicher Qualität liefern“, so Neidhardt.

Untersucht werden soll etwa, wie sich Genauigkeit, Diversität und Fairness als Faktoren zueinander verhalten. „Es freut mich sehr, dass unsere Firmenpartner*innen auch großes Interesse an diesen zentralen Fragestellungen haben und sich sehr bewusst sind, dass es neben Gender-Fragen auch ethnische Verzerrungen gibt“, sagt die Forscherin.

Einer dieser Partner ist der Falter Verlag. Für diesen sollen die auf der Website angebotenen Kultur-Events, Bücher und Nachrichtenbeiträge stärker miteinander verknüpft werden. „Es geht dabei darum, dass bereits eine Fülle von Informationen vorhanden ist, die allerdings häufig nicht miteinander verknüpft sind. Wir werden uns überlegen, wie man die Informationen charakterisieren muss, damit man sie besser interaktiv einsetzen kann“, sagt Neidhardt.

Mode mit Tipps von Freund*innen

Mit dem zweiten Partner You Know Me Best, geht es vor allem darum, Gruppenentscheidungen zu erforschen. Dabei handelt es sich um einen Online-Shop im Mode-Bereich, der ein System hat, bei dem man die Meinung von Freund*innen miteinbeziehen kann, um Empfehlungen zu bekommen. „Das ist eine spannende Sache, weil soziale Kontakte bei der Auswahl an Kleidungsstücken miteinbezogen werden“, sagt Neidhardt. Gesammelt und nach Gewichtung kann der Algorithmus dann die Kleidungsstücke zum Kauf empfehlen, die die höchste Zustimmung erhalten haben“, beschreibt Neidhardt den Prozess.

Beide Firmen bringen unterschiedliche Perspektiven mit. „Während es in der Modebranche vielleicht von Vorteil sein kann, nur Vorschläge zu erhalten, die zu den eigenen Präferenzen passen, kann dies bei Nachrichten problematisch sein, da eine Filterblase entsteht“, erklärt Neidhardt.

7 Jahre Zeit

Die Forschung zu Empfehlungssystemen im Christian Doppler Labor ist mit 7 Jahren auf einen relativ langen Zeitraum ausgelegt. Oft stoßen Forscher erst nach 2 Jahren auf wichtige Dinge, die sie dann nicht mehr zu Ende bringen können. „Bei uns können noch weitere Firmen dazu stoßen, wenn sie dazu passen“, sagt Neidhardt. Das Labor wird von der öffentlichen Hand (Bundesministerium für Digitalisierung und Wirtschaftsstandort) und den beteiligten Unternehmen gemeinsam finanziert.