"Durch unsere Technik stufen wir uns als Menschen herab"

Im Jahr 2018 stellten sowohl Google als auch Apple neue Funktionen vor. Damit sollten Smartphone-Nutzer ihren eigenen Umgang mit den Geräten besser überblicken und steuern können. Dieser Schritt hin zu mehr "digitalem Wohlbefinden" ("digital wellbeing"), dem bald auch Facebook und andere große Tech-Konzerne folgten, geht auf die "Time Well Spent"-Bewegung der Non-Profit-Organisation Center for Humane Technology zurück. Dahinter stehen der ehemalige Google-Ethiker Tristan Harris und der ehemalige Firefox-Chefdesigner Aza Raskin. Raskin war anlässlich des Pioneers Festival 2019 in Wien zu Gast, wo ihn die futurezone zum Gespräch traf.

Wie haben Sie es angestellt, dass in Android und iOS Funktionen für "digitales Wohlbefinden" eingeführt wurden?
Mit "Time Well Spent" ging es uns darum aufzuzeigen, wie Technologie uns auf individueller und gesellschaftlicher Ebene beeinflusst. Wir haben es geschafft, dass unsere Idee auf Milliarden Smartphones gebracht wurde, ohne dafür eine einzige Zeile Code geschrieben zu haben. So etwas funktioniert nur durch Druck. Wie übt man Druck auf Menschen wie Mark Zuckerberg aus? Er braucht nur dreimal an einem Tag hintereinander von "Time Well Spent" hören: Einmal aus den Medien, einmal im Büro am Gang und einmal von einem Aufsichtsratmitglied, das plötzlich fragt: "Stiehlt unser Produkt die Zeit der Leute?" Das ist die Kraft der Sprache.

Also Sie meinen, "Time Well Spent" hat sich einfach herumgesprochen und an einem Punkt die Ohren von Entscheidungsträgern gefunden?
Naja, damit das funktioniert, musst du die öffentliche Aufmerksamkeit in großem Stil erregen, du musst mit Leuten innerhalb von Technologieunternehmen sprechen und mit Regierungen zusammenarbeiten. Wir erreichten viel Beachtung durch einen Auftritt bei der Vortragsreihe TED X. Danach kamen wir ins Fernsehen und in die New York Times. So haben wir das aufgebaut. Aber am Ende sprechen wir nur etwas aus, was jeder fühlt, und das ist: Technologie sollte unser Leben bereichern. Stattdessen kommen wir drauf, dass sich unsere Beziehungen nicht richtig anfühlen. Politik ist polarisierter denn je. Entrüstung ist die dominante Form von Gefühlsausdruck in sozialen Medien. Warum ist das so?

Und Sie sehen die Ursache für all das in Technologien?
Die Sache ist kompliziert. Alles ist mit allem verbunden. Wie kommen unsere Unternehmen zu Geld? Durch Aufmerksamkeit. Wir leben in einer Aufmerksamkeitsökonomie. Die erfolgreichsten Unternehmen haben gelernt, wie man Menschen als Ressource nutzt, die man ausschöpfen kann. Laut einer Studie beträgt die Zeitspanne, die sich Menschen weltweit im Durchschnitt ununterbrochen einer Tätigkeit widmen können, derzeit bei 40 Sekunden. Die Unterbrechung erfolgt dabei nicht von außen, sondern durch uns selbst. Das liegt daran, dass unsere Gedanken wortwörtlich optimiert werden.

Welchen Grund gäbe es dafür?
Wir werden optimiert für das Gewinnen von Aufmerksamkeit. Wir sind wie Kühe für die Aufmerksamkeitsökonomie. Wenn aber deine Aufmerksamkeit verkürzt wird, bedeutet das, dass man immer skandalösere Sachen sagen muss, um gehört zu werden. Dadurch vertieft sich die Polarisierung. Es gibt mehr "Wir gegen die"-Denken, das Vertrauen sinkt. Man hat also diesen Satz an verknüpften Problemen, die wir "menschliche Herabstufung" ("human downgrading") nennen.

Inwiefern ist das eine Herabstufung?
Der Akt, unsere Aufmerksamkeit zu erlangen, ist eine Herabstufung unseres Vertrauens, eine Herabstufung unseres politischen Diskurses, eine Herabstufung unserer Demokratien, eine Herabstufung unserer Konzentrationsfähigkeit, eine Herabstufung der Möglichkeit, eine geteilte Wahrheit zu haben. Das bedeutet, dass es mehr Falschmeldungen ("fake news") gibt. Alle diese Dinge sind tiefgreifend miteinander verbunden. Also "Time Well Spent" war unser erster Schritt hin zu einer komplett neuen Agenda für Technologien.  Wir arbeiten alle an unterschiedlichen Problemen, wie Blockchain, Dezentralisierung, Privatsphäre, aber wir versammeln uns nicht alle um das Kernproblem. Denn all diesen Dingen zugrunde liegt die Aufmerksamkeitsökonomie.

Wenn Technologieunternehmen neue Produkte präsentieren, bewerben sie meist deren unglaubliche Nützlichkeit für Menschen. Schafft nicht alles, was einem nützlich vorkommt, in gewisser Weise eine Abhängigkeit?
Es ist wichtig zu sagen, dass Technologie fantastisch sein kann. Mein Vater entwickelte etwa den Macintosh, weil er damit Musik machen wollte. Da ging es darum die Fähigkeiten, in denen Menschen gut sind, zu erweitern. Das Problem beginnt erst, wenn Technologie beginnt, Dinge zu kolonisieren, die wir tun, um Beziehungen zueinander zu haben. Für mich gibt es zwei archetypische Geschichten, die unsere Zeit verkörpern. A: Sei vorsichtig damit, was du dir wünschst. Und B: Die Entwickler, die die Kontrolle über ihre Entwicklungen verlieren. Ich zeige dir mal ein Beispiel für Punkt B. (zeichnet folgende Illustration).

Die Linie hier oben zeigt die menschlichen Fähigkeiten oder Stärken. Das hier sind die Fähigkeiten von Technologie, die uns irgendwann übertreffen. Dieser Punkt ist die "Singularität". Darüber sprechen alle und verkaufen dir 10.000-Dollar-Tickets nach Davos. Es ist sexy, weil es weit genug weg ist, deshalb ist es noch nicht so gefährlich, aber am Ende ist es intellektuelles Masturbieren. Aber diese Linie hier unten, das sind die menschlichen Schwächen. Technologien überqueren diesen Punkt wesentlich früher - das übersieht man leicht.

Wurde dieser Punkt Ihrer Meinung nach schon erreicht?
Smartphones haben unsere Fähigkeiten zur Selbstregulierung bereits überwältigt. Wir sind tatsächlich unterdrückt. Wie sonst schafft man es, dass die gesamte Menschheit ihren Kopf neigt. Indem wir unser Smartphone bedienen, streicheln wir quasi unsere Herrscher. Aber es gibt noch andere Beispiele - und das betrifft jetzt Punkt A: Was wünschen wir uns denn? Aufmerksamkeit. Unternehmen schaffen es, uns süchtig danach zu machen. Wie? Etwa indem man das Selbstwertgefühl junger Mädchen anspricht.

Sie sprechen von Instagram?
Ich spreche auch von Instagram. Unternehmen geben dir auch einen einfachen Weg, um mehr Aufmerksamkeit zu erlangen. Sie beweisen dir, dass dich Menschen mehr mögen, wenn du anders aussiehst. Etwa durch Filter. 55 Prozent aller plastischen Chirurgen in den USA berichten, dass Patienten sie fragen, ob sie so wie mit ihrem Snapchat-Filter aussehen könnten. Damit verändert man das Identitätsgefühl der Leute. Noch ein Beispiel: Auf Instagram werden Leute mehr gemocht, wenn sie ein Leben präsentieren, das nicht wirklich ihres ist. Jeder weiß, dass man auf Social Media ein kuratiertes Bild von sich präsentiert, aber die tiefere Wahrheit ist, dass es die Wahrnehmung verändert, wie man leben sollte. Das hat Auswirkungen auf uns.

Welche Auswirkungen?
1991 lag die Rate an schweren Depressionen unter jungen Frauen bei 17 Prozent. 2013, als Social Media gerade abzuheben begann, waren es 21 Prozent und 2017 lag die Rate bei 29 Prozent. Ich habe ein weiteres Beispiel: Die neue automatische Vervollständigung (Autocomplete) von Gmail. Die ist wirklich gut. Aber was wird passieren, wenn du ständig Beweise dafür erhältst, dass dich Leute mehr mögen, dass deine Kommunikation effizienter funktioniert, wenn du vorgefertigte Antworten verschickst? Das ist zwar bequem, aber damit starten wi, unsere Persönlichkeit auszulagern. Indem wir unsere Maschinen verbessern, stufen wir uns als Menschen herab.

Und sie denken, dass sich das auch die Politik verändert?
Ich denke, das ist eine gute Erklärung dafür, dass Populismus und Faschismus aufleben. In den USA haben wir eine gespaltene Gesellschaft. Teilweise liegt das an unserem Präsidenten, aber der ist auch nur ein Symptom eines Systems, so wie es Bolsonaro in Brasilien ist oder Orban in Ungarn. Auch hier in Österreich laufen die Dinge gerade nicht so gut. Ich möchte nicht sagen, dass das alles schuld von Technologie ist, aber es ist offensichtlich, dass Technologie diese Entwicklung exponentiell verstärkt. Und das alles passiert in Zeiten des Klimawandels. Das ist der Moment in der Geschichte, wo wir geteilte Wahrheiten brauchen, nicht zersplitterte. Deswegen brauchen wir jetzt eine neue Agenda für Technologien.

Wie wollen Sie das erreichen?
Das erste ist, dem System einen Namen zu geben. Die Verkürzung der Aufmerksamkeitsspanne, das Kolonisieren unserer Persönlichkeit, die Manipulation unserer Identitäten, unserer Werte, unserer Zivilgesellschaft, unserer Demokratien. Das alles nennen wir menschliche Herabstufung. Damit konfrontieren wir die Erschaffer von Facebook, Google oder YouTube. Die sollen darüber nachdenken, auf welche Weise Technologien Menschen herabstufen und wie Technologien andererseits die Fähigkeiten von Menschen erweitern können.

Denken Sie, dass Sie mit ihrer Botschaft wirklich die Leute erreicht haben, die wirklich Änderungen hervorrufen können?
Ja, absolut.

Woran erkennen Sie das?
An vielen vertraulichen Konversationen, mit der kompletten Bandbreite an Personen, die diese Unternehmen lenken. Zur letzten unserer Veranstaltungen ist das Who is Who des Silicon Valley gekommen. Mike Krieger etwa, einer der Gründer von Instagram. Oder Guillaume Chaslot, der an dem Empfehlungsalgorithmus von YouTube gearbeitet hat und jetzt einer seiner schärfsten Kritiker ist. Mark Benioff (Gründer von Salesforce) war da. Der spricht jetzt über Social Media als die neuen Zigaretten. Jeder fühlt, das etwas falsch läuft. Was wir tun, ist, dem einen Namen und eine Richtung zu geben, damit wir alle in die selbe Richtung drängen.

Wie wollen Sie der Öffentlichkeit ihre Botschaft vermitteln?
Wir müssen Aufklärungskampagnen durchführen, mit staatlichen Akteuren verhandeln. Medien sind ein unglaublich wichtiger Teil dieser Geschichte. Das ist es, was mir gefällt: Hier sitze ich als Vertreter des Center for Humane Technology, hier sitzen Sie als Vertreter der futurezone, aber wir sind auch zwei menschliche Wesen, die in diesem System leben. Und wenn wir uns nur auf diesem Level austauschen, erkennen wir, dass wir uns um dieselben Dinge kümmern.