Eine KI, die die Menschheit ausrottet: "Das ist nur Werbung"

Als ich Meredith Whittaker bei der der Digitalkonferenz re:publica in Berlin im Backstage-Raum des Events zum Interview traf, hatte sie bereits einen langen Tag hinter sich. Vor ihr stand ein Glas Wasser, rechts davon eine Schale Obst. Ich sprach mit der Präsidentin der Signal-Foundation über die Gefahren von künstlicher Intelligenz und darüber, was das alles mit Signal, dem beliebten Messenger-Dienst und WhatsApp-Konkurrenten, zu tun hat.

futurezone: Die Signal Foundation, deren Präsidentin Sie sind, hat sich der Aufgabe verschrieben, private Kommunikation allen zugänglich und sicher zu machen. Was hat das nun mit künstlicher Intelligenz (KI) zu tun?
Meredith Whittaker: Die KI-Systeme, die von den großen Big-Tech-Playern entwickelt werden, wollen uns definieren, über uns bestimmen, uns einordnen. Dabei handelt es sich um noch mehr Überwachung und steht damit dem Anliegen der Signal Foundation, die Invasion unserer Privatsphäre zu stoppen, konträr gegenüber. Daher macht es Sinn, diese neue Art der Massenüberwachung zu bekämpfen. 

Der Informatiker Geoffrey Hinton, der wie Sie bei Google gearbeitet und den Konzern nun verlassen hat, warnte unlängst vor den Gefahren von KI. Was haben Sie sich bei der Warnung gedacht?
Ich fürchte, dass er damit nur Teil einer Maschinerie ist, die den Hype um KI weiter anfacht. Er adressiert nicht die Gefahren, um die es wirklich geht und die dringlich sind, sondern lenkt von diesen sogar gezielt ab. Es ist sogar implizite Werbung für ein System, das dadurch noch machtvoller und wichtiger wirkt, und ausschließlich den Unternehmen nutzt, die die KI-Systeme kontrollieren.

Das heißt, jede dieser „Warnungen vor KI“ hilft, den Hype weiter anzukurbeln?
Ja. Es gibt aktuell keine Evidenz dafür, dass KI in der Lage ist, die Menschheit auszurotten. Manche Menschen, die davor warnen, mögen das vielleicht tatsächlich glauben, aber sie helfen damit nur, die Werbemaschinerie anzukurbeln. Es gibt 0 Evidenz dafür, dass KI ein Bewusstsein erlangen kann.

Was sind aus Ihrer Sicht dann die „echten“ Gefahren?
Es haben nur wenige Big-Tech-Firmen die Kapazitäten, Large-Language-Modelle voranzutreiben, weil man dafür enorm viele Rechenkapazitäten und Trainingsdaten benötigt. Dazu gehören Microsoft und Google. In der Vorstellung vieler ist KI so eine innovative, beängstigende, wissenschaftliche Entdeckung. Stattdessen gehören die KI-Systeme Big-Tech-Firmen. Diesen geht es nur um wirtschaftlichen Profit und Wachstum. Diese Interessen stehen dem sozialen Gedanken oder öffentlichem Interesse sowie demokratischen Entscheidungen oft konträr entgegen. Die KI-Systeme, die von diesen Unternehmen entwickelt werden, sind Teil des Überwachungskapitalismus. Mit den Daten werden Vorhersagen über Menschen getroffen, Entscheidungen über sie gefällt, und es werden noch mehr Daten produziert und gesammelt.

Wann hat das aus Ihrer Sicht begonnen, dass die Tech-Firmen diese Dinge übernommen haben?
Das ist schwer zu beantworten, wann es begonnen hat, Menschen wie Zahlen zu behandeln. Aber diese Machtkonzentration ist in etwa vergleichbar mit jener der Katholiken im Mittelalter.

Welchem Unternehmen, denken Sie, hilft die permanente Aufmerksamkeit am meisten, OpenAI oder Google?
Beiden.

In den USA gibt es bereits sehr viele automatisierte Entscheidungen in verschiedenen Bereichen, bei denen im Hintergrund KI-Systeme Entscheindungen über Menschen treffen, ohne, dass diese es wissen oder Einsicht ins Ergebnis erhalten. Wie kann man diesen Trend stoppen?
Ein erster Anfang wäre, dass wir Zugang erhalten zu den Informationen darüber, wo die Systeme überall eingesetzt werden und auf welcher Datenbasis die Entscheidungen über uns getroffen werden. Das Problem ist aber auch hier, dass die Firmen, die die KI-Systeme lizensieren, natürlich kein Interesse daran haben, dass diese Informationen offengelegt werden, es sind ihre Geschäftsgeheimnisse. Die Big-Tech-Industrie hat freilich kein Interesse daran, dass bekannt wird, worauf ihre Entscheidungen basieren. Das müsste sich ändern.

Würden Open-Source-Systeme helfen?
Das Problem ist, dass es sich nur große Firmen leisten können, Systeme zu trainieren. Mit Open-Source-Lizenzen können diese Produkte dann vielleicht adjustiert werden, aber dadurch wird KI nicht demokratisiert und die Macht der Big-Tech-Firmen wird nicht reduziert. Open-Source-Lizenzen sind ein Weg zu helfen, aber es reicht nicht, um KI zu demokratisieren. Die Machtkonzentration bleibt weitgehend erhalten.

Was für andere Möglichkeiten sehen Sie sonst noch?
In Hollywood streiken 11.500 Autor*innen, weil sie durch KI ersetzt werden sollen. Sie wollen die Macht darüber, wie KI verwendet wird und wollen mitbestimmen und klar machen, dass es ohne sie nicht geht. Das ist der richtige Weg. Wir werden viele Arbeitskämpfe sehen, wenn es darum geht, dass Maschinen die Arbeit von Menschen ersetzen sollen und diese Menschen aber das "Wie" mitbestimmen möchten.

Signal ist ein Messenger, bei dem die Privatsphäre geschützt werden soll. Er steht in direkter Konkurrenz zu WhatsApp und vielen anderen. Wie schwierig ist es, sich gegen diese Konkurrenz durchzusetzen?
Wir sind ein kleines Team, bestehend aus 40 Menschen. WhatsApp hat alleine 1.000 Ingenieur*innen. Wir können mit WhatsApp nicht direkt konkurrieren. Stattdessen konzentrieren wir uns darauf, eine völlig unabhängige Messaging-App bereitzustellen. Das bedeutet aber jede Menge Extra-Arbeit, weil es gegen die gängigen Business-Modelle im Überwachungskapitalismus steht. Wir sammeln keine Daten. Wir müssen uns Gedanken darüber machen, wie man Metadaten privat halten kann. Diese Fragen hat sich außer uns niemand zuvor gestellt.

Das heißt, Signal konkurriert nicht mit WhatsApp?
Es war schön zu sehen, dass wir durchaus große Nutzer*innenzuwächse hatten als WhatsApp angekündigt hatte, die Daten mit Facebook zu teilen. Viele Leute haben da gesagt: Nein, es reicht uns, die Privatsphäre ist uns wichtiger und sind zu uns gewechselt. Das ist unser Antrieb, Signal weiterhin schnell und zugänglich für alle zu machen - eine App, die von Kindern gleichermaßen genutzt wird wie von Erwachsenen. Wir wollen, dass jeder seine Privatsphäre schützen kann.

Wie sieht es mit neuen Features aus?
Dieses Jahr planen wir noch einzuführen, dass Menschen künftig ihre Telefonnummer verbergen können und nur mit einem Nickname kommunizieren können. Das war stark nachgefragt und wir hören zu. Außerdem planen wir die Möglichkeit, Nachrichten zu editieren, für unsere Nutzer*innen zu verbessern. Abgesehen davon konzentrieren wir uns vor allem darauf, dass die Performance gut bleibt und Signal schnell und verlässlich ist.

➤ Mehr lesen: Soll ich von WhatsApp auf Signal wechseln oder nicht?

Vor 10 Jahren hat Edward Snowden den NSA-Massenüberwachungsskandal aufgedeckt.
Ja, damals war ich gerade auf dem Weg nach Berlin zu einem Tor-Meeting (Tor ist ein Netzwerk zum sicheren und privaten Surfen im Internet, Anm. d. Red).

Was hat sich in den 10 Jahren in Punkto Überwachung verändert?
Ich bin sicher, es hat auch positive Änderungen gegeben, aber strukturmäßig hat sich nicht viel geändert. Im Gegenteil. Die US-Regierung hat gerade erst wieder die Massenüberwachung legitimiert. Ich wünschte, der Skandal hätte mehr Effekte gehabt. Ich war damals schon eine Person, die sich für die Privatsphäre eingesetzt hat. Damals habe ich immer gesagt: Ich wusste es schon immer! Jetzt wird es endlich bekannt, was da alles schief läuft! Leider hat dieses Bekanntmachen der Informationen nicht ausgereicht. Man braucht eine Organisation, die Forderungen aus so einem Skandal ableitet. Nur Recht zu haben alleine reicht nicht. Das habe ich dann später erkannt und habe deshalb bei Google begonnen, die Arbeitnehmer*innen zu organisieren, um strukturelle Änderungen zu erreichen.