DigHum-Konferenz: "Wir befinden uns in einem Dauer-Ausnahmezustand"

Für die „DigHum“-Konferenz im Wiener Museumsquartier versammelten sich von Montag bis Mittwoch vergangener Woche Wissenschafterinnen und Wissenschafter aus der ganzen Welt sowie Interessierte zum Thema „Shaping our digital future“ („unsere digitale Zukunft gestalten“). Kernfrage des Programms war, wie in der digitalen Transformation unserer Gesellschaften die Demokratie gewahrt und der Mensch in den Mittelpunkt gestellt werden kann.

Utopie und Ernüchterung

In den frühen Jahren des Web wurden große Hoffnungen in die neue Technologie gesetzt: Mehr Vernetzung zwischen den Menschen und freier Zugang zu Wissen, würde die Welt zu einem besseren Ort machen. „Rückblickend war das utopisch. Ja, durch die Vernetzung entstand ein großer Wert, aber der konzentriert sich ökonomisch auf einige wenige Unternehmen“, sagt Annabelle Gawer in einer Diskussionsrunde. Die Professorin für digitale Ökonomie der University of Surrey forscht seit mehr als 20 Jahren zu Plattformen und sieht diese als herrschende Organisationsform des digitalen Zeitalters. 

➤ Mehr lesen: Experte: „Kinder wachsen bald mit KI-Freunden auf“

Denn die größten davon – Amazon, Apple, Google, Meta und Microsoft – hätten es mit ihren durchaus nützlichen Services geschafft, sich eng in den Alltag von Menschen weltweit zu weben. „Wir werden dadurch alle von unsichtbaren Regeln beeinflusst, die auf Software basieren“, meint Gawer. Diese Firmen seien heute teilweise mächtiger als so manche Nationalstaaten.

Dauer-Ausnahmezustand

„In europäischen Gesellschaften befinden wir uns in einem Dauer-Ausnahmezustand: Kriege, Klimawandel, wirtschaftliche Turbulenzen. In so einer Situation wird autoritäre und technokratische Herrschaft attraktiv“, analysiert Philipp Staab, Professor für Soziologie von Arbeit, Wirtschaft und technologischem Wandel an der Humboldt-Universität zu Berlin. Plattformunternehmen würden diese technokratisch-autoritären Sehnsüchte bedienen.

Denn sie verlängerten die Gegenwart für die Menschen, die ihren Lebensstandard bedroht sehen und kein Interesse an Veränderung haben. Zusätzlich böten sie unpolitische Ablenkung und gleichzeitig hyper-politische Positionen. Als Konsequenz profitieren die Plattformunternehmen vom lähmenden Ausnahmezustand und können ihre Macht sichern oder ausbauen.

Superintelligenz

Unter den Vortragenden herrschte Einigkeit, dass der Macht der großen Tech-Konzerne Einhalt geboten werden muss. „Die heutige Tech-Industrie ist völlig unreguliert, das hat dazu geführt, dass sich alles unglaublich beschleunigt hat, vor allem bei KI“, erklärt Wendy Hall von der University of Southhampton. 

Die britische Informatik-Professorin ist neben Tim Berners-Lee, dem Begründer des World Wide Web, Direktorin des Web Science Trust, der zu dessen sozialen und technischen Aspekten forscht. Mit der Einführung von ChatGPT im November 2022 wurde KI plötzlich zum bestimmenden Thema. 

➤ Mehr lesen: ChatGPT-Modell sabotiert Versuch, es abzudrehen

Die Erzählung einer möglichen Superintelligenz, die sich gegen die Menschheit wenden könnte, rief auch Staats- und Regierungschefs weltweit auf den Plan, erinnert sich Hall: „Wir sind in den Modus existentieller Bedrohung gewechselt, statt über die Regulierung dieser Technologien nachzudenken. Es gab eine Phase, in der die ‚tech-bros‘ direkten Zugang zu Regierungen hatten.“ Die Möglichkeiten, die Künstliche Intelligenz für Medizin und Forschung böten, seien fantastisch, doch ohne Kontrolle berge die Technologie enorme Gefahren.

Regulierung

Wie man Digitalkonzerne zugunsten von Demokratie und Menschenrechten reguliert, ist keine einfache Frage, wie die Diskussionen auf der „DigHum“ zeigen. Hall spricht sich für eine Lösung auf internationaler Ebene aus: „Es ist wie beim Klimawandel, man braucht auf oberstem Level Vereinbarungen, die dann in nationales Recht umgesetzt werden.“

Christiane Wendehorst, Professorin für Zivilrecht an der Universität Wien, stellt klar, dass Gesetzgebung von technologischer Entwicklung überholt werden könne, so geschehen beim AI Act der EU. „Gesetze müssen smart, schlank, flexibel und technologie-neutral sein. Es ist schwierig, sie so zu entwerfen, dass sie ihr Ziel ohne Kollateralschaden genau treffen.“ 

Sie spricht sich daher dafür aus, erst einmal bestehende Gesetze, etwa aus dem Vertrags- und Wettbewerbsrecht, zur Anwendung zu bringen. Auch der österreichische Jurist und Datenschutzaktivist Max Schrems fordert bessere Durchsetzung: „Wenn ich ohne Ticket U-Bahn fahre und erwischt werde, muss ich 100 Euro Strafe zahlen. Meta nimmt einfach Daten von Nutzerinnen und Nutzern und nichts passiert!“

Vorbild Brasilien

In Brasilien wurde vergangenes Jahr in zwei aufsehenerregenden Fällen geltendes Recht gegenüber Plattform-Unternehmen durchgesetzt, wie Virgilio Almeida berichtet. Er ist emeritierter Informatikprofessor an der Universidade Federal de Minas Gerais und war von 2011 bis 2015 brasilianischer Minister für digitale Transformation. 

Basierend auf einem Gesetz von 2014, das Internet-Unternehmen einen in Brasilien ansässigen Rechtsvertreter vorschreibt, hatte der Oberste Gerichtshof X (vormals Twitter) im September 2024 sperren lassen. Erst nach Zahlung einer Geldstrafe und der Einsetzung eines X-Verantwortlichen im Land durfte die Plattform im Oktober wieder online gehen. „Das war eine wichtige Initiative um die Souveränität Brasiliens zu demonstrieren“, meint Almeida.

➤ Mehr lesen: Brasilien verbietet X und folgt damit China und dem Iran

Anlässlich der landesweiten Kommunalwahlen verständigte sich die brasilianische Regierung zudem mit Social-Media-Plattformen, während des Wahlkampfs 2024 KI-generierte Bilder und Videos zu blockieren. Solche vorläufigen Maßnahmen könnten in heiklen Situationen helfen, die Demokratie vor unangemessener Einflussnahme zu schützen, sagt Almeida. 

KI gegen Vorurteile

Trotz aller Schreckensszenarien und Kritik gab es auch Stimmen auf der Konferenz, die das Potenzial von KI im Zusammenhang mit Social-Media-Plattformen positiv hervorhoben. Darunter Chris Bail, Soziologie-Professor an der Duke University.

„Generative KI wird neue, mächtige Misinformations-Kampagnen erzeugen können. Aber es könnte uns auch helfen, online Hassrede zu reduzieren und uns algorithmisch auf unsere Vorurteile hinweisen, in dem uns Inhalte empfohlen werden, die wir sonst nicht sehen würden“, so Bail. Plattformen bräuchten ganz im Sinne des digitalen Humanismus einen neuen Leitstern, der sich am Gemeinwohl orientiert.