EU-Chatüberwachung nicht effektiv umsetzbar, warnen Experten

Damit Kinderpornos gefunden werden, sollen alle Chats aller EU-Bürger*innen überwacht werden. Das sieht eine Verordnung der EU-Kommission zur Bekämpfung von Kindesmissbrauchsdarstellungen im Netz vor, über die seit Monaten heiß verhandelt wird. Derzeit liegt das Gesetzesvorhaben beim EU-Parlament, wo über die Details diskutiert wird.

Client-Side-Scanning als einzige Methode

Im Entwurf der EU-Kommission, der als Verhandlungsbasis dient, ist eine Verpflichtung der Anbieter von Kommunikationsdiensten enthalten, sämtliche Inhalte auf verdächtiges Material hin zu durchsuchen. Das soll insbesondere für Chatanbieter und Messengerdienste wie WhatsApp, Signal, Telegram & Co gelten, aber auch für Telefonie, E-Mail oder Videokonferenzen.

Doch da gibt es ein Problem: Die Chats sind Ende-zu-Ende verschlüsselt und somit vor Zugriffen von Inhalte-Anbietern geschützt. Die EU-Verordnung sieht derzeit keine Ausnahmen für verschlüsselte Inhalte vor. Der jüngste Ausschuss, der sich mit dem Gesetzesentwurf befasst hat, hat eine Überwachung der Inhalte mit Client Side Scanning abgelehnt. Client Side Scanning ist eine technische Verfahrensweise, bei der Dateien lokal auf dem Endgerät durchsucht werden, bevor die Kommunikation verschlüsselt wird.

"Nicht sicher und effektiv umsetzbar"

Wie absurd diese ganze politische Diskussion ist, zeigt nun ein Brief von hochrangigen Wissenschaftler*innen. International haben am Dienstag 300 Wissenschaftler*innen aus 30 Ländern aus den Bereichen Security, künstlicher Intelligenz (KI) und Recht mit wissenschaftlichen Argumenten dargelegt, warum es keine „grundrechtsfreundliche“ Chatüberwachung geben kann - und warum sie aus technischer Sicht so gravierende Auswirkungen auf die Gesellschaft haben würde, wie kaum ein Eingriff zuvor.

In Österreich haben 20 Forscher*innen den offenen Brief unterzeichnet, darunter etwa der KI-Forscher Sepp Hochreiter, Vorstand des Instituts für Machine Learning von der JKU Linz, sowie Professor Rene Mayrhofer von der JKU Linz, Vorstand des Instituts für Netzwerke und Sicherheit, sowie Professor Matteo Maffei, Leiter des Security und Privacy Forschungsbereichs an der TU Wien. „Als Wissenschaftler*innen, die aktiv in verschiedenen Bereichen dieser Thematik forschen, geben wir daher in aller Klarheit die Erklärung ab: Dieser Vorstoß ist nicht sicher und effektiv umsetzbar“, heißt es in dem offenen Brief.

„Es gibt keine effektive Möglichkeit, den Einsatz sicherer Verschlüsselung ohne Client-Side-Scanning (CSS) auf technischer Ebene zu blockieren“, so die Forscher*innen. Die Forscher*innen weisen damit darauf hin, dass die EU am Ende ein Gesetz beschließen könnte, dass vom Wording her kein direktes Verschlüsselungsverbot oder Client-Side-Scanning vorsieht, aber es technisch anders gar nicht gehen würde, das Gesetzesvorhaben umzusetzen. Wie die Diensteanbieter es technisch bewerkstelligen sollen, Missbrauchsdarstellungen in verschlüsselter Kommunikation aufzudecken, würde offen gelassen werden.

➤ Mehr lesen: Es ist nicht die erste Warnung und heftige Kritik an der Chatkontrolle

Kriminelle wären dann besser geschützt als EU-Bürger*innen

Die Forschenden weisen darauf hin, dass Messenger-Anbieter wie WhatsApp, Signal & Threema bereits angekündigt haben, sich eher aus den Märkten zurückzuziehen, als die Verschlüsselung für alle aufzubrechen. Denn das müssten sie am Ende tun, wenn die EU das Gesetz so wie vorgesehen beschließt. „Eine systematische und automatisierte Überwachung verschlüsselter Inhalte ist technisch nur möglich, wenn die durch Verschlüsselung erzielbare Sicherheit massiv verletzt wird. Wenn Überwachungsmaßnahmen in Messengern vorgeschrieben werden, werden nur noch Kriminelle ihre Privatsphäre wahren“, warnen die Forscher*innen weiter.

Kriminelle würden trotzdem Wege finden, an verschlüsselte Kommunikationskanäle zu kommen, etwa Signal oder Threema über Stores aus Drittananbietern installieren, während das für die EU-Bevölkerung großteils schwierig wäre. Es gäbe in der EU dann auf jeden Fall keine verschlüsselten Chats mehr, außer man umgeht das Gesetz mit technischen Hilfsmitteln.

➤ Mehr lesen: Signal: Wie man ein Back-up macht und es wieder herstellt

Falsche Ergebnisse würden Behörden zusätzlich belasten

Es gibt noch ein Problem: Der Abgleich der Bilder würde von einer künstlichen Intelligenz (KI) vorgenommen, die das Gerät auf Missbrauchsinhalte scannt. Hiervor warnen die KI-Wissenschaftler*innen. „Eine automatische Überwachung korrekt verschlüsselter Inhalte ist nach aktuellem Stand des Wissens nicht effektiv möglich“, heißt es. Bei Machine-Learning-basierten Filtern sind außerdem Falschklassifikationen gang und gäbe. Das wiederum bedeutet, dass sich Ermittlungsbehörden - die über eh schon knappe Ressourcen verfügen - durch sehr viele Falschmeldungen und fälschliche Beschuldigungen unbeteiligter Personen durchwühlen müssten.

„Zusammenfassend ist der aktuelle Vorschlag zur Chatkontrolle-Gesetzgebung weder aus Security noch aus KI-Sicht technisch vernünftig und aus rechtlicher Sicht höchst problematisch und überbordend. Der Chat-Control-Vorstoß bringt deutlich größere Gefahren für die breite Bevölkerung als mögliche Verbesserung für Betroffene und ist daher abzulehnen“, warnen die Forscher*innen. Der Brief wurde in Österreich dem Digitalisierungsstaatssekretariat unter Florian Tursky (ÖVP) übergeben, um die österreichische Position weiter zu untermauern: Österreich lehnt als Land die Chatkontrolle nämlich ab.