EU will alle Chats überwachen: Heftige Kritik

Die EU-Kommission hat am Mittwoch ihre Verordnung zur Bekämpfung von Kindesmissbrauchsdarstellungen im Netz vorgestellt. Darin ist die Verpflichtung der Anbieter von Kommunikationsdiensten enthalten, sämtliche Inhalte auf verdächtiges Material hin zu durchsuchen. Das soll insbesondere für Chatanbieter und Messengerdienste wie WhatsApp, Signal, Telegram & Co gelten, aber auch für Telefonie, E-Mail oder Videokonferenzen. Vorgesehen ist die Chatkontrolle, Netzsperren und eine verpflichtende Altersverifikation für Kommunikations- und Speicherdienste. Betroffen sind Texte, Bilder, Videos und Sprache.

Bürgerrechtsorganisationen planen deshalb für den Nachmittag eine Protestaktion und schlagen Alarm. Für die Digitale Gesellschaft gleichen die Pläne einem „flächendeckenden Einsatz umfassender Überwachungs- und Kontrolltechnologien“, so die Warnung. Und zwar „in einem Maße, wie es in Europa bislang kaum zu denken war“, heißt es in einer Aussendung dazu.

Keine Ausnahme für Verschlüsselung

Doch was steckt dahinter? Die Verordnung zur Chatkontrolle würde bedeuten, dass Anbieter von Diensten auch dann in Nachrichten blicken können müssten, wenn die Inhalte eigentlich verschlüsselt sind. Das ist etwa bei Diensten wie WhatsApp oder bei Signal der Fall. Dort sind die Chats durch eine Ende-zu-Ende-Verschlüsselung vor Zugriffen von Inhalte-Anbietern geschützt. Im Entwurf der EU ist keine Ausnahme für verschlüsselte Kommunikation vorgesehen.

Damit ist, rein technisch betrachtet, eine Überwachung der Inhalte nur mittels „Client Side Scanning“ möglich, also der Überwachung direkt auf den Endgeräten der Nutzer*innen. Dabei werden die Smartphones direkt auf bestimmte Dateien durchsucht, und zwar bereits bevor sie für die Kommunikation verschlüsselt werden. Der Abgleich würde von einer Künstlichen Intelligenz (KI) vorgenommen, die das Gerät auf Missbrauchsinhalte scannt.

Hohe Fehlerrate und leicht zu umgehen

Der Chaos Computer Club (CCC) warnt vor dem Einsatz von Client Side Scanning und bezeichnet diesen als „überzogene und fehlgeleitete Überwachungsmethode“. Die Chatkontrolle sei ein „überbordender Ansatz, leicht zu umgehen und setzt an der völlig falschen Stelle an“, so der CCC. Nutzer*innen würden dadurch das Vertrauen in ihre Geräte verlieren, warnen die Expert*innen.

Denn wer bestimmt am Ende, auf welche Dateien das Gerät durchsucht wird? Einmal eingeführt, lässt sich diese Technologie ganz einfach auch auf andere Inhalte ausweiten. „So ist schon heute absehbar, dass sich die Rechteverwertungsindustrie für das System ebenso brennend interessieren wird wie demokratiefeindliche Regierungen“, warnt der CCC.

Laut dem CCC wird durch die geplante EU-Regelung nicht nur vertrauliche Kommunikation angegriffen, sondern sie würde – was noch viel schlimmer ist – das eigentliche Problem gar nicht lösen. „Kriminelle nutzen bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären und werden auch in Zukunft den Scans leicht entgehen“, heißt es.

Statt Messenger-Dienste würden Kriminelle, die mit Kinderpornografie dealen, öffentliche Hosting-Dienste verwenden. „Messenger sind zum Tauschen großer Dateisammlungen völlig ungeeignet“, so der CCC. Auch der EU-Abgeordnete Patrick Breyer kritisiert: „Organisierte Kinderporno-Ringe benutzen keine E-Mails oder Messenger, sondern abgeschottete selbst betriebene Online-Foren“.

Klage gegen Facebook 

Breyer vergleicht den Einsatz einer Chatkontrolle mit der „Zerstörung des digitalen Briefgeheimnisses“. „Chatkontrolle ist, wenn die Post alle Briefe öffnen und scannen würde“, so Breyer, der am Montag auch eine Unterlassungsklage gegen Facebooks Mutterkonzern Meta eingebracht hat (PDF). Laut Aussagen Breyers würde Facebook diese bereits durchführen. „Facebook räumt ein, die Chatkontrolle zu praktizieren. Ich habe auch mit ihnen gesprochen“, erklärt Breyer gegenüber der futurezone.

Er hofft, dass sich der Europäische Gerichtshof (EuGH) mit dieser Angelegenheit beschäftigen muss, sollte die Chatkontrolle in der EU wirklich verpflichtend werden. „Dieser Big Brother-Angriff auf unsere Handys, Privatnachrichten und Fotos mithilfe fehleranfälliger Algorithmen ist ein Riesenschritt in Richtung eines Überwachungsstaates nach chinesischem Vorbild", so Breyer. "Da auch Messengerdienste verpflichtet werden, wird verschlüsselten Diensten nur Client Side Scanning übrig bleiben“, so Breyer. „Unverschlüsselte Dienste werden serverseitig scannen müssen.“