Messenger-Überwachung

EU legt umstrittenen Plan gegen Kinderpornos vor

Datenschützer warnen: Mechanismen zur Suche nach Kinderpornos auf den Smartphones der EU-Bürger könnten missbraucht werden.

(Bild: AP)

Die EU-Kommission will stärker gegen Pädophile und Missbrauchsdarstellungen von Kindern im Internet vorgehen - und Messenger-Anbieter dazu verpflichten, zu diesem Zweck private Chats ihrer Nutzer zu durchleuchten. Bei Datenschützern läuten die Alarmglocken.

Nach dem Willen der EU sollen Tech-Giganten wie Meta (Facebook), Google oder Apple verpflichtet werden, Nachrichten und Inhalte ihrer Nutzer auf entsprechendes Material zu scannen, wie aus dem am Mittwoch präsentierten Gesetzesvorschlag der Brüsseler Behörde hervorgeht.

„Wir werden euch finden“, sagte die EU-Innenkommissarin Ylva Johansson an Straftäter gerichtet. Allein 2021 seien weltweit 85 Millionen Bilder und Videos gemeldet worden, die sexuellen Missbrauch von Kindern zeigen, dabei seien das nur die Zahlen von fünf Unternehmen, betonte sie. Den Gesetzesvorschlag bezeichnete Johansson als „hart und bahnbrechend“.

IT-Firmen sollen zu Scans verpflichtet werden
Konkret könnten den Plänen zufolge unter anderem nationale Behörden per Anordnung Plattformen wie Facebook, WhatsApp und Signal dazu verpflichten, den sexuellen Missbrauch von Kindern online zu erkennen, zu melden und zu entfernen. Was für eine Technologie dabei zum Einsatz kommen soll, ist nicht definiert. Sie dürfte aber keine anderen Informationen extrahieren können sollen als die, die auf die Verbreitung von Missbrauchsmaterial hindeuten.

Um die Kommunikation in verschlüsselten Messengern wie Signal, Telegram oder WhatsApp analysieren zu können, die nach dem Versand selbst für den Hersteller nicht mehr einsehbar ist, wäre sogenanntes „Client-side-Scanning“ denkbar. Dazu müssten KI-Algorithmen in die Messenger eingebaut werden, die auf Basis digitaler Fingerabdrücke automatisch nach verbotenem Material scannen. 

Mit einem derartigen Vorhaben sorgte im vergangenen Jahr der US-Computerkonzern Apple für einen Aufschrei - und ruderte schließlich wieder zurück. NSA-Whistleblower Edward Snowden und zahlreiche andere Datenschützer übten scharfe Kritik an dem Vorhaben. Snowden warnte: Egal wie gut das umgesetzt werde, es ebne den Weg für Massenüberwachung. 

Bei Datenschützern läuten die Alarmglocken
Auch der Vorschlag der EU-Kommission lässt bei Datenschützern die Alarmglocken schrillen: Das Vorgehen könnte eine Hintertür zum Zugriff auf verschlüsselte Chats öffnen. Einmal implementierte Überwachungs-Technologie verleite außerdem zum Missbrauch, warnt der Chaos Computer Club. Er sieht die Gefahr, dass die Systeme mittelfristig auch für andere Zwecke eingesetzt werden - etwa zur Suche nach Copyright-Verstößen.

Auch die deutsche Digitale Gesellschaft sieht das Vorhaben äußerst kritisch. Sie warnt vor dem „flächendeckenden Einsatz umfassender Überwachungs- und Kontrolltechnologien in einem Maße, wie es in Europa bislang kaum zu denken war.“ Die NGO spricht von einer „überzogenen und fehlgeleiteten Überwachungsmethode“.

Nach Ansicht der Grundrechts-Plattform „epicenter.works“ hat die Präsentation des Vorschlags „das Ende der Privatsphäre und des Briefgeheimnisses im Internet in Europa eingeleitet“. Die Technologie zur Erkennung dieser illegalen Inhalte „existiert aktuell nicht und bisherige Versuche sind enorm fehleranfällig. Die automatisierte Durchsuchung aller Nutzerinhalte verstößt gegen das Grundrecht auf Privatsphäre und das Briefgeheimnis“.

„Der Vorschlag der EU-Kommission vermeidet heikle Entscheidungen, die große Auswirkungen auf die Privatsphäre haben können“, analysierte der Datenschutz-Experte Alexander Fanta von der deutschen Nachrichtenseite netzpolitik.org. „Die Frage, ob einzelne Plattformen wie Facebook private Nachrichten ihrer Nutzer durchleuchten müssen, wird an die Behörden der Mitgliedsstaaten delegiert.“

Auch lasse die EU bewusst offen, „welche Technologie zum Einsatz kommt. Damit spielt die Kommission den Ball an die Verwaltungsebene weiter - ein Ausweichmanöver, das Kritikern den Wind aus den Segeln nehmen soll“, erklärte der Experte.

Auch „Grooming“ soll bekämpft werden
Neben bereits gemeldeten und neu produzierten Missbrauchsdarstellungen steht bei dem Vorhaben auch entsprechende Kontaktaufnahme mit Kindern („Grooming“) im Fokus. Täter sollen so künftig schneller gefasst werden.

Die EU-Kommission will zudem ein EU-Zentrum gegen Kindesmissbrauch einrichten. Mit Sitz im niederländischen Den Haag soll es gemeinsam mit der ebenfalls dort ansässigen europäischen Polizeibehörde Europol den Kampf gegen den Online-Missbrauch in den EU-Staaten koordinieren. Plattformen sollen illegale Inhalt dem EU-Zentrum melden. In Abstimmung mit dem EU-Datenschutzbeauftragten soll das Zentrum zudem festlegen, welche technischen Lösungen zum Einsatz kommen.

Neue Vorgaben seien nötig, weil eine bestehende Übergangsregelung, die freiwillige Maßnahmen der Plattformen erlaubt und auf die man sich vor einem Jahr geeinigt hatte, nach spätestens drei Jahren auslaufe. Der Vorschlag der EU-Kommission ist noch nicht beschlossen. Es braucht dazu auch noch die Zustimmung der EU-Staaten und des EU-Parlaments.