Stimmt diese Nachricht oder droht Überwachung durch die Hintertür?

Offiziell haben die EU-Staaten die Pläne der EU, eine anlasslose und verpflichtende Chatkontrolle zum Auffinden von kinderpornografischen Inhalten zu installieren, aufgegeben. Denn neben Deutschland hatten sich auch andere EU-Staaten dagegen ausgesprochen. Am 26. November hat sich der Ausschuss der Ständigen Vertreter (AStV) der EU-Staaten nun auf einen neuen neuen Entwurf des Rates für eine „CSA-Verordnung“ (steht für „Child sexual abuse“) geeinigt. Von den 27 EU-Staaten haben jedoch nicht alle dafür gestimmt – Tschechien, die Niederlande und Polen stimmten dagegen, Italien enthielt sich.

Der neue Ratsentwurf soll – wie bisher – weiterhin auf (angeblich) freiwillige Kooperationen mit Diensten wie WhatsApp oder Signal setzen. Bislang gab es eine befristete Ausnahme, die eine solche freiwillige Chatkontrolle zum Auffinden von Darstellungen sexualisierter Gewalt an Kindern trotz möglicher DSGVO-Widrigkeit erlaubt. Diese soll laut Ratsentwurf nun dauerhaft verankert werden. Drei Jahre nach Inkrafttreten soll die EU-Kommission dann prüfen, ob es doch eine Verpflichtung der Anbieter zur Chatkontrolle braucht. Laut dem Ratsentwurf sollen die nationalen Behörden die Konzerne auch jetzt schon anordnen können, illegale Inhalte zu blockieren oder zu löschen bzw. ihn aus den Suchergebnissen zu entfernen. Schließlich sieht die Einigung vor, ein EU-Zentrum für den Kampf gegen Kindesmissbrauch im Netz zu schaffen, dass die Messengerdienste bei ihren Bemühungen unterstützen soll.

Darüber hinaus sollen Anbieter allerdings auch verpflichtet werden, Risiken für Kinder zu benennen und zu minimieren. Das bedeutet zum einen, dass sie etwa Altersangaben ihrer Nutzer verlässlich überprüfen sowie Altersgrenzen durchsetzen sollen. Für eine verpflichtende Altersgrenze von 16 Jahren für Messengerdienste und soziale Medien hatte sich im Übrigen auch – in einer gesonderten Abstimmung – das Europaparlament ausgesprochen. Danach soll die Nutzung dieser Dienste auch nicht – wie bislang – mit elterlicher Genehmigung ab 13 Jahren zulässig sein. Ob diese Forderung letztlich durchgesetzt wird, wird sich noch zeigen.

Auch wenn sich nun der Rat auf einen finalen Vorschlag geeinigt hat, ist das Gesetz damit noch lange noch nicht in Kraft. Es müsste noch das Trilog-Verfahren mit Kommission und (insbesondere) dem Europäischem Parlament überstehen. Ziel ist es, den Text vor April 2026 zu verabschieden. Das Parlament hatte sich allerdings parteiübergreifend skeptisch zumindest gegenüber einer verpflichtenden Chatkontrolle gestellt. Es ist zwar möglich, dass die Abgeordneten dem Vorhaben einer „freiwilligen“ Kontrolle offener gegenüberstehen. Allerdings formiert sich bereits Widerstand gegen die Ratsposition. Denn viele linke Abgeordnete teilen die Haltung des früheren Europaabgeordneten Dr. Patrick Breyer (Piraten) seit langer Zeit vor jeglicher – auch freiwilliger – Chatkontrolle warnt. Der Jurist und Digitalrechtsexperte hatte bei der Parlamentsposition zur Chatkontrolle mitverhandelt und gilt als einer ihrer führenden Kritiker. Aktuell bezeichnet er die Ratspläne als „anlasslose Massenüberwachung und Bedrohung des Rechts auf anonyme Kommunikation“ und „dauerhafte Massenüberwachung privater Nachrichten“. Journalisten und Öffentlichkeit sollten sich nicht vom Framing „freiwillig“ täuschen lassen. Warum das?

Freiwilligkeit? „Breyer: Mogelpackung! Der neue Entwurf ist sogar schlimmer!“

Dr. Patrick Breyer hatte sich bereits vor der Abstimmung den Entwurf genauer angeschaut – und kommt zu einem ernüchternden Ergebnis. „Die anlasslose verpflichtende Chatkontrolle solle nun durch die Hintertür durchgesetzt werden – „getarnt, gefährlicher umfassender als je zuvor; […] noch übergriffiger ist als der ursprünglich abgelehnte Plan,“ schreibt er bereits am 11. November in einer Pressemitteilung.

In seiner Pressemitteilung zum 26. November führt er dies weiter aus: „Die Chatkontrolle ist nicht vom Tisch, sie wird lediglich privatisiert.“ Und „Zwar wurde der formale Zwang zum Scannen gestrichen, doch der vereinbarte Text setzt Anreize für US-Tech-Giganten, unsere private Kommunikation flächendeckend zu durchleuchten.“ Zur Begründung seiner Position schreibt Breyer bereits zuvor: Ein Schlupfloch in Artikel 4 des neuen Entwurfs verpflichte Anbieter wie WhatsApp oder Signal zu „allen angemessenen Risikominderungsmaßnahmen“. Das bedeute, so seine Interpretation: Sie könnten weiterhin zum Scannen aller privaten Nachrichten gezwungen werden – auch bei Ende-zu-Ende-verschlüsselten Diensten. „Das Schlupfloch macht die viel gelobte Streichung der Aufdeckungspflichten wertlos und hebelt ihre vermeintliche Freiwilligkeit aus. Sogar clientseitiges Scannen (CSS) auf unseren Smartphones könnte bald Pflicht sein – das Ende sicherer Verschlüsselung,“ schlussfolgert Breyer. Das erlaube Anbietern wie Meta oder Google, alle privaten Nachrichten und Chats ohne richterlichen Beschluss zu scannen.

Um diese Gefahr zu beseitigen, müsse Artikel 4 seiner Ansicht nach korrigiert werden: Es müsste klargestellt werden, dass Scans nicht als „Risikominderung“ erzwungen werden können. Auch der deutsche Bundesdatenschutzbeauftragte hat die Pläne massiv kritisiert und als rechtswidrig eingestuft: „Ein „freiwilliges“ Scannen erfolgt ohne Rechtsgrundlage und stellt deshalb eine rechtswidrige Datenverarbeitung dar“, schreibt er auf Mastodon.

Breyer warnt vor digitaler Hexenjagd

Warum der neue Entwurf letztlich schlimmer sein könnte als der vorherige, zeigt auch ein zweiter Kritikpunkt: Die nun vermeintliche freiwillige Chatkontrolle gehe weit über das bisher diskutierte Scannen von Fotos, Videos und Links hinaus. Künftig sollten Algorithmen und KI massenhaft private Chat-Texte und Metadaten aller Bürger nach verdächtigen Schlüsselwörtern und Signalen durchsuchen.

„Keine KI kann zuverlässig zwischen einem Flirt, Sarkasmus und kriminellem ‚Grooming‘ unterscheiden“, erklärt Breyer. „Stellen Sie sich vor, Ihr Handy scannt jedes Gespräch mit Ihrem Partner, Ihrer Tochter, Ihrem Therapeuten und leakt es, nur weil irgendwo das Wort ‚Liebe‘ oder ‚Treffen‘ vorkommt. Das ist kein Kinderschutz – das ist digitale Hexenjagd.“ Und: „Wir reden hier von Zehntausenden völlig legaler, privater Chats, die jährlich aufgrund fehlerhafter Algorithmen und KI bei fremden Moderatoren irgendwo auf der Welt landen. Das ist keine Ermittlungsarbeit, das ist Raten. Nur weil man ‚freiwillig‘ draufschreibt, ändert das nichts am Bruch des digitalen Briefgeheimnisses.“ Das Ergebnis werde eine Flut von Falschmeldungen sein, die unschuldige Bürger unter Generalverdacht stellt und massenhaft private, sogar intime Chats, Fotos und Videos Fremden preisgebe. Bereits heute seien laut BKA rund 50 % aller im Rahmen der freiwilligen „Chatkontrolle 1.0“ erfolgten Meldungen strafrechtlich irrelevant – das entspricht Zehntausenden geleakter Chats pro Jahr.

Der Entwurf müsste an dieser Stelle geändert werden: Scans müssen auf bekannte Missbrauchsbilder beschränkt bleiben. Zudem dürfe es nicht zu Massenüberwachung kommen: Nur die gezielte Überwachung Verdächtiger mit richterlicher Anordnung solle zulässig sein.

Das Ende anonymer Kommunikation und digitaler Hausarrest für Teenager

Im Windschatten der Debatte um die Chatkontrolle sollen außerdem zwei weitere folgenschwere Maßnahmen durchgedrückt werden:

Zum einen die Abschaffung des Rechts auf anonyme Kommunikation: Um wie im Text gefordert Minderjährige identifizieren zu können, müsste jeder Bürger künftig zur Eröffnung eines E-Mail- oder Messenger-Kontos seinen Ausweis vorlegen oder sein Gesicht scannen lassen. „Das ist das faktische Ende der anonymen Kommunikation im Netz – ein Desaster für Whistleblower, Journalisten, politische Aktivisten und Hilfesuchende, die auf den Schutz der Anonymität angewiesen sind“, warnt Breyer.

Teenagern unter 16 Jahren droht mit dem Text außerdem der pauschale Ausschluss von WhatsApp, Instagram, Online-Spielen und unzähligen anderen Apps mit Chatfunktion. Teenagern drohe damit die „digitale Isolation“, so Breyer. Um beide Gefahren – die Abschaffung der Anonymisierung und die Isolation von Teenagern – zu begegnen, müsse die Pflicht zur Altersverifizierung muss ersatzlos gestrichen werden.

Was wäre die Alternative zur (indirekt verpflichtenden) Chatkontrolle?

Niemand stellt in Frage, dass sexueller Missbrauch von Kindern ein ernstes Problem darstellt – auch im digitalen Raum. Behörden enttarnen immer wieder Netzwerke, die kinderpornographisches Material tauschen oder verbreiten. Das Problem ist real – doch die Mittel müssen rechtsstaatlich bleiben.

Das Europäische Parlament hat einen Alternativvorschlag unterbreitet, der Kinderschutz und Grundrechte miteinander in Einklang bringen soll. Anbieter sollen verpflichtet werden, ihre Plattformen technisch sicherer zu gestalten, etwa durch Schutzmechanismen gegen Grooming und gezielte Kontaktbeschränkungen. Illegale Inhalte sollen weiterhin konsequent gelöscht werden – aber nur, wenn ein konkreter Verdacht oder ein Hinweis vorliegt. Die Ende-zu-Ende-Verschlüsselung soll nicht angetastet werden. Strafverfolgung soll sich wie bisher auf Verdachtsfälle konzentrieren und gerichtlicher Kontrolle unterliegen.

Die ursprünglichen Pläne zur verpflichtenden Chatkontrolle

Seit 2022 arbeitet die Europäische Kommission an einem Gesetz zur Bekämpfung sexuellen Missbrauchs von Kindern im Internet. Ziel ist der Schutz von Kindern vor Missbrauchsdarstellungen, insbesondere in digitalen Kommunikationsräumen. Der Verordnungsvorschlag zur Chatkontrolle sieht vor, dass Messenger-Dienste wie WhatsApp, Signal oder Threema verpflichtet werden sollen, private Nachrichten ihrer Nutzer bereits vor dem Versand zu durchsuchen. Dabei sollen Bilder, Videos und URLs mithilfe von Datenbanken und künstlicher Intelligenz auf Missbrauchsinhalte geprüft werden – noch bevor sie verschlüsselt und versendet werden. Dieses sogenannte Client-Side-Scanning würde direkt auf dem Gerät des Nutzers stattfinden. Nur reine Textnachrichten wären nach dem aktuellen Entwurf vom Scannen ausgenommen.

Besonders brisant: Die Durchsuchung würde automatisch und ohne konkreten Verdacht erfolgen. Damit würden sämtliche Nutzerinnen und Nutzer unter Generalverdacht gestellt – unabhängig davon, ob ein konkreter Hinweis auf eine Straftat vorliegt. Laut aktuellem Entwurf soll die Maßnahme allerdings nicht für staatliche Akteure wie Polizei, Militär oder Geheimdienste gelten. Deren Kommunikation wäre ausdrücklich von der Chatkontrolle ausgenommen.

Rechtlich hochumstritten – technisch gefährlich

Die Kritik an diesem Gesetzesvorhaben ist seit seiner Veröffentlichung im Jahr 2022 massiv. Datenschutzexperten, IT-Sicherheitsexperten, Juristen und zahlreiche zivilgesellschaftliche Organisationen lehnen die verpflichtende Chatkontrolle geschlossen ab. Auch der wissenschaftliche Dienst des Bundestages kam bereits zu dem Schluss, dass der Vorschlag mit der EU-Grundrechtecharta nicht vereinbar sei. Insbesondere Art. 7 (Recht auf Achtung des Privatlebens), Art. 8 (Schutz personenbezogener Daten) und Art. 11 (Meinungsfreiheit) seien betroffen.

Inhaltlich bezieht sich die Kritik vor allem auf die präventive Massenüberwachung. Das Vorhaben überschreite die Grenze dessen, was in einem demokratischen Rechtsstaat zulässig ist. Der Einsatz fehleranfälliger Algorithmen und die Aufhebung der Ende-zu-Ende-Verschlüsselung würden eine neue technische Infrastruktur der Überwachung schaffen – mit weitreichenden Folgen. Signal, Threema und andere sichere Messenger haben bereits angekündigt, sich im Falle einer Umsetzung der Verordnung aus der EU zurückzuziehen.

Zudem warnen Experten vor einem sogenannten „Chilling Effect“. Wenn Menschen davon ausgehen müssen, dass ihre private Kommunikation automatisch mitgelesen wird, ändern sie ihr Verhalten. Sie verzichten womöglich auf bestimmte Meinungsäußerungen oder Themen – etwa aus politischen, beruflichen oder persönlichen Gründen. Für Berufsgruppen wie Journalistinnen, Anwälte, Aktivistinnen oder Whistleblower wäre ein solcher Überwachungsmechanismus besonders bedrohlich.

Fazit und Ausblick

Das Nein Deutschlands zu einer verpflichtenden Chatkontrolle war ein wichtiger Schritt im Kampf für die digitale Freiheit. Doch es bleibt ein Zwischenerfolg. Das Gesetzesvorhaben ist weiterhin auf der politischen Agenda. Die nächsten Wochen und Monate werden entscheidend sein.

Sollte die EU Chatkontrolle in überarbeiteter Form beschließen, drohen weitreichende Konsequenzen für den digitalen Alltag in Europa. Neben der Einschränkung der Privatsphäre könnten auch vertrauliche berufliche Kommunikation und die freie Meinungsäußerung erheblich beeinträchtigt werden. Es wäre ein Präzedenzfall, der den Weg für weitere Überwachungstechnologien ebnet.

Zivilgesellschaftlicher Druck hat bereits einmal Wirkung gezeigt. Umso wichtiger ist es, informiert zu bleiben, sich einzubringen und den öffentlichen Diskurs zu führen. Der Schutz von Kindern darf nicht gegen die Grundrechte aller Bürgerinnen und Bürger ausgespielt werden. Wir brauchen durchdachte, rechtsstaatliche Lösungen – keine digitale Massenüberwachung.

Sie benötigen rechtlichen Beistand im Datenschutzrecht?

Unsere Kanzlei WBS.LEGAL verfügt über umfassende Erfahrung im Datenschutzrecht und in der Beratung zu digitalen Grundrechten. Wenn Sie als Unternehmen, Plattformbetreiber oder Einzelperson Fragen zum Thema Chatkontrolle, Datenverarbeitung oder digitalen Kommunikationsrechten haben, stehen wir Ihnen mit unserer Expertise zur Seite.

Wir unterstützen Sie bei rechtlichen Prüfungen, strategischer Beratung und im Umgang mit Behörden. Sprechen Sie uns gern an – gemeinsam finden wir eine Lösung, die Ihre Rechte wahrt und zugleich rechtliche Sicherheit schafft.

Jetzt unverbindlich Kontakt aufnehmen – wir sind für Sie da.

ahe