Tvoje zprávy může
číst někdo cizí.

Cože?

Je to přesně tak, jak to zní. Jestli používáš WhatsApp, iMessage, Messenger, Gmail, Seznam, Discord, Skype nebo Viber, tvoje zprávy a obrázky v nich jsou neustále analyzovány. Pokud je v nich z jakéhokoliv důvodu automatickými a často chybujícími systémy rozpoznána dětská pornografie, obsah a identity zúčastněných jsou sdíleny s policií.

Jak jsme se sem dostali?

Před dvěma roky byl v Evropské komisi představen prozatímní zákon, který by poskytovatelům komunikačních služeb povoloval plošnou kontrolu zpráv jejich uživatelů pro odhalování distribuce dětské pornografie. Pokud jsou obrázek či zpráva vyhodnoceny jako podezřelé, jejich obsah je následně sdílen se zaměstnanci a policií pro další vyšetřování.

5. července 2021 byl přes značný odpor tento zákon, přezdívaný ChatControl, s dobou platnosti tří let velkou většinou přijat.

Po téměř roce interní diskuze byl 11. května 2022 představen nový návrh tentokrát permanentního zákona, který by tuto praktiku učinil povinnou pro všechny zprávy, videa, obrázky, emaily, hlasové hovory, soukromá cloudová úložiště jako iCloud či Google Drive i videohovory.

Proč je to vůbec špatně? Jde o ochranu dětí, ne?

Ochrana dětí a jejich práv je velice důležitá. Přes dobrý úmysl návrhu ale může, stejně jako kdyby pošťák bez soudního nařízení otevíral všechny dopisy, mít fatální následky;

• Soukromí digitální komunikace by bylo prakticky zrušeno. Obsah komunikace absolutní většiny občanů EU - včetně novinářů, aktivistů a whistleblowerů - by byl automaticky a plošně analyzován. Nedávná kauza programu Pegasus ukázala, že zájem o takové informace má leckdo, v EU například německá policie, vláda Viktora Orbána a polská PiS. Zaměstnanci americké NSA zase už v roce 2014 zneužívali svého přístupu k informacím pro prohlížení a sdílení nahých fotek cizích lidí.

  Narozdíl od již přijatého prozatímního zákona tento návrh zahrnuje i bezpečně šifrované platformy jako Telegram a Signal. Tyto služby by měly povinnost kontrolovat zprávy na zařízení uživatele a z něj odesílat hlášení, nebo prolomit své jinak bezpečné šifrování. První možnost by vedla k zařízení špehující na svého uživatele mimo jeho kontrolu, druhá k ekvivalentu zpráv, které nejsou šifrovány vůbec.

  Různé právní názory navíc ukázaly, že plošná analýza komunikace bez jakéhokoliv důvodného podezření je neslučitelná s Listinou základních práv EU.

• Anonymita na Internetu by se stala prakticky nemožnou. Na roušce anonymity však kvůli své ochraně závisí spousta lidí, u kterých by informace o jejich identitě mohla znamenat jistou smrt, nebo v lepším případě absolutní vyloučení ze společnosti. Dle návrhu by ale běžné komunikační služby měly povinnost ověřit věk - a tedy i identitu - svých uživatelů.

• Soukromé soubory by byly bez podezření prohledávány. Cloudové služby jako Google Drive, iCloud a OneDrive by měly povinnost kontrolovat a případně nahlašovat soubory svých zákazníků, i pokud je s nikým nesdíleli.

• Mnoho hlášení je mylných, ale přesto může vést k následkům. Umělá inteligence a jiné algoritmy určené na ropoznávání nelegálního obsahu vytváří vysoká množství mylných hlášení, které přinejmenším přetěžují vyšetřovatele a odvádí pozornost od skutečných zločinců. Podle švýcarské policie je až 86% takových hlášení mylných. S policií jsou sdíleny například fotky miminek a dětí na dovolené, nebo sexting mladých lidí. Tito mladí lidé pak mohou být mylně trestně stíháni, v Německu tomu roku 2021 bylo ve více než 33% všech takových trestních řízení.

• Zločinci už dávno využívají bezpečnou komunikaci mimo vliv EU. Ať je provozují sami nebo využívají mimoevropské služby, zločinci a technologicky zdatní občané vždy budou mít způsoby kontaktu s ostatními mimo oči velkého bratra. Běžní lidé, které by tento zákon nejvíc ovlivnil, však ne.

  Velká část dětské pornografie není sdílena vůbec a zůstane na úložišti pachatele. Ta, která se na Internet dostane, nemá původ v běžných zprávách, ale například na uzavřených fórech, kde jsou soubory šifrovány heslem známým jen několika lidem. Může trvat roky, než se dostane do oběhu a detekční program má první šanci ji rozpoznat. Informace o původu jsou v tu chvíli dlouho pryč.

No dobře, no. Ale když jseš tak chytrej, co s tím?

V první řadě musí být navržená řešení proporcionální k řešení problému. Plošné kontrolování milionů zpráv pro nalezení několika nelegálních není jedním z nich, ale jiná už máme:

• Soustředit se na prevenci zneužívání dětí jako takovou. Organizace chránící potenciální oběti fungují dobře, stejně jako ty pomáhající možným násilníkům ve zlepšení jejich duševní situace. Česká Linka Bezpečí velice efektivně řeší tisíce takových případů ročně.

  Zejména v případě online zneužívání spousta dětí neví, jak se zachovat, nebo ho dokonce rozpoznat. Je důležité je informovat o bezpečném používání Internetu, možných způsobech nahlašování obsahu a existenci profesionální pomoci.

• Zajistit efektivní a jednoduché mechanismy nahlašování zpráv. Pokud dítě či jakýkoli jiný uživatel nahlásí velkému provozovateli zprávu - zejména v případech, kde se týká citlivých témat jako sexuálního zneužívání - je důležité, aby na druhém konci zkušený zaměstnanec zhodnotil situaci, informoval nahlašovatele o výsledku a případně poskytl informace o možných dalších krocích.

• Posílit kapacitu policejních složek. Přetíženým policejním agenturám nepomůžou stovky nových většinově chybných hlášení, které musí řešit. Zvýšení počtu zaměstnanců a ostatních zdrojů jim však umožní se více soustředit na cílená vyšetřování například utajovaných platforem, kde je dětská pornografie prvně sdílena, nebo již známých pachatelů.

Můžu si o tom ještě něco přečíst?

Určitě!

• Prostasia: How the war against Child Abuse Material was lost
• EDRi: Is surveilling children really protecting them? Our concerns on the interim CSAM regulation
• EDRi a ostatní občanské společnosti: Civil society views on defending privacy while preventing criminal acts
• Evropský inspektor ochrany údajů: Opinion on the proposal for temporary derogations from Directive 2002/58/EC for the purpose of combatting child sexual abuse online
• Alexander Hanff, expert na ochranu soukromí a oběť zneužití: Why I don’t support privacy invasive measures to tackle child abuse.
• AccessNow: The fundamental rights concerns at the heart of new EU online content rules
• Tutanota: Strategic autonomy in danger: European Tech companies warn of lowering data protection levels in the EU.
• CEPIS: Europe has a right to secure communication and effective encryption
• Patrick Breyer: Chat Control, velká inspirace pro tento článek.

Můžu se nějak zapojit?

Napiš nebo zavolej našim (euro)poslancům. V Česku proti prvnímu návrhu hlasovalo pouze 24% - Piráti, Kateřina Konečná a Hynek Blaško. Také můžeš napsat členům Výboru pro evropské záležitosti, kteří mají právo proti návrhu do začátku července podat tzv. žlutou kartu. Pokud máš ale čas a chuť, mnohem efektivnější jsou například ručně napsané e-maily, dopisy, hovory a hlavně osobní schůzky.

Dej vědět ostatním a médiím. Problematika tohoto zákona je v Česku i zbytku Evropy mimo kruhy expertů velice neznámá. Ukaž kamarádovi stránku, napiš místním novinám. Pokud se chceš zapojit víc, propagační materiály jsou dostupné zde.

Podepiš petici, která bude následně doručena všem poslancům. Do prvního týdne července potřebujeme nasbírat co nejvíc podpisů!

Přidej se na demonstraci, která se koná 2.7. u stanice Anděl v Praze!