Chat Control 2.0 je jedna z tých tém, pri ktorých človek najprv neveriacky pozerá na obrazovku a potom si hovorí: „To vážne niekto napísal, schválil a ešte sa pri tom tváril, že zachraňuje internet?“
Na papieri to znie pekne. Chceme chrániť deti. Chceme bojovať proti šíreniu materiálov zobrazujúcich sexuálne zneužívanie detí. Chceme, aby internet nebol digitálna skládka pre predátorov. S týmto cieľom nemôže mať normálny človek problém.
Problém je nástroj. A pri Chat Control je ten nástroj približne taký citlivý, ako keby chcel niekto chytať komáre granátometom v škôlke.
Ochrana detí je absolútne dôležitá. Ale plošné skenovanie komunikácie bežných ľudí nie je automaticky dobrá ochrana. Je to skôr digitálna sieť, do ktorej sa najľahšie chytí planktón, zatiaľ čo skutočné veľké ryby už dávno plávajú inde.
Čo je problém na Chat Control 2.0?
Základná myšlienka Chat Control je, že online služby majú vedieť detegovať, nahlasovať a odstraňovať nelegálny obsah súvisiaci so zneužívaním detí. Lenže v praxi sa tu otvára nebezpečná otázka: ako ďaleko môže štát alebo regulácia zájsť pri kontrole súkromnej komunikácie?
Ak sa začne hovoriť o skenovaní správ, príloh, fotografií alebo obsahu ešte pred odoslaním, už to nie je len „moderovanie internetu“. To je zásah do samotnej dôvery v digitálnu komunikáciu.
Politici to radi zabalia do pekných slov. Bezpečnosť. Ochrana. Prevencia. Technologické riešenie. Ale za tými slovami sa môže skrývať veľmi jednoduchá realita: systém, ktorý bude kontrolovať komunikáciu miliónov ľudí, pretože niekto verí, že algoritmus zachráni svet.
Client-side scanning: šifrovanie zostane, len mu dáme kukátko
Jedna z najväčších kontroverzií je client-side scanning. Znie to ako nevinná technická funkcia, ale v skutočnosti ide o veľmi výbušnú vec.
Predstav si, že máš end-to-end šifrovanú komunikáciu. Normálne by malo platiť, že správu vidíš ty a príjemca. Nikto medzi vami. Potom príde nápad: „Nebojte sa, šifrovanie nezrušíme. Len obsah skontrolujeme ešte predtým, než sa zašifruje.“
To je ako keby ti niekto povedal: „Listovú obálku ti neotvoríme. Len ti bude pri písaní stáť za chrbtom úradník s lupou.“ Technicky možno obálka zostane zalepená. Prakticky sa súkromie rozpadlo ešte predtým, než si ju vôbec zalepil.
Chat Control sa tvári ako bezpečnostná sieť. Lenže keď tú sieť natiahneš cez celé more, nechytáš len žralokov. Chytáš aj ryby, planktón, gumové kačičky a občas vlastnú loď.
Zločinci nie sú hlúpi. Bežný používateľ je len ľahký cieľ
Tu prichádza najväčšia absurdita. Skutočne organizovaní páchatelia si pravdepodobne nepíšu cez bežný Messenger štýlom: „Ahoj Jožo, posielam nelegálny obsah, dúfam, že nás nesleduje algoritmus.“
Kriminalita, ktorá má organizáciu, peniaze a technické zázemie, sa vie presúvať. Do uzavretých komunít, na vlastné infraštruktúry, anonymnejšie siete, darkwebové prostredia alebo kanály, ktoré bežné plošné skenovanie jednoducho nezasiahne.
A kto zostane v sieti? Bežný človek. Rodič, ktorý pošle fotku dieťaťa lekárovi. Učiteľ, ktorý rieši citlivý prípad. Novinár, whistleblower, právnik, aktivista, firma, obyčajný používateľ. A popri tom všetkom aj milióny úplne normálnych správ, ktoré sa nikdy nemali stať predmetom automatickej kontroly.
Falošné pozitíva: keď algoritmus hrá policajta
Pri masovom skenovaní je obrovský problém aj chybovosť. Aj keby bol systém „veľmi presný“, pri miliónoch alebo miliardách správ denne znamená aj malé percento chýb obrovské množstvo falošných poplachov.
A falošný poplach pri tak citlivej téme nie je obyčajná technická chybička. To nie je zle zaradený newsletter do spamu. To môže byť zásah do reputácie, súkromia, rodiny, práce a psychiky človeka.
Algoritmus sa pomýli. Úradník dostane hlásenie. Používateľ sa stane podozrivým. A potom sa môže rozbehnúť mašinéria, ktorá mala chrániť deti, ale medzitým zmelie niekoho, kto neurobil nič zlé.
Najväčšie riziko: infraštruktúra sa raz vytvorí a potom sa rozširuje
Ďalší problém je takzvané rozširovanie účelu. Dnes povieme: „Len kvôli ochrane detí.“ Zajtra príde: „Len kvôli terorizmu.“ Potom: „Len kvôli extrémizmu.“ Potom: „Len kvôli dezinformáciám.“ Potom: „Len kvôli autorským právam.“
A zrazu máme infraštruktúru na kontrolu komunikácie, ktorá sa dá politicky prelakovať podľa aktuálnej potreby. Bezpečnostný nástroj sa veľmi ľahko zmení na mocenský nástroj. História ľudstva nie je práve album dôkazov, že štáty nikdy nezneužívajú kontrolné mechanizmy.
Chat Control: sľub vs. realita
| Sľub Chat Control | Realita podľa kritikov |
|---|---|
| Chytíme zločincov | Profesionáli sa presunú mimo bežné platformy a budú hľadať obchádzky. |
| Ochránime deti | Cieľ je správny, ale plošná kontrola všetkých môže poškodiť súkromie a dôveru. |
| Šifrovanie zostane | Skenovanie pred šifrovaním je praktická obchádzka súkromia. |
| Bude to presné | Pri masovom nasadení aj malé percento chýb znamená veľa nevinných podozrení. |
| Je to výnimočné opatrenie | Raz vytvorená kontrolná infraštruktúra sa dá politicky rozširovať. |
Ako chrániť deti rozumnejšie?
Kritika Chat Control neznamená, že problém zneužívania detí treba ignorovať. Práve naopak. Znamená to, že ho treba riešiť lepšie než digitálnym rybárčením v súkromí všetkých občanov.
Zmysel majú napríklad:
-
- posilnenie špecializovaných vyšetrovacích tímov,
- cielené vyšetrovanie na základe podozrenia a súdneho dohľadu,
- lepšia medzinárodná spolupráca polície,
- rýchlejšie nahlasovanie a odstraňovanie známeho CSAM obsahu,
- tlak na hostingy, platobné kanály a infraštruktúru, kde sa nelegálny obsah šíri,
- podpora obetí a prevencia,
- edukácia rodičov, škôl a detí o online rizikách,
- lepšie nástroje na dobrovoľné a transparentné nahlasovanie.
Inými slovami: treba chirurgiu, nie kobercové bombardovanie.
Záver: bezpečnosť bez súkromia nie je víťazstvo
Súkromie online nie je luxus pre paranoidných technických čudákov. Je to základ dôvery v digitálny svet. Ak začneme súkromnú komunikáciu plošne kontrolovať v mene dobrého cieľa, vytvárame nebezpečný precedens.
Áno, chráňme deti. Tvrdšie, múdrejšie a účinnejšie. Ale nerobme z každého občana preventívne podozrivého. Pretože ak je riešením to, že všetkým nahliadneme do komunikácie, potom sme si práve pomýlili ochranu so špehovaním.
EU regulácie internetu by mali mať technickú realitu, právnu proporcionalitu a zdravý rozum. Chat Control pôsobí ako digitálny hasiaci prístroj, ktorý namiesto požiaru poleje benzínom celú budovu a potom si dá tlačovku o bezpečnosti.
Deti treba chrániť. Zločincov treba stíhať. Ale slobodnú spoločnosť nezachrániš tak, že všetkým občanom nainštaluješ digitálneho dozorcu do vrecka.
Ak ťa baví satirický pohľad na hlúpe nariadenia, digitálnu byrokraciu a „geniálne“ riešenia od ľudí, ktorí si internet zjavne predstavujú ako fax s Wi-Fi, daj článku LIKE.
Tvoj klik pomôže tomu, aby sa zdravý rozum nestratil pod ďalšou vrstvou regulácií.
Zdroje:
