Zamislite da je vaše dijete žrtva predatorske mreže koja slobodno kruži internetom. Podaci Ministarstva unutarnjih poslova zastrašujući su - broj kaznenih djela iskorištavanja djece za pornografiju dramatično je skočio i gotovo se utrostručio u periodu od 2019. do 2024. godine.

Tako je ove godine, samo u jednoj međunarodnoj operaciji u kojoj je sudjelovala i hrvatska policija, pronađeno 1400 ljudi diljem svijeta koji su zlostavljali djecu i sadržaj najgoreg oblika seksualnog iživljavanja nad njima dijelili masovno na internetskoj platformi s 1.8 milijuna korisnika. Pronađeno je 91.000 videosnimaka koje su ukupno trajale više od šest tisuća sati.

Upravo to želi spriječiti zakonodavni prijedlog Europske unije o sprečavanju i suzbijanju seksualnog zlostavljanja djece, kojim se želi zadati konačan udarac pedofilima koji vrebaju najmlađe na internetu. 

A opet, biste li pristali da vam netko nadzire sadržaj na WhatsAppu ili Viberu i da zbog greške u sustavu nevinu poruku vašeg sina ili kćeri netko proglasi kao "sumnjivu"?

Upravo je ova debata podijelila Europsku uniju zbog prijedloga da se uvede takozvani "Chat control" koji bi omogućio vlastima da nadziru poruke baš svih građana. I dok je ideja sigurno plemenita - zaštita djece od najgorih i najmučnijih predatora, pitanje je hoće li "Chat control" postati digitalni Veliki Brat i otvoriti Pandorinu kutiju jer bi to mogao biti put u najmasovniji nadzor komunikacije u povijesti EU.

O prijedlogu uredbe za sprječavanje i suzbijanje seksualnog zlostavljanja razgovarali smo sa stručnjacima za cyber sigurnost, pravnicima i MUP-om koji su za naš RTL Detektor otkrili kako nadzor komunikacije funkcionira, što će se dogoditi s našom privatnom komunikacijom i trebaju li građani doista strahovati od uvođenja svojevrsnog digitalnog "Big Brothera" kojemu ni jedna poruka neće biti sveta?

Nadzor komunikacije

U Hrvatskoj, kao i većini EU, postoje jasna pravila o nadzoru komunikacije. To se može činiti samo ciljano, uz sudsko odobrenje i u slučaju najtežih kaznenih djela, poput terorizma, organiziranog kriminala i teškog oblika korupcije, naglašava stručnjak za kibernetičku sigurnost Marko Gulan. Glavna razlika je, kaže, što nova uredba umjesto ciljanog, strogo ograničenog i kontroliranog nadzora planira uvesti logiku da su svi potencijalno sumnjivi i da njihove privatne poruke treba skenirati unaprijed.

 

"Pitanje nije jesmo li protiv zaštite djece, tu nema dvojbe. Pitanje je kako to radimo. Današnji sustav, iako nesavršen, počiva na principu ciljanog nadzora i sudskog odobrenja. Sutra, uz chat control, aplikacija na vašem mobitelu bi, bez obzira na vašu nevinost, skenirala svaku fotografiju i poruku u potrazi za 'indikatorima'. Za građane to znači gubitak dijela privatnosti, za tvrtke i institucije dodatni sigurnosni rizik, a za kriminalce, tek manju smetnju koju će vjerojatno brzo zaobići", uvjeren je stručnjak.

Iako smatra da ideja ima plemeniti cilj, skreće pažnju da ona donosi i opasnosti poput masovnog nadzora, slabljenja enkripcije, rizika da nevini sadržaj bude označen kao sumnjiv jer i sami algoritmi mogu pogriješiti. "Kad god se u javnosti pojavi nova inicijativa o 'nadzoru komunikacije', većina građana automatski pomisli: 'Ako ne radim ništa loše, nemam se čega bojati'. Na prvi pogled, to zvuči logično. No u digitalnom svijetu stvari nikad nisu tako jednostavne", objašnjava Gulan.  

U dosadašnjoj praksi, policija i sigurnosne službe traže od istražnog suca nalog za nadzor komunikacije. Tek nakon što dobiju odobrenje, operateri omogućuju pristup komunikaciji i podacima koje imaju, najčešće o telefonskim razgovorima i SMS porukama. Situacija je nešto drugačija s aplikacijama poput WhatsAppa, Signala ili Vibera, koje koriste end-to-end enkripciju. 

"Nitko, ni policija, ni operater, ne može pročitati vaše poruke dok putuju mrežom. Ako postoji sumnja, istražitelji mogu zaplijeniti uređaj i forenzički izvući podatke, ali bez uređaja sadržaj ostaje zaštićen. Drugim riječima, današnji sustav se temelji na ciljanom nadzoru, strogo ograničenom i kontroliranom", pojašnjava Gulan. 

Što je 'chat control'?

S druge strane, Europska unija raspravlja o prijedlogu koji je kolokvijalno nazvan "chat control", a kojim Bruxelles želi spriječiti slanje dječje pornografije putem mobitela.

Prema nacrtu iz listopada, pružatelji usluga razmjene poruka poput Mete za WhatsApp, u lučaju da se uredba usvoji u budućnosti će morati skenirati fotografije i videozapise u porukama na mobitelima u potrazi za kriminalnim sadržajem odnosno materijalima seksualnog zlostavljanja djece (CSAM), prije nego što ih pošalju kao šifrirane. Bilo kakav sumnjivi sadržaj morat će prijaviti tijelima EU.

Nadzor se neće odnositi na tekstualne i glasovne poruke. 

Inicijativa, za koju aktivisti za sigurnost tvrde da će dovesti do masovnog nadzora, krenula je iz Danske i podijelila EU. Devet zemalja članica usprotivilo se inicijativi, među njima susjedna Slovenija i Njemačka. S druge strane 12 članica podupire Uredbu, dok se njih šest još nije izjasnilo po tom pitanju. 

Hrvatska vlada podržala je donošenje uredbe, međutim ostaje pitanje kako će se osigurati transparentnost i sigurnost komunikacije i zaštita temeljnih ljudskih prava vezanih uz privatnost, slobodu izražavanja i presumpciju nevinosti. 

Vijeće EU još nije postiglo konsenzus oko konačnog teksta Uredbe, posebno oko dijela koji se tiču šifriranja (end-to-end enkripcije) i mogućnosti skeniranja privatnih poruka. Europska komisija predstavila je izvorni prijedlog još u 2022. s nadom da se zaustavi širenje ilegalnog sadržaja.

On se temelji na Aktu o digitalnim uslugama te se pravilima pružatelje usluga obvezuje da rizik od toga da njihove usluge budu iskorištene za seksualno zlostavljanje djece na internetu svedu na najmanju moguću mjeru. 

Pružatelji internetskih usluga morali bi provoditi procjene rizika, odnosno provjeravati je li u okviru njihovih usluga prisutan materijal koji sadržava seksualno zlostavljanje djece na internetu. 

Za svaku bi uslugu morali:

• utvrditi, analizirati i procijeniti rizik
• prikupiti informacije o ograničavanju rizika na određene kanale ili posebne skupine korisnika
• provjeravati dob korisnika te istodobno čuvati privatnost i osigurati sigurno internetsko okružje za djecu.

Zamišljeno je da države članice imenuju nekoliko nadležnih tijela, a jedno bi proglasile koordinacijskim tijelom koje bi provjeravao procjene rizika i osiguravao izricanje novčanih kaznu u slučaju nepoštivanja uredbe. 

Prijedlog na 'klimavim nogama'?

Vijeću EU je potrebna ono što je poznato kao kvalificirana većina za donošenje većine zakonskih propisa. Da bi se neki zakon blokirao, mora postojati blokirajuća manjina. U prijevodu, to podrazumijeva najmanje četiri države članice koje se protive nekom prijedlogu i oporba s najmanje 35 posto ukupnog stanovništva EU. 

Budući da su Francuska, Španjolska, Portugal i niz drugih zemalja podržale Chat control, za zaustavljanje ideje potrebno je da se skupini država "s druge strane" pridruži jedna velika zemlja. Zbog toga mnogi u cijeloj priči ističu moć Njemačke koja se usprotivila uredbi, a koja s 83,5 milijuna stanovnika čini oko 19 posto ukupnog stanovništva EU-a.

No, važno je naglasiti da se među zastupnicima vode velike rasprave o ovoj temi i duga je procedura pred njima prije nego što članice mogu formalno usvojiti prijedlog. 

Od kad je krenula cijela ideja, upozorava policija, problem je eskalirao te je dramatično poraslo zlostavljanje djece na internetu, zahvaljujući platformama šifriranih poruka i razvoju tehnologija privatnosti. Ionako opasni trend postao je još mučniji s porastom sadržaja koji generira umjetna inteligencija. 

Zastrašujući brojevi o zlostavljanju djece

"Cilj je zaustaviti to, a ne nadzirati što građani pišu obitelji i prijateljima", kažu nam iz MUP-a.  

"Cilj stručnjaka iz svih država članica koji rade na izradi Prijedloga uredbe, je da kada stupi na snagu, predstavlja balansirani pristup koji štiti djecu od sve veće prijetnje online seksualnog zlostavljanja, a da istovremeno osigurava stroge zaštitne mjere za privatnost građana i enkripciju sadržaja koji razmjenjuju s obitelji i prijateljima. Za takav pristup od samog početka snažno se zalaže i Republika Hrvatska i zagovarat će ga i dalje", dodaje MUP. 

Unatoč tome, mnogi stručnjaci strahuju da bi ovakav nadzor mogao otvoriti Pandorinu kutiju i omogućiti vladi da čita i druge poruke te špijunira korisnike. Iz Signala već su poručili da će se povući iz Europe ako se uredba usvoji, dok se WhatsApp također usprotivio prijedlogu, pružajući podršku europskim skupinama za zaštitu privatnosti koje su od samog početka iskazivale svoje nezadovoljstvo. Zanimljivo, protiv inicijative je ustao i 30-godišnji softverski inženjer iz Danske koji je pokrenuo stranicu "Fight Chat Control"  na kojoj posjetitelji mogu postaviti masovno upozorenje i e-poštom ga poslati dužnosnicima nacionalnih vlada i članovima Europskog parlamenta. Od pokretanja u kolovozu, zahvaljujući njoj mailovi europarlamentaraca su zatrpani, a na briselskim hodnicima zavladala je prava pomutnja. 

"Dobivamo stotine poruke dnevno o tome", kazao je za Politico zastupnik u EU parlamentu iz redova švedskih socijalista i demokrata Evin Incir. 

Nova uredba funkcionirala bi uvođenjem detekcijskih naloga pa bi se aplikacijama za razmjenu poruka naložilo da automatski skeniraju sadržaj u potrazi za materijalima seksualnog zlostavljanja djece ili pokušaja "groominga", pojašnjava Gulan.

U praksi bi, prema njegovim riječima, to izgledalo ovako: "Umjesto da policija cilja pojedinca na temelju sumnje i sudskog naloga, aplikacija bi provjeravala poruke svih korisnika, na njihovom vlastitom mobitelu ili računalu, prije nego što poruke budu šifrirane. To se zove client-side scanning. Ako algoritam ili ugrađeni skener na uređaju označi sadržaj kao sumnjiv, uobičajeni slijed bi bio automatsko izvješće platforme prema EU Centru i/ili nacionalnim koordinacijskim tijelima, zatim procjena od strane ljudskog operatera (triage) i, ako slučaj 'prođe', prosljeđivanje informacija nadležnim policijskim tijelima". 

Policija bi na temelju toga mogla pokrenuti istragu, tražiti dodatke podatke od pružatelj usluga ili tražiti sudski nalog za ciljanu pretragu i zapljenu uređaja. 

No, naglašava stručnjak za cyber sigurnost, cijeli bi postupak stvorio niz pravnih i praktičnih izazova jer automatizirani alati može proizvesti dosta lažnih dojava koje iscrpljuju resurse i dovode do prekomjerne obrade podataka, a sporno je i što sami dokazi prikupljeni tako ne bi sami po sebi bili dokaz u istrazi.

'Neupotrebljivi' dokazi

"Treba jasno dokumentirati tko je, kada i kako vidio ili generirao dokaz (chain of custody) da bi se mogao koristiti na sudu, te je otvoreno pitanje hoće li sudovi prihvatiti dokaze dobivene kroz masovno client-side skeniranje ako je njihovo prikupljanje smanjilo temeljna prava (npr. proporcionalnost ili zaštitu privatnosti). U praksi to znači da automatizirani nalaz neće sam po sebi biti 'službeni dokaz', on je najčešće početna točka za istragu, ali bez jasnih procedura, ljudske provjere, nadzora neovisnih tijela i zadržavanja zapisa o lancu nadzora, postoji velika opasnost da takvi podaci budu osporeni ili čak odbačeni u sudskom postupku, a istovremeno da dokažemo sustavnu i opsežnu invaziju privatnosti i rizik od zloupotrebe", upozorava Gulan. 

U prijedlogu nove inicijative ističe nekoliko potencijalnih problema. Jedan od njih je masovni nadzor i treniranje svih građana kao potencijalno sumnjivih. Današnja end-to-end enkripcija ne štiti samo privatne razgovore nego i bankarske transakcije, poslovne tajne i zdravstvene podatke. Ako bi aplikacija za razmjenu poruka morala imati svojevrsni skener, zaštita tih podataka više nije apsolutna. Uz sve to, ni jedan algoritam nije nepogrešiv te postoji realna mogućnost da nevini sadržaj bude označen kao sumnjiv.

"Oni koji zaista žele činiti zlo lako će se prebaciti na alate i enkripciju koju nije moguće skenirati. Time se teret nadzora seli na obične građane, dok kriminalci ostaju korak ispred", smatra cyber stručnjak i ukazuje: "Ako ikada dopustimo da se masovni nadzor uvede pod plemenitim izgovorom, teško ćemo ga ikada vratiti natrag. A to bi mogla biti cijena koju nijedno slobodno društvo ne bi smjelo platiti".

'WhatsApp i Viber ostaju sigurni' 

S druge strane, iz MUP-a nam poručuju da WhatsApp, Viber, Signal i druge aplikacije ostaju sigurne kakve su i sada te da poruke ostaju šifrirane i privatne i mogu ih vidjeti i čitati samo osobe kojima ih građani šalju. "Nitko ih neće otključavati niti čitati - ni policija, ni EU, ni Vlada. Prijedlog Uredbe izričito to zabranjuje. EU neće nadzirati gotovo pola milijarde svojih građana - to je i praktički nemoguće i nije cilj. Uredba se odnosi samo na pronalaženje vizualnog sadržaja zlostavljanja djece, ne na praćenje svih nas", umiruju iz MUP-a. 

Naime, pružatelji internetskih usluga Google, Facebook i Apple već sada pregledavaju sadržaj kad učitavamo dokumente, fotografije i videa za otkrivanje virusa, spama i ilegalnog sadržaja. Prijedlog uredbe, odnoso chat control 2.0 samo regulira i postavlja jasnija pravila pa umjesto da to čine kako žele, sada moraju postrožiti i suziti opseg nadzora. 

"Za razliku od sada, kada tvrtke to rade samoinicijativno, prijedlog Uredbe zahtijeva da sudac ili neovisno upravno tijelo odobri mogućnost nadzora vizualnog sadržaja i to samo u iznimnim slučajevima, za one internetske usluge ili aplikacije za koje se na temelju objektivnih kriterija utvrdi da su visokorizične u odnosu na mogućnost dijeljenja sadržaja seksualnog iskorištavanja i zlostavljana djece i to samo onda kada druge preventivne mjere nisu dale rezultate koji bi doveli do smanjenja ili uklanjanja takvog sadržaja. Stav Uredbe po pitanju enkripcije je izričit: 'ništa se ne smije tumačiti kao zabrana, slabljenje ili onemogućavanje end-to-end enkripcije'. Pružateljima internetskih usluga se ne nameće obveza dešifriranja podataka niti ugradnje tzv. 'backdoor'-a (stražnjih vrata) u njihove šifrirane sustave", tumače u policiji koji ističu da se u javnosti izgubila stvarna svrha prijedloga Uredbe, koja primarno predviđa preventivne mjere za smanjenje sadržaja seksualnog iskorištavanja djece, bez potrebe za nadzorom. 

Skeniranje sadržaja je, ističu, samo krajnja mjera posljednjeg izbora za visokorizične aplikacije, i to samo onda kad su svi drugi pokušaji suzbijanja distribucije seksualnog iskorištavanja i zlostavljanja djece bili neuspješni. I to samo ako naloži sud ili upravno neovisno djelo, na određeni vremenski rok koji odredi sud. 

"U takvim iznimnim slučajevima korisnici aplikacija moraju o tome biti obaviješteni na jasan način. Aplikacije na koje se nalog odnosi i korisnici tih aplikacija imat će pravo na podnošenje žalbe sudu. I sve mjere koje su predviđene neće raditi niti država niti bilo koja EU agencija, već pružatelji internetskih usluga koji to i sada rade", dodaju u MUP-u. 

Narušavanje privatnosti

Kritikama da ovakav prijeti narušavanju prava na privatnost i slobodu izražavanja s posebnim utjecajem na novinare, zviždače i aktiviste koji ovise o sigurnoj komunikaciji, pridružuje se odvjetnik i pravni stručnjak Veljko Miljević.

"Uredba je kritizirana jer narušava temeljna prava zajamčena EU poveljom, uključujući pravo na privatnost, slobodu govora i zaštitu podataka, te može stvoriti opasne presedane za daljnje širenje nadzora i cenzure na internetu", smatra pravnik, upozoravajući da bi mogla imati dugoročne negativne posljedice za digitalna prava građana EU. 

"Europski sud za ljudska prava je u više predmeta razmatrao pitanja masovnog elektroničkog nadzora i njegov utjecaj na pravo na privatnost, koje je zajamčeno člankom 8. Europske konvencije o ljudskim pravima. Posebno su ispitivani slučajevi nadzora koji nisu ciljani, nego obuhvaćaju široke skupine korisnika što se smatra masovnim nadzorom", objašnjava pravnik. 

Sud je pritom upozorio da masovni nadzor elektroničkih komunikacija bez odgovarajućih pravnih garancija može predstavljati kršenje prava na privatnost i slobodu izražavanja. 

"Europski sud za ljudska prava je u svojoj praksi naglašavao važnost zakonskih osnova i transparentnosti nadzornog postupka, zahtijevajući jasne, precizne i učinkovite mehanizme kontrole i sudskog nadzora u takvim mjerama", dodaje Miljević. 

Jedna od prvih presuda u kojoj je Europski sud za ljudska prava razmatrao zakonitost nadzora komunikacije je ona u predmetu Klass i dr. protiv Njemačke iz 1978. godine, kada je zaključio da je nadzor dopušten samo ako postoji zakon, javni interes i odgovarajuće pravne garancije. 

U novijem slučaju N.D. i N.T. protiv Španjolske iz 2020., sud je analizirao prikupljanje digitalnih podataka u kontekstu masovnog nadzora i zaključio da je neadekvatna pravna regulacija takvog nadzora protivna Konvenciji. 

Opasnosti na internetu

 

Trenutno u svim zemljama EU vrijedi pravilo (tzv. Chat Control 1.0) koje privremeno dopušta internet servisima (kao što su e-mail, chat i druge komunikacijske platforme) da dobrovoljno traže i prijavljuju sadržaje povezane sa seksualnim zlostavljanjem djece na internetu. Ovo odstupanje od uobičajenih pravila privatnosti (e-Privacy direktive) vrijedi do 3. travnja 2026. godine, kako bi se omogućila borba protiv takvog zlostavljanja.

 

MUP pojašnjava: "U praksi to znači da pružatelji internetskih usluga u svim državama članicama Europske unije sada mogu dobrovoljno automatski skenirati sav sadržaj poruka, osim zvučne komunikacije, zbog pronalaska poznatih pokazatelja zlostavljanja djece, uz stroge uvjete i ograničenja kao što su najmanji moguć obujam obrade i visok stupanj zaštite privatnosti". 

Kako nakon 3. travnja 2026. godine ne bi nastala pravna praznina, koja bi onemogućila pronalazak sadržaja seksualnog iskorištavanja i zlostavljanja djece, u tijeku je na tehničkoj i stručnoj razini izrada prijedloga Uredbe Europskog parlamenta i Vijeća o utvrđivanju pravila za sprječavanje i borbu protiv seksualnog zlostavljanja djece. To je, zapravo, priča o Chat Controlu 2. oko koje se dignula uzbuna. 

Kaznena djela seksualnog zlostavljanja djece putem interneta postala su globalni problem. Ranjivost žrtava povećana je zlouporabom tehnologije i jednostavnim pristupom djeci. Ovakva teška kaznena djela čine kombinacija online zlostavljanja i zlostavljanja u stvarnom svijetu, a sekundarna viktimizacija žrtve dijeljenjem sadržaja seksualnog zlostavljanja djece na internetu je gotovo neizbježna, upozoravaju iz policije. 

Da je seksualno nasilje jedno od najtežih oblika nasilja nad djetetom potvrđuje i pravobraniteljica za djecu Helenca Pirnat Dragičević, naglašavajući da ono ostavlja neizbrisiv trag u djetetovu sjećanju i razvoju, kao i doživotne posljedice. Zato podržava svaku inicijativu koja predstavlja odgovor na sve veću prijetnju zlostavljanja djece na internetu i izvan njega, međutim ističe važnost postizanja ravnoteže između sigurnosti i zaštite djece, ali i prava na poštivanje privatnog života građana i zaštite njihovih osobnih podataka s druge strane. 

"Podaci pokazuju da najmanje jedno od petero djece doživi seksualno nasilje tijekom djetinjstva, a razvoj tehnologije otvorio je nove mogućnosti seksualnog zlostavljanja djece na internetu", ističu iz Ureda pravobraniteljice, uz upozorenje da posebno brinu sivi brojevi slučajeva nasilja koji ostaju neotkriveni, počinitelj nekažnjen, a djeca nezaštićena.

Zlostavljanje na internetu je kontinuirano jer žrtve trpe svaki put kad se eksplicitni sadržaj i materijal pregledava i širi. Kruženjem slika i videa seksualnog zlostavljanja djece, otvaraju se nove mogućnosti predatorima za pristup djeci i njihovo iskorištavanje. 

"Također, zabrinjavajući je porast elektroničkog nasilja, kada se druga djeca ili odrasli izrugivaju i zastrašuju dijete, nesporazumno (bez odobrenja op.a) dijeljenje videozapisa i fotografija nastalih za vrijeme intimnih veza među mladima, koje bez pristanka druge osobe objavljuju na društvenim mrežama, najčešće nakon prekida veze. Česti su i slučajevi stvaranja lažnih profila s takvim fotografijama kao i fotografije nastale alatima umjetne inteligencije, te slučajevi ucjenjivanja djece novcem ili otkrivanjem informacija o njima", upozorava Pirnat Dragičević. 

Što kaže zakon?

Nadzor i snimanje telefonskih razgovora i drugih komunikaciju osobe, za koju postoji sumnja da je počinila neko kazneno djelo u Hrvatskoj je trenutačno regulirano Zakonom o kaznenom postupku u kojemu je, između ostaloga, već predviđena zaštita maloljetnika i iskorištavanja djece za pornografiju. Operativno-tehnički centar za nadzor komunikacija obavlja tehničku koordinaciju s davateljem telekomunikacijskih usluga u zemlji koji su, po zakonu, dužni policiji osigurati tehničku pomoć.

Zakon pritom dopušta nadzor i tehničko snimanje telefonskih razgovora i drugih komunikacija na daljinu te presretanje, prikupljanje i snimanje računalnih podataka kojima se privremeno ograničavaju ustavna prava građana, ali samo uz nalog suca na temelju zahtjeva državnog odvjetnika ako procijeni da se izvidi ne mogu provesti nikako drugačije. Tako dobivene snimke mogu služiti kao dokaz u postupku.

Tajni nadzor komunikacije se, prema zakonu, dopušta u slučaju teških zločina kao, primjerice, spolne zlouporabe djeteta mlađeg od petnaest godina, podvođenja djeteta, iskorištavanja djece za pornografiju, teških kaznenih djela spolnog zlostavljanja i iskorištavanja djeteta, mučenja i neljudskog postupanja prema djetetu, ali i terorizma, trgovine ljudima, pranja novca, genocida, iznude, pranja novca i slično.

"Europski parlament ne snosi nikakvu odgovornost za stavove i sadržaj objavljen u okviru projekta koji sufinancira Europska unija, jer su oni isključivo u nadležnosti autora."

POGLEDAJTE VIDEO: Nije Orwellova 1984. nego stvarnost 2025. Je li moguće da će vam Bruxelles čitati privatne poruke?