Sigurnost djece na internetu: Da li velike online platforme čine dovoljno?

Uprkos politikama koje proklamuju zaštitu djece, velike online platforme često ne reaguju na prijave nasilja, zloupotreba i štetnog sadržaja, ili to čine prekasno. I dok se algoritmi, u svrhu generisanja profita, razvijaju kako bi privukli i zadržali pažnju korisnika/ca i potakli interakcije, djeca ostaju nezaštićena od ozbiljnih rizika s kojima se susreću na društvenim mrežama.

Foto: Zašto ne

Za potrebe izrade ovog teksta obavljeni su intervjui s Kristinom Mihailović (Udruženje “Roditelji”), Adijem Pejdahom (Centar za sigurni internet) i Snežanom Nikčević (NVO “35mm”). 

Petnaestogodišnja djevojčica iz jedne od država regiona mjesecima je trpjela online nasilje. Na društvenim mrežama objavljivani su njeni snimci nastali tajno, o njoj su objavljivane laži, prijetnje da će biti ubijena, “uživo” se objavljivala njena lokacija. Čak ni nakon šest mjeseci nasilja provedenog online, njeni roditelji, policija i nadležne institucije nisu uspjeli od platforme na kojoj su sadržaji objavljivani dobiti više informacija o počiniteljima, a bilo kakva povratna informacija na učestale prijave je izostala. 

Iako velike online platforme u svojim politikama proklamuju zaštitu djece (1, 2, 3), slučajevi različitih ugrožavanja maloljetnika/ca njihovim posredstvom nisu rijetkost. Ažurnosti reakcija platformi u pravilu zavise od prirode pravila koja se krše i zloupotrebe koja je predmet prijave. Takođe, prema riječima naših sagovornika/ca, reakcija platformi zavisi i od toga ko je prijavu uputio. 

Recimo, na slučajeve vršnjačkog nasilja reaguje se rijetko ili kasno. Prijave uglavnom nemaju mnogo efekta. U velikom broju slučajeva izostaju i odgovori platformi o prijemu prijava. Čak i u slučajevima u kojima platforme eventualno reaguju, te reakcije često dolaze prekasno; nakon što se štetni sadržaj na društvenim mrežama zadržao dugo, proširio se dalje i imao brojne negativne posljedice i u stvarnom životu. 

Korisnici/e, u nadi da će platforme tako brže reagovati, pozivaju više ljudi da podnesu iste prijave. Razlog za to je iskustveni dojam o tome da su platforme sklonije reagovati ukoliko isti sadržaj prijavi više osoba. Platforma Meta, pak, u svojim pravilima kaže da broj prijava nema veze s njihovom reakcijom, već da u procjeni svih slučajeva koriste iste smjernice. 

Na prijave najekstremnijih sadržaja, poput onih koji prikazuju seksualno eksplicitan materijal, seksualno iskorištavanje i zlostavljanje djece, platforme reaguju brže i proaktivnije, naročito ukoliko se takve prijave proslijede putem policijskih službi, podijelio je s nama svoje iskustvo Adi Pejdah iz Centra za sigurni internet.

Udruženja posvećena zaštiti djece na internetu, poput Centra za sigurni internet, imaju uspostavljene protokole analize i procesuiranja prijavljenih sadržaja u kojima je ugrožena sigurnost djece. Oni, slijedeći taj protokol, prijave prosljeđuju nadležnim policijskim službama koje dalje komuniciraju s platformama putem svojih kontakt-tačaka. Prijave na sadržaj koji je hostovan, odnosno objavljen na serverima van BiH, prosljeđuju se lokalnim centrima za sigurni internet, članovima INHOPE mreže.  

Međutim, kada je riječ o sadržaju koji nema elemente krivičnog djela, mogućnosti za direktnu komunikaciju s platformama ne postoje. Jedino što Centru preostaje jeste da obavi razgovor s roditeljima i djecom, i da tako utiče da se, na primjer, vršnjačko nasilje putem interneta ukloni s društvenih mreža i zaustavi. 

Djeca na društvenim mrežama izložena su velikom broju različitih rizika. Kada je riječ o neprimjerenom sadržaju, djeca na platformama lako mogu pristupiti svemu: od eksplicitnih, pornografskih sadržaja pa do onih koji sadrže govor mržnje i pozivaju na nasilje (1, 2). Dizajn algoritama velikih online platformi pogoduje širenju ovakvih sadržaja, a ograničenja koja bi trebala biti na mjestu za njihovo korištenje kod djece, prema pravilima koja su same platforme kreirale, nisu dovoljno efektivna da djecu zaista i zaštite. 

Problem predstavljaju i neefikasni sistemi moderacije sadržaja, koji također počivaju na algoritamskom prepoznavanju neprimjerenog sadržaja. Nakon ubistva osam i ranjavanja 14 osoba koje je u maju 2023. godine počinio maloljetni K.K. u jednoj osnovnoj školi u Beogradu, na društvenim se mrežama pojavio niz nedozvoljenih i štetnih sadržaja. Na različitim platformama pojavljivali su se “fan-nalozi” posvećeni ubici, nalozi koji su se pretvarali da su on, komentari podrške i imitacije (1, 2, 3). Iako su žrtve bile maloljetne, njihove fotografije i identitet takođe su intenzivno eksploatisani. Prema pisanjima medija, na TikToku su se čak pojavili i filteri s likovima žrtava. Uprkos tome što je ovaj slučaj izazvao ogromnu pažnju javnosti, te činjenici da je u njemu živote izgubilo sedmoro djece, mjere moderacije na društvenim mrežama, očigledno, nisu bile pojačane.

Kako djeca uopšte koriste platforme?

Pravila korištenja velikih online platformi, poput onih koje vode kompanije Meta, TikTok i Snapchat, nalažu da je minimalna starosna dob za samostalno kreiranje naloga i korištenje platformi 13 godina. TikTok, recimo, za trinaestogodišnjake/inje iz Sjedinjenih Američkih Država ima i “zasebno TikTok iskustvo posebno dizajnirano za mlađe”. Ipak, primjena ovih restrikcija pokazala se neadekvatnom. 

Primarno, sve što dio platformi traži kao potvrdu uzrasta jeste samooznačavanje starosti. Dakle, sve što djeca ispod 13 godina u velikom broju slučajeva treba da urade jeste da označe da imaju više godina i tako mogu napraviti nalog. Mehanizmi verifikacije uzrasta na platformama koji uključuju korištenje ličnih dokumenata, biometrijskih ili alata vještačke inteligencije pokreću druga pitanja zaštite privatnosti podataka korisnika/ca (1, 2). 

Djeca mlađa od dozvoljenog uzrasta, pak, uspješno zaobilaze ove restrikcije (1, 2, 3). Istraživanje iz Australije provedeno ove godine, recimo, pokazuje da je čak 84% djece uzrasta od 8 do 12 godina koristilo neku uslugu društvenih mreža, a polovina njih to je činila putem naloga roditelja ili staratelja. Trećina djece uključene u istraživanje, pak, koristila je sopstvene naloge na društvenim mrežama, uprkos pravilima platformi. U čak 80% tih slučajeva, djeca su u postavljanju naloga imala pomoć roditelja/staratelja. 

Prema iskustvima naših sagovornika/ca, upravo roditelji i staratelji često nisu svjesni rizika koje sa sobom nosi korištenje online platformi među djecom. Češće ih brine vrijeme koje djeca provode online negoli sami sadržaji koje u tom periodu konzumiraju. Stoga, usljed neobaviještenosti o potencijalnim rizicima, nerijetko pomažu djeci da kreiraju i koriste naloge na društvenim mrežama uprkos pravilima platformi. Dodatni problem jeste nepoznavanje načina korištenja i funkcionisanja mjera roditeljske zaštite, kao i generalno nizak nivo digitalne pismenosti.  

Roditelji najčešće reaguju tek nakon što dođe do neželjenih posljedica. U nedostatku boljih rješenja, podržavaju zabranu. Naše sagovornice navode da je crnogorska javnost s odobravanjem reagovala na vijest o jednogodišnjoj zabrani TikToka u Albaniji. S druge strane, ova je odluka naišla na kritike stručne javnosti zbog ograničavanja slobode izražavanja i kršenja evropskih principa regulacije digitalnih platformi. Pored toga, zabrana rada jednoj platformi nije rješenje, jer se problematični sadržaji mogu lako pojaviti na drugoj. Kako upozorava Snežana Nikčević, najproblematičnije vrste sadržaja već su se preselile s društvenih mreža u zatvorene korisničke grupe ili druge kanale gdje privatna razmjena sadržaja ima primat, poput Snapchata i sličnih platformi.

Odgovornost za zaštitu djece u online prostoru snose i platforme 

Umjesto uvođenja zabrana, zakonske mjere trebaju se fokusirati na obavezu primjene mjera zaštite djece od opasnosti i rizika na internetu, kao što su uznemiravanje, zlostavljanje ili izloženost neprimjerenom sadržaju. U Evropskoj uniji, Akt o digitalnim uslugama obavezuje velike online platforme da redovno procjenjuju potencijalne rizike za djecu i mlade te da uvode mjere za smanjenje tih rizika. Međutim, dostupnost mjera poput roditeljske zaštite ili provjere dobi korisnika/ca nije sama po sebi dovoljna. 

Ono na čemu zakonski EU okvir naročito insistira jeste obaveza platformi da brzo reaguju na prijave nezakonitog i štetnog sadržaja. Važnu ulogu u tome mogu imati pouzdani prijavitelji, organizacije kojima je dodijeljen poseban status za prepoznavanje i prijavljivanje nezakonitog ili sadržaja koji krši pravila platformi. Postojanje ovakvog mehanizma u domaćim zakonodavstvima zemalja regiona omogućilo bi organizacijama koje se bave zaštitom djece na internetu i posjeduju potrebnu stručnost da prijave upućuju direktno platformama, a samim bi platformama nametnulo zakonsku obavezu da prioritetno na njih odgovore. 

Online platforme su te koje u konačnici imaju odgovornost za zaštitu djece kao jedne od najranjivijih kategorija društva. Ta odgovornost nikako ne smije počivati samo na roditeljima i starateljima.

(Marija Ćosić i Maida Ćulahović, “Zašto ne”)