Online nasilje: Da li velike platforme čine dovoljno da zaštite žene?
Uprkos deklarativnim politikama i pravilima zajednice, reakcija velikih platformi na rodno zasnovano nasilje online u pravilu izostaje. Od dijeljenja intimnih sadržaja bez pristanka do otvorenih prijetnji nasiljem, pa čak i snimaka ubistva, žene ostaju nezaštićene u digitalnom prostoru. Odgovornost za moderaciju i prevenciju ovakvog nasilja i dalje izostaje s platformi koje omogućavaju njegovo širenje.
Foto: Zašto ne
Za potrebe izrade ovog teksta provedeni su intervjui s Hristinom Cvetinčanin Knežević (Feminizam iz teretane), Ninom Pavićević (Kritički) i Milicom Betričević i Anom Mirkailo (BeFem).
Nakon privođenja tokom jednog od velikih protesta u Beogradu, studentkinja Nikolina Sinđelić optužila je komandanta Jedinice za zaštitu određenih objekata i ličnosti (JZO) Marka Krička za zlostavljanje i prijetnje silovanjem. Prema navodima Sinđelić, Kričak ju je “šamarao i udarao joj glavu o zid”, a prijetio joj je i da će je “skinuti i silovati pred svima”.
Nakon iznošenja ovakvih optužbi na račun visokopozicioniranog bezbjednosnog službenika u Srbiji, uslijedila je javna kampanja pokušaja diskreditacije ove studentkinje. Bivša državna sekretarka Ministarstva unutrašnjih poslova u Srbiji Dijana Hrkalović, nedugo nakon svjedočenja Sinđelić, na svom nalogu na društvenoj mreži X objavila je njene intimne fotografije.
U vrijeme nastanka ovih fotografija, Sinđelić je bila maloljetna. Njihova je distribucija, dakle, problematična iz više razloga. Nemalo prije slučaja dijeljenja fotografija Sinđelić, u Srbiji je najavljeno da će neovlaštena distribucija intimnih sadržaja postati posebno krivično djelo unutar Krivičnog zakonika, no ovo djelo još nije prepoznato u zakonu.
Nakon što su objavljene na X nalogu Dijane Hrkalović, intimne fotografije Sinđelić u programu Informer televizije pokazao je i komentarisao i urednik ovog medija Dragan J. Vučićević. Regulatorno telo za elektronske medije iz Srbije utvrdilo je povredu više odredbi Pravilnika o zaštiti ljudskih prava u oblasti pružanja medijskih usluga, kao i jednog člana Zakona o elektronskim medijima, na Informeru u ovom slučaju.
“Dijeljenje eksplicitnih seksualnih fotografija ili videozapisa nekoga na internetu bez njegovog pristanka predstavlja ozbiljno kršenje njihove privatnosti i pravila X-a. Ponekad nazvan osvetničkom pornografijom, ovaj sadržaj predstavlja ozbiljne sigurnosne rizike za pogođene osobe i može dovesti do fizičkih, emocionalnih i finansijskih poteškoća”, navodi se na stranici politike platforme X o ovim slučajevima.
“Odmah ćemo i trajno suspendovati svaki nalog za koji utvrdimo da je izvorno objavio intimne medijske sadržaje koji su kreirani ili dijeljeni bez pristanka”, navodi se u istoj pomenutoj politici X-a.
Ipak, platforma X, navodi se u istim smjernicama, dozvoljava distribuciju pornografije i eksplicitnih sadržaja nastalih uz pristanak. Stoga, za svaki pojedinačni slučaj ova platforma mora “procijeniti kontekst kako bi se utvrdilo je li prijavljeni sadržaj stvoren ili dijeljen bez pristanka uključenih osoba”.
Članice više organizacija koje se bave feminističkim temama i druge građanke organizovano su prijavljivale objavu Hrkalović, s ciljem njenog uklanjanja. Na inicijalne prijave, od platforme X stizali su automatski odgovori o tome da objava ne krši njena pravila. Tek nakon više desetina prijava, objava je uklonjena.
Objava više nije dostupna, no profil Hrkalović na ovoj društvenoj mreži jeste. Nije poznato da li je u slučaju Hrkalović platforma X utvrdila da je njen nalog objavljivao “intimne medijske sadržaje koji su kreirani ili dijeljeni bez pristanka” i zašto u njenom slučaju nije primijenjena odrednica pravilnika platforme o uklanjanju takvih profila.
Problematika rodno zasnovanog nasilja online
Ovaj i brojni drugi slični slučajevi jasno ilustruju kako se nasilje nad ženama prenosi iz online sfere u stvarni život i obratno. Rodno zasnovano nasilje online rastući je problem s kojim se suočavamo. Ujedinjene nacije posebnu formu ovog fenomena označavaju kao “rodno zasnovano nasilje facilitirano tehnologijom”. Time se prepoznaje značajna uloga koju digitalne tehnologije imaju u jačanju i širenju nasilja.
Prema istraživanju UN-a objavljenom 2023. godine, više od 50% žena starijih od 18 godina u 12 država istočne Evrope i centralne Azije, uključujući i države Zapadnog Balkana, doživjelo je neku vrstu ovakvog nasilja. Seksualno uznemiravanje i uhođenje predstavljaju najčešće prijavljene slučajeve nasilja nad ženama facilitiranog tehnologijom, navode Ujedinjene nacije.
Drugi oblici ovog nasilja uključuju objave intimnih fotografija, dijeljenje ličnih informacija bez pristanka (tzv. doxing), neželjene poruke, dezinformacije, govor mržnje, objave deepfake snimaka i zlostavljanje. Sinđelić nije jedina studentkinja uključena u proteste u Srbiji koja je pretrpjela neku vrstu rodno zasnovanog nasilja online. Lični podaci i fotografije brojnih studentkinja dijeljeni su bez njihovog pristanka na internetu, rekle su nam naše sagovornice. U velikom broju slučajeva, ovi sadržaji diseminirani su putem zatvorenih grupa na različitim online platformama, nakon čega su žrtve trpjele različite oblike nasilja.
Kreatori/ke online sadržaja koji/e obrađuju feminističke teme posebno se često suočavaju s online zlostavljanjem i uznemiravanjem, najviše putem mizoginih i agresivnih komentara, koje su primorani/e da sami/e moderiraju. Kako nam je rekla Hristina Cvetinčanin Knežević, u slučajevima kada dođe do organizovanih napada, isključivanje mogućnosti komentara jedino je rješenje. Ovo se, međutim, negativno održava na vidljivost objava, jer algoritmi platformi nagrađuju sadržaje koji generišu interakciju – pa čak i onu nasilnu.
Ovakvi primjeri jasno ilustruju kako tehnologije proširuju shvatanje šta sve nasilje nad ženama može uključivati, kao i na koji se način žene (ne) mogu zaštititi od njega.
Popularne online platforme uglavnom imaju deklarativne politike i pravila zajednice koje bi trebalo da štite određene kategorije korisnika/ca (1, 2, 3). Ove politike uglavnom tretiraju i pitanja targetiranja na osnovu roda. U praksi, pak, njihova primjena najčešće izostaje.
Kako su s nama podijelile članice različitih organizacija koje se bave pravima žena, iskustvo pokazuje da prijavljivani sadržaji najčešće ostaju na platformama te da same prijave, koje u pravilu postoje kao jedini mehanizam zaštite, nemaju mnogo efekta. Čak ni otvorene prijetnje nasiljem ne bivaju uklonjene na osnovu prijava na društvenim mrežama. Platforme, jednostavno, ne reaguju. Nasuprot tome, reakcije na prijave zbog kršenja autorskih prava više su nego efikasne i dovode do izuzetno brzog uklanjanja spornog sadržaja.
Da platforme ni samoinicijativno ni na osnovu brojnih prijava nekada ne postupaju dovoljno ažurno, pokazuje i slučaj ubistva žene u Gradačcu, koji je emitovan uživo na običnom profilu na Instagramu. Snimak ubistva na profilu počinioca bio je dostupan gotovo četiri sata prije njegovog uklanjanja. Za to vrijeme, snimak je pogledalo desetine hiljada ljudi te je preuziman i ponovno objavljivan na drugim nalozima i društvenim mrežama.
Nesporno je da je u ovom slučaju riječ o nezakonitom sadržaju koji bi morao biti zabranjen i pravovremeno uklonjen. Uprkos prebacivanju odgovornosti između kompanije Meta i policijskih struktura u BiH, činjenica je da bi moderacija društvenih mreža morala biti efikasnija budući da ovakvi sadržaji mogu imati trajne posljedice na korisnike/ce koji/e se s njima susretnu, a i da direktno krše pravo na dostojanstvo žrtve.
Žene štite jedna drugu jer platforme i zakoni neće
Porast ovakvog nasilja i neadekvatna zakonska zaštita žena u zemljama Zapadnog Balkana dovela je do toga da se žene online osjećaju nesigurno. Izostanak reakcije i zaštite rezultiraju raširenim nepovjerenjem u platforme i nadležne institucije u regionu. Neke od sadržaja gotovo je nemoguće ukloniti uprkos tome što jasno krše postojeće politike platformi, a na prijave se nekada ne dobije čak ni odgovor da su zaprimljene. Ovakve politike time ostaju samo deklarativno “slovo na papiru”, čija primjena u praksi nije vidljiva.
Kontinuiran izostanak reakcije doveo je do toga da veliki broj korisnica više i ne pokušava prijaviti nedozvoljene sadržaje. Žene se, tako, osjećaju nesigurno i u online prostoru i u stvarnom životu. Oslanjaju se jedna na drugu.
“Žene znaju da platforme ni na koji način nisu regulisane, znamo da nema zakonske i institucionalne pomoći, nego moramo da se držimo jedna druge i da se na to oslanjamo, da zaštitimo jedna drugu”, rekla je Nina Pavićević, kreatorka Instagram stranice Kritički.
Pored uvođenja neophodnih zakonskih rješenja u državama regiona, uspostavljanje odgovornosti platformi za omogućavanje ovakvih štetnih praksi ključno je za unapređenje zaštite žena online. Njihova odgovornost prije svega podrazumijeva brzo i adekvatno reagovanje na prijave nezakonitog i štetnog sadržaja, što uključuje saradnju i uspostavljanje funkcionalnih kanala komunikacije s lokalnim vlastima i pouzdanim prijaviteljima (organizacijama s posebnim statusom kod platformi za prepoznavanje i prijavljivanje nezakonitog ili sadržaja koji krši pravila), ali i reagovanje na prijave kršenja njihovih vlastitih pravila koje im upućuju korisnici/ce. Također, velike bi platforme trebale biti svjesne rizika koje njihovi sistemi i način na koji se koriste predstavljaju kada je riječ o širenju sadržaja poput rodno zasnovanog nasilja te uvesti mjere koje bi pomogle da se ti rizici uklone ili barem ublaže – naprimjer, ulaganjem u ljudske resurse za moderaciju sadržaja na lokalnim jezicima ili korekcijom algoritamskih sistema koji pogoduju amplifikaciji ovakvog sadržaja.
Online platforme u Bosni i Hercegovini i ostalim zemljama Zapadnog Balkana trenutno nemaju zakonsku obavezu da primjenjuju navedene mjere. Nastojanje da se djelovanje velikih online platformi usmjeri i reguliše ključan je dio napora Evropske unije, manifestovanih putem kreiranja seta legislative koja, između ostalog, uključuje i Akt o digitalnim uslugama. Harmonizacija s ovim aktom i primjena njegovih ključnih principa u domaćem zakonskom i regulatornom okviru preduslov je za uspostavljanje transparentnijeg i odgovornijeg postupanja velikih online platformi i u našem regionu.
(Marija Ćosić i Maida Ćulahović, “Zašto ne”)