Odgovornost velikih online platformi: Štetni sadržaji, slaba moderacija i izostanak regulacije na Zapadnom Balkanu
Iako su postale neizostavan dio svakodnevice, velike online platforme na Zapadnom Balkanu često ne reaguju na govor mržnje, dezinformacije i druge štetne i nezakonite sadržaje. Nedostatak adekvatne moderacije, netransparentni algoritmi i izostanak sistemske regulacije ostavljaju korisnike/ce i zajednice bez zaštite.
Foto: Zašto ne
Za potrebe izrade ovog teksta obavljeni su intervjui s predstavnicima/ama organizacija civilnog društva, akademske zajednice, medija te aktivistima/kinjama iz Bosne i Hercegovine, Crne Gore i Srbije. Ranije tekstove objavljene u okviru ovog serijala možete pročitati na stranici Udruženja građana i građanki “Zašto ne” (1, 2, 3, 4, 5, 6).
Provođenje vremena na velikim online platformama postalo je neizbježna odrednica svakodnevice ljudi širom svijeta. Od pretraživanja na Googleu, preko razmjene poruka na Viberu pa do dijeljenja fotografija na Snapchatu – velike online platforme obilježavanju brojne dijelove naših života. I dok u velikoj mjeri platforme olakšavaju, čak i facilitiraju našu svakodnevicu, sadržaji na njima mogu biti izraženo štetni, čak i opasni.
Na njima se dijele dezinformacije, upućuju prijetnje nasiljem, uznemirava, širi govor mržnje, pa čak i dječija pornografija i nasilan sadržaj. Algoritmi pojedinih online platformi ne samo da omogućavaju nego i podstiču štetan sadržaj. Razlog za to je jasan: vlasnici velikih online platformi imaju svoje interese, a oni se u velikom broju slučajeva svode na novac. Neki od najbogatijih ljudi globalno kapital su u velikoj mjeri stekli upravo zahvaljujući velikim online platformama (1, 2).
Iskustva iz regiona pokazuju da se pravila velikih online platformi krše često, a da su mehanizmi djelovanja platformi spori ili nepostojeći. Na platformama se krše prava žena, djece, LBTIQA+ zajednice, šire se dezinformacije, sve dok digitalni prostor izmiče gotovo bilo kakvoj regulaciji na Zapadnom Balkanu.
Bez odgovora i odgovornosti
Velike online platforme u pravilu imaju kompleksan set politika i pravila zajednica koji se navodno mora poštovati pri njihovom korištenju. Realnost je, pak, da su ta pravila u najvećem broju slučajeva samo deklarativna. Njihova stvarna primjena izostaje.
Na prijave štetnih sadržaja koji krše neka od pravila platformi reakcija gotovo u pravilu izostaje. Kako su nam rekli/e sagovornici/e, ukoliko se neki odgovor i dobije, obično je to onaj generički – da neki sadržaj ne krši pravila. Riječ je o automatskim odgovorima koje prijavitelji/ce dobijaju od “mašine”. Nedostaje, smatraju sagovornici/e, moderatora/ki koji/e poznaju domaći kontekst i jezik. Naročito je to slučaj kod prijava vezanih za govor mržnje. Za pravilnu analizu ovakvih sadržaja neophodno je poznavati lokalni kontekst, jezik pa čak i “sleng”. Automatska, kompjuterska provjera sadržaja teško će “shvatiti” da sadržaj zaista predstavlja govor mržnje ako ga analizira na osnovu mašinski generisanog prevoda.
Mehanizmi automatske moderacije, takođe se čini, ne djeluju u potpunosti ispravno na Zapadnom Balkanu. Zbog nedostatka lokalnih moderatora/ki, dešava se da algoritmi neki sadržaj uklone ili označe kao štetan, iako to nije, i obratno – da ne prepoznaju one koji zaista to jesu.
Sve ovo dovodi do toga da korisnici/e sve više odustaju od prijavljivanja sadržaja platformi budući da u njihovu reakciju ne vjeruju. Proces prijavljivanja i dokumentovanja kršenja pravila platformi i ugrožavanja sopstvenih prava na njima često je vremenski i mentalno zahtjevan, oduzima kapacitete kojih kod boraca/kinja za ljudska prava i u civilnom sektoru često nedostaje.
Korisnici/e se, zbog teškog dolaska do reakcije platformi, “dovijaju” kako riješiti probleme. Unutar svojih zajednica pozivaju na zajednička prijavljivanja sadržaja u nadi da će to potaći bržu reakciju platformi. Privatnim kontaktima pokušavaju doći do nekoga ko radi ili poznaje nekoga ko radi u ovim kompanijama, sve u pokušaju dolaska do rješenja za kršenja pravila na platformama.
Ništa od toga ne predstavlja sistematsko rješenje, koje bi jedino moglo osigurati integritet online okruženja. Neophodno je usvajanje legislative kojom bi velike online platforme bile primorane osigurati sigurno korištenje i poštovati određena pravila.
Dodatno, velikim online platformama na Zapadnom Balkanu sadržaji koji su u suprotnosti s domaćim zakonodavnim okvirom uopšte se ne mogu prijaviti po tom osnovu. Tako se, recimo, negiranje genocida u Srebrenici, koje je, prema Krivičnom zakonu BiH, kažnjivo zatvorom, platformama ne može prijaviti na osnovu kršenja ovog zakona. Narativi kojima se negira genocid u Srebrenici tako se, pokazuju analize, intenzivno dijele na društvenim mrežama (1, 2), a platforme nisu dužne omogućiti prijavu takvih sadržaja.
Nedostatak transparentnosti otežava dokazivanje problema
Dodatni nivo problema jeste nedostatak transparentnosti velikih online platformi. To se odnosi i na neka njihova postupanja i na podatke o njihovom djelovanju.
Naime, kako su s nama podijelili/e naši/e sagovornici/e, velike online platforme, poput onih u vlasništvu kompanije Meta, nekada donose odluke za koje ne nude jasna objašnjenja. Tako se, recimo, dešava da se određeni sadržaji uklone, da im se smanji doseg ili se uopšte ne mogu podijeliti jer krše neko pravilo, ali se u objašnjenju ne navodi koje. Time je korisnicima/ama značajno otežano snalaženje na platformama budući da moraju nagađati šta bi mogao biti problem i kako izbjeći njegovo ponavljanje.
Kreatori/ke sadržaja ne znaju pouzdano zašto je neki njihov sadržaj imao veći, a neki značajno manji doseg. S ovim problemom susreću se i mediji. Posao i jednih i drugih često zavisi od postupaka platformi, budući da one predstavljaju izvor njihove zarade, i za medije još važnije, način da njihove priče dođu do što veće publike.
Drugi nivo ovog problema, kako je navedeno, predstavlja nedostatak transparentnosti platformi vezan za podatke o njihovom djelovanju. Suštinski, kako bi se uticaj samih platformi u različitim oblastima naših života pouzdano mogao dokazati, neophodni su određeni podaci koje nam često mogu dati isključivo same platforme. One, pak, zbog zaštite svojih interesa, taj proces nekada opstruišu.
Tako je istraživačima i istraživačicama otežan pristup podacima postavljanjem različitih uslova – od kompleksnog procesa verifikacije do potrebe za skupim alatima za pristup. Platforme, prosto, ne žele na jednostavan način ustupiti svoje podatke budući da se neka od ovih istraživanja mogu negativno odraziti na njih same. Dubinska, kompleksna istraživanja djelovanja i uticaja platformi mogla bi dokazati nešto što platforme ne žele da se zna.
Aplikacije za upoznavanje, recimo, u ranijem slučaju u Srbiji nisu ustupile podatke o kršenjima prava njihovih korisnica. Jasno je, dokazi o nekom masivnom ugrožavanju bezbjednosti žena koje je neka od tih platformi omogućila ozbiljno bi mogli ugroziti njen imidž i tržišnu poziciju. Nije ih, pak, na Zapadnom Balkanu moguće primorati da podatke ustupe.
S druge strane, provođenje takvih istraživanja bilo bi ključno za zagovaranje za unapređenje rada platformi, kao i za držanje platformi odgovornim. Istraživači/ce sa Zapadnog Balkana, s druge strane, kažu nam da zbog nedostatka novčane i druge podrške institucija u kojima rade često odustaju od ovakvih istraživanja i svoj rad usmjeravaju prema drugim, dostupnijim oblastima istraživanja.
Ka sistematskim rješenjima
Velike online platforme, uprkos svim navedenim problematičnim praksama, ostaju veoma važne za nas, posebno za marginalizovane zajednice u društvu. Online prostor često je mjesto socijalizacije za one koji su ugroženi offline, poput LGBTIQ+ osoba. Stoga je postizanje odgovornog i transparentnog djelovanja velikih online platformi zajednički cilj kom trebaju težiti akteri iz brojnih oblasti u našem društvu.
Regulacija online platformi, kakva je u Evropskoj uniji uvedena primjenom Akta o digitalnim uslugama, zahtijeva pristup “cijelog društva” (eng. whole-of-society approach) koji podrazumijeva aktivnu ulogu civilnog društva, akademske zajednice, medija, institucija i privatnog sektora, uz jasno pozivanje na odgovornost i online platformi i donosilaca odluka koji trebaju usvojiti i provoditi adekvatne regulatorne okvire. Takav sistemski pristup ne može se svesti samo na normativna rješenja, već mora uključivati i jačanje kapaciteta relevantnih aktera te osiguravanje njihove dugoročne održivosti, kako bi mogli djelotvorno učestvovati u primjeni i nadzoru budućeg zakonskog okvira.
(Marija Ćosić i Maida Ćulahović, “Zašto ne”)