Šta se može poduzeti oko online uznemiravanja pitanje je koje već neko vrijeme muči online platforme i zagovornike ljudskih prava. Gdje se može nacrtati linija između slobodnog govora i uznemiravanja i ko bi je trebao povući? Budući da ovo pitanje ostaje neodgovoreno, uznemiravanje se i dalje događa svakodnevno, na više platformi širom svijeta.

Tokom proteklih nekoliko godina, pojavio se konsenzus među braniteljima ljudskih prava da ciljano online uznemiravanje predstavlja formu ušutkivanja, jer često vodi do samocenzure. Nedavna studija Instituta za istraživanje podataka i društva i Centra za inovativna istraživanja javnog zdravstva (CIPHR) pokazala je da online uznemiravanje ima stvarne posljedice; 43 % žrtava uznemiravanja promijeni svoje kontakt podatke nakon incidenta, dok 26 % prestane koristiti društvene mreže, svoj telefon ili internet u potpunosti.

Iako incidenti na globalnom jugu u većini slučajeva dobijaju manje publiciteta od onih u Americi i Evropi, online uznemiravanje je zaista svjetski fenomen. Kako izvještaj o “cyber nasilju”iz radne grupe UN-a širokopojasne komisije za digitalni razvoj, koji se tiče širokopojasne konekcije i roda, online zločini “neprimjetno prate širenje Interneta”, pri čemu se nove tehnologije pretvaraju u nova sredstva uznemiravanja na mjestima gdje su široko zastupljena . Na primjer, studija iz 2017. godineiz Pakistanske fondacije za digitalna prava pokazala je da je 40 % žena u zemlji doživjelo online seksualno uznemiravanje, sa većim brojem tih slučajeva na Facebook-u.

Ovaj fenomen je naročito prisutan kada je u pitanju Twitter. Tokom proteklih nekoliko godina, veliki broj istaknutih korisnika, a posebno žena, napustili su platformu nakon što su doživjeli uznemiravanje. Jedan značajan primjer je Lindy West, američka feministička spisateljica i aktivistica za prihvatanje gojaznosti, javno je objavila svoju deaktivaciju sa ove platforme, nazvavši je “neupotrebljivom za sve osim “trolova”, robota i diktatora”. Twitter, kako kaže West, “je proteklih pet godina bio mašina u koju sam stavljala svoj neplaćeni rad, a dobila napetost i glavobolje… ja dijelim informacije pro bono i, zauzvrat, dobijam prijetnje od stranaca; neo -Nacisti ugrožavaju moj privatni život zbog moje ranjivosti, a muškarci uživaju u beskontaktnom, direktnom pristupu mom mozgu, kako bi me, po hiljaditi put, mogli obavijestiti da bi me rado silovali da nisam tako debela. “

Iskustvo Lindy West se nalazi u podacima predstavljenim u radu Instituta za istraživanje podataka i društva i CIPHR-a. Za West, poznatu spisateljicu, napuštanje Twittera može izazvati gubitak mogućnosti i veza, ali na kraju može biti i vrijedan kompromis. Ali za mnoge korisnike, društvene mreže su ključna stvar, a napuštanje istih nije tako jednostavno.

Kada su platforme na kojima se događa takvo uznemiravanje korporativne i američke, rješenja za ublažavanje štete je zaista malo. Uredba je moguća, ali teška; Ustav Sjedinjenih Država je širok u svojoj zaštiti slobode govora i ne obuhvata sve ono što korisnici doživljavaju kao uznemiravanje. Štaviše, uznemiravanje je često već protiv zakona; problem, stoga, leži u izvršenju, a ne u propisima.

Mnogi zagovornici ljudskih prava su prolazili kroz korporativne online platforme – ili posrednike – tražeći rješenja. Ove platforme imaju slobodu da ograniče sadržaje onako kako ih one smatraju pogodnim, bilo da je to golotinja, nasilje ili uznemiravanje. Većina popularnih društvenih mreža, uključujući Facebook, Twitter i YouTube, dugo su imale politiku koja zabranjuje uznemiravanje, ali mnogi korisnici su se žalili da kompanije ne idu dovoljno daleko u cilju primjene svojih pravila.

Sprovođenje, kao što ćemo vidjeti, također nije uvijek jednostavan zadatak. Kompanije značajno ulažu u mehanizme izveštavanja i uklanjanja sadržaja, ali i nastavljaju da primaju žalbe. Sljedeći dio će istražiti zašto je moderiranje sadržaja tako težak poduhvat.

Izazovi moderiranja sadržaja

Moderiranje sadržaja je duboko ljudski proces odlučivanja o tome šta je to zapravo odgovarajući govor u javnom domenu. – Kate Crawford

Upravljanje uznemiravanjem kroz prijavljivanje sadržaja ili alatima za označavanje i kaznenim posljedicama – značajno varira od jedne do druge platforme. Arhitektura određene platforme ima mnogo veze sa varijacijama; društvena mreža, kao što je Twitter, gdje je većina sadržaja zasnovana na tekstu, ima različite potrebe od multimedijalne platforme poput Facebook-a.

Moderiranje sadržaja, sa druge strane, funkcioniše slično na različitim platformama. Kada korisnik/ca vidi dio sadržaja koji mu/joj se ne dopada, taj sadržaj se može označiti kao sadržaj za pregled, pokrećući niz pitanja. Na primjer, kada korisnici/ce prijave pisani sadržaj na Facebook-u, od njih se traži da “pomognu da razumijemo šta se događa” odgovorom na pitanje “šta se događa?” i izborom sa liste opcija koje uključuju: “Mislim da ovo ne bi trebalo biti na Facebooku.” Izbor te opcije rezultira u drugo pitanje – “Šta nije u redu s tim?” – praćeno različitim opcijama, uključujući: “To je grubo, vulgarno ili je jezik neprimjeren” i “To je uznemiravanje ili govor mržnje”. Svaka opcija podstiče drugi rezultat; prijavljivanje sadržaja kao “grubog ili vulgarnog” vodi do stranice koja opisuje opcije blokiranja korisnika, dok prijavljivanje uznemiravanja ili govora mržnje rezultira prijavljivanjem za dodatni pregled.

Frikcija (konflikt ili mržnja izazvana sukobom volje, temperamenta ili mišljenja) je ugrađena u Facebook izveštajni proces. Korisniku koji klikne na prvu opciju biće rečeno da jednostavno blokira ili ukloni iz prijatelja korisnika/cu kojeg/koju prijavljuje.

Frikcija je ugrađena u mehanizme za označavanje, kako bi se izbjegla zlonamjerna ili neovlaštena prijavljivanja, ali to može biti i frustrirajuće za korisnike koji doživljavaju uznemiravanje. Pored toga, zlonamjerna prijavljivanja (tzv.malicious reporting) sadržaja, sa ciljem da se naudi kreatorima sadržaja – ostaju uobičajen scenario. Više od četrdeset vijetnamskih novinara/ki i aktivista/ica u 2014. godini, otkrilo je da su njihovi Facebook računi bili deaktivirani nakon što su bili targetirani organizovanim kampanjama za prijavljivanje, koje su bile koordinirane od strane vladinih pristalica. Iako Facebook negira da masovno prijavljivanje dovodi do deaktivacije računa, postoji mnogo načina na koje prijavljivanja mogu pokrenuti deaktivaciju ili gašenje računa – na primjer, ako se prijavljuje korisnik/ca za korištenje lažnog imena, te ukoliko se isti/ista ne osjeća prijatno da priloži svoj ID na zahtjev kompanije.

U 2014. godini, Twitter je otpočeo partnerstvo sa organizacijom Ženska akcija i mediji (WAM!), u nastojanju da poboljša svoj pristup u borbi protiv uznemiravanja. U toku jednog mjeseca, WAM! je dobio poseban reporterski status od Twittera, kako bi primio, analizirao i proširio (po potrebi) izveštaje o uznemiravanju na Twitteru. WAM! je kasnije izradio izvještaj na osnovu svog iskustva, koji je uključivao podatke o vrstama prijava koje su zaprimili tokom svog djelovanja, kao i preporuke za Twitter.

WAM! je pronašao niz problema s procesom prijavljivanja na Twitteru, gdje je zlonamerno prijavljivanje jedno od identificiranih problema. Jedan od glavnih problema koje su otkrili bio je taj da su dokazi na platformi često nedostupni; uznemiravači često izbrišu svoje tweetove, što otežava kompaniji da postupa po izvještajima.

“Ako bi Twitter, Facebook ili Google htjeli da zaustave uznemiravanje svojih korisnika na internetu, oni bi to mogli učiniti već sutra”, rekla je Jessica Valenti za Guardian, 2014 godine. Valenti se referira na YouTube Content ID program koji skenira video zapise na ovoj platformi, za identifikaciju sadržaja zaštićenog autorskim pravima – to je primjer spremnosti kompanija i njihove sposobnosti da budno prate sadržaj.

Content ID dobro funkcioniše, zato što se uploadovani video zapisi skeniraju i upoređuju sa postojećom bazom podataka o datotekama koje su dostavili vlasnici/e sadržaja. Kreatori/ce sadržaja koji objavljuju svoja djela na YouTube-u i većini društvenih mreža – može označiti sadržaj kao neovlašten i podnijeti zahtjev za pregled. Sadržaj je onda (u slučaju YouTube-a) skeniran prema bazi podataka ili pregledan od strane moderatora.

Upravljanje uznemiravanjem nije tako jednostavno. Dok bi slike ili video zapisi teoretski mogli biti moderirani kao sadržaji zaštićeni autorskim pravima, tekst predstavlja poseban izazov za kompanije. Ispravna i jednaka moderacija sadržaja zahtijeva proces ljudskog pregleda – to jest, ljude koji čitaju označene poruke i utvrđuju da li krše određeni skup pravila ili ne. Kao što i The Guardian's Facebook Files – set unutrašnjih dokumenata za upravljanje sadržajem, koji je procurio u maju 2017 – pokazuje, međutim, moderatori sadržaja su često loše plaćeni, a osim toga, prijavljuju da doživljavaju psihološke probleme kao rezultat svog rada. Ovo – kao i ukupno smanjenje troškova – su neki od razloga zbog kojih preduzeća u Silikonskoj dolini trenutno posježu za povećanom upotrebom vještačke inteligencije u upravljanju sadržajem.

Ali, dok algoritmi vještačke inteligencije mogu razumjeti i pročitati jednostavne poruke, oni se bore sa osnovnim zadacima, “kao što je hvatanje značenja u dečijim knjigama”, što ukazuje na to da ova tehnologija još nije spremna za korištenje prilikom upravljanja sofisticiranim govorom. Drugim riječima, vještačka inteligencija može pomiješati satiru ili bilo kakve druge komentare sa uznemiravanjem. Štaviše, iako uznemiravanje može doći u obliku videa ili slika, većina je u obliku teksta, koji se ne može samo skenirati u bazi podataka, čak i ako je prije postojao. Govor mržnje, koji je jednom bio označen od strane korisnika/ce, moraj proći kroz proces ljudskog pregleda.

Novinarka Sarah Jeong, u odgovoru na Valentin argument, napisala je: “Ona je tehnički u pravu da mogu prekinuti uznemiravanje sa 100% uspjeha, ukoliko prestanete sa svim vrstama komunikacije, prestajete i biti uznemiravani. Pitanje je da li je moguće da algoritamski instrumenti budu efikasni, a da ne budu previše široki? ” Na to pitanje, odgovora i dalje nema.

Moderiranje sadržaja je složen proces, koji je otežan zbog nepropisnosti sa kojom posluje većina društvenih mreža. Iako je primoravanje društvenih mreža da se bave uznemiravanjem i pritužbama vrijedna inicijativa, očekivanje da će kompanije biti u stanju da riješe problem brzo je nerealno; s obzirom na broj korisnika/ca i pritužbi na uznemiravanje koje se javljaju svakog dana, čini se nemogućim zadatkom upravljati ovom problematikom.

Platformsko rješenje: Ko bi trebao biti odgovoran za pitanje uznemiravanja?

Iznad pitanja o tome da li se može osloniti na platforme po pitanju suzbijanja uznemiravanja, postavlja se i pitanje da li one to trebaju raditi. Pisci i spisateljice kao što je Valenti vide ove kompanije kao primarno odgovorne za upravljanje uznemiravanjem na mreži, što je pozicija koja nije nimalo naivna.

Tehnološko rješenje, izraz populariziran od strane Evgenija Morozova, ideja je da “s pravim kodom, algoritmima i robotima, tehnologija može riješiti sve probleme čovječanstva, stvarajući život bez ikakvih neslaganja i bez problema”. Slijedi ideja koja se zove platformsko rješenje, što obuhvata da platforme poput Facebooka i Twittera mogu efikasno riješiti probleme uznemiravanja, terorizma, govora mržnje i slično, kroz svoje politike i korisničke alate.

Zagovarači/ce platformskog riješenja mogu vidjeti promjene u korporativnim politikama i sprovođenje istih kao riješenje da se na problem uznemiravanja stavi tačka. U većini slučajeva, oni ne vide ovo kao najbolje rješenje ikada, već prije kao najbolje u moru onih koji su trenutno dostupni. Ipak, često im promakne da se političke i implikacije govora oslanjaju na korporacije da održavaju poredak na internetu.

Sa druge strane, postoje i oni koji vide oslanjanje na platforme da prate uznemiravanja i ostale bolesti društva kao politički problematičnu stvar, uzimajući moć od tradicionalnih institucija upravljanja i dajući je u ruke korporacijama. Kritičari platformskog rješenja mogu vidjeti trenutnu cenzuru koja se pojavljuje na društvenim mrežama kao dokaz njihove nesposobnosti da uspješno identificiraju nezakonit (ili nedozvoljen) govor.

Spisateljica i aktivistica Soraya Chemaly kaže da “ne postoji nijedna organizacija niti institucija koja je odgovorna za rješavanje problema online uznemiravanja”. Njen rad? Procjena – da je uznemiravanje društveni problem koji zahtijeva sveobuhvatna društvena rješenja – ne negira odgovornost koje platforme društvenih mreža imaju prema svojim korisnicima, već umjesto toga traži holistički pristup koji uključuje obrazovanje, nadgledanje platformi, pravnu reformu i veće angažovanje u sprovođenju zakona.

I zaista, samo upravljanje sadržajem neće riješiti uporni problem online uznemiravanje, te bi se trebao promatrati kao samo jedan dio šireg pristupa. U isto vrijeme, zagovarači/ce šireg nadgledanja plafromi bi trebali biti pažljivi/e kada je u pitanju veliko povjerenje u korporacije, čiji je pokretač njihova dobit, a ne interesi njihovih korisnika.

Jillian C. York za XYZ Information Activism

Prevela: Aida Salihović