Kako zaposleni u Fejsbuku moderiraju terorističke napade u živim prenosima

Najmanje 49 ljudi je ubijeno na Novom Zelandu u terorističkim napadima na džamije u Krajstčrču. Jedan napadač je prenosio napad uživo preko Facebook Live usluge za striming. Snimci su bili eksplicitni i Fejsbuk je obrisao napadačeve naloge na toj mreži, kao i na Instagramu, mada je snimak stigao na druge mrežne lokacije.

Ovaj događaj ukazuje na teškoće oko moderacije sadržaja koji se prenosi uživo, gdje video koji naizgled djeluje bezazleno brzo može da eskalira u nasilan, bez imalo upozorenja.

“Ne mogu da zamislim da sam moderator koji je morao da bude svjedok tog lajvstrima sa Novog Zelanda“, izvor sa direktnim poznavanjem strategija koje Fejsbuk koristi da moderira sadržaj je rekao za Motherboard.

Kao i bilo koji sadržaj na Fejsbuku, bili to postovi, fotografije ili snimljen video, korisnici mogu da prijave žive prenose za koje smatraju da sadrže nasilje, govor mržnje, zlostavljanje ili druge oblike ponašanja koji krše pravila Fejsbuka. Pošto se to desi, moderatori pregledaju sadržaj i donose odluku o tome šta činiti sa prenosom.

Prema internom dokumentu za trening moderatora na Fejsbuku, moderatori mogu da “snuzuju“ prenos, što znači da ga privremeno odlože. Snuzovan prenos se moderatorima pojavlkuje ponovo na svakih pet minuta, kako bi mogli da provjere da li se nešto događa.

Moderatori takođe imaju opciju da ga ignorišu, čime praktično odbacuju prijavu; da obrišu prenos; ili da stvar podignu do nivoa gdje će se njome baviti specijalizovani tim koji pregleda da li je riječ o opasnim stvarima kao što je terorizam. U slučaju terorizma, taj tim će obiljeležiti prenos tako da on dođe prije specijalni Fejsbukov Law Enforcement Response tim (LERT), koji radi direktno sa policijom. U slučaju terorističkog čina u Krajstčrču, Fejsbuk nam je rekao da je kontaktirao novozelandsku policiju već na samom početku incidenta.

Kada se potencijalni slučaj terorizma tako podiže na viši nivo, moderatori prvo treba da odgovore na nekoliko pitanja o sadržaju: šta se to događa što ukazuje na to da korisnik čini terorističko djelo? Šta je korisnik rekao što ukazuje na to da će se desiti zločin? Ko je u opasnosti? Šta korisnik pokazuje u videu? Kakva mu je okolina; da li je u kolima?

Konačno, moderatori mogu da “obiljeleže” prenos pomoću brojnih etiketa, kao što je “uznemirujuće”, “osjetljivo”, “za odrasle”, “niskog kvaliteta”, kako stoji u dokumentu za trening.

Kada pregledaju žive prenose, moderatori mogu da pogledaju ono što u tom trenutku ide uživo, kao i delove koji su već emitovani, a više moderatora može da se bavi istim klipom, tako da svaki premotava do trenutka gdje je prethodni stao, piše u dokumentu.

ZNACI UPOZORENJA

Moderatori se obučavaju da obraćaju pažnju na “znake upozorenja” koji ukazuju na to da će se u prenosu uskoro dogoditi nešto što narušava pravila, nastavlja se u dokumentu. Ovo uključuje pokušaje samoubistva, gdje se ljudi opraštaju ili govore o tome da će okončati sebi život. Dokument takođe govori moderatorima da paze na “simptome očaja”, kao što su “plakanje, moljenje ili preklinjanje”.

Drugi izvor sa direktnim poznavanjem strategija moderacije u Fejsbuku je rekao za Motherboard da “živi prenosi umiju da budu malo teži u smislu da nekada pokušavaš da nadzireš živi prenos i da istovremeno pregledaš ono što je prethodno bilo, što baš i ne može da se izvede kada moraš da pratiš i zvuk”.

Naravno, kada je riječ o oružjima, naročito vatrenim, prenos može da u milisekundi preraste iz nenasilnog u nasilan. U tom smislu, činjenica da korisnici lako mogu da emituju nasilje preko Facebook Live platforme ne ukazuje na to da se kompanija ne trudi da nađe način da to spriječi, ali ukazuje na poteškoće koje živi prenosi predstavljaju za sva platforme.

U videu napada na Novom Zelandu, napadač pokazuje nekoliko komada oružja na samom početku prenosa, a kasnije u toku snimka se ta oružja pojavljuju nekoliko puta dok on vozi ka džamiji.

“Nisam siguran kako je ovaj video uspio da stigne do 17 minuta prenosa”, kaže za Motherboard drugi izvor sa direktnim poznavanjem strategije koje Fejsbuk koristi da moderira sadržaj.

livestream_slide

Slajd iz interne prezentacije Fejsbuka do koje je došao Motherboard je rekonstruisan da bi se očuvala anonimnost izvora, ali sve napisano na njemu je autentično.

Među alatima koji moderatori imaju na raspolaganju je i interfejs koji im omogućava pregled živog prenosa, što uključuje i niz thumbnailova da bi se imao bolji uvid u to kako napreduje prenos; grafikon koji pokazuje engagement korisnika na određenim tačkama; kao i mogućnost da se ubrza ili uspori snimak, na primjer ako žele da skoče na dio sa problematičnim sadržajem ili da zastanu na trenutak kako bi bliže pogledali određeni segment snimka.

Sudeći prema žigu u uglu prenosa, u ovom slučaju je napadač koristio aplikaciju LIVE4, koja prenosi video sa GoPro kamere direktno na Facebook Live.

“Bili smo šokirani vijestima, kao i svi drugi”, rekao je emailom Aleks Žukov, CEO kompanije LIVE4. “Spremni smo da radimo sa organima reda i pružimo podatke koji su im potrebni za istragu, kao i sa predstavnicima Fejsbuka, kako bismo osigurali da platforma ostane bezbjedna i upotrebljavana samo na način na koji je to zamišljeno. Blokiraćemo pristup svakome ko širi zlo. Nažalost, nemamo tehničkih mogućnosti da blokiramo bilo kakav prenos u trenutku kada se događa”, dodao je.

Mia Garlik, iz novozelandskog ogranka Fejsbuka je u izjavi za Motherboard navela: “Saosjećamo sa žrtvama, njihovim porodicama i zajednicom koja je pogođena ovim užasnim činom. Policija Novog Zelanda nas je upozorila na video na Fejsbuku ubrzo posle početka prenosa i brzo smo uklonili njegove naloge na Fejsbuku i Instagramu, kao i sam video. Takođe uklanjamo bilo kakvu podršku ili hvalu zločinu i njegovom počinicou ili počiniocima, istog trenutka kada saznamo. Radićemo direktno za policijom Novog Zelanda u daljoj istrazi.”

Članak je prvobitno objavljen na VICE US.