Algoritam TikTok-a preporučivao antisemitski mim sa logorom smrti

Skoro 100 video snimaka s uvredljivom pesmom pogledano je više od šest miliona puta, pre nego što je TikTok nešto preduzeo.
tiktok logo
Getty Images

TikTok je obrisao kolekciju videa za koje je BBC otkrio da koriste mučnu antisemitsku pesmu koji su imali više od 6,5 miliona pregleda.

Pesma se pojavila na ovoj aplikaciji u nedelju i sadržala je stihove: „Idemo na putovanje do mesta po imenu Aušvic, vreme je za tuširanje."

Propratni video prikazivao je ogromnog robotskog škorpiona sa svastikom kako napada i ubija ljude.

Taj video je preporučivao TikTokov algoritam, stekavši tako više od šest miliona pregleda.

Aušvic je bio nacistički logor smrti u Poljskoj u kom je tokom Drugog svetskog rata umrlo više od milion ljudi, mnogi od njih u gasnim komorama nakon što im je rečeno da idu na zajedničko tuširanje.

Skoro 100 drugih korisnika odabralo je istu pesmu za vlastite video snimke. U jednom od njih se pojavljivao lik iz kompjuterske igre „Robloks" koji izgleda kao Hitler.

Screenshot of scorpion robot killing people
BBC
Prvi video koji je objavljen dobio je stotine hiljada lajkova

Drugi je koristio je insert iz pucačke igre u kojoj ljude ubijaju zelene kantice sa gasom. Drugi video snimci koristili su slike iz filmova ili televizijskih dokumentaraca o Holokaustu.

Hitler roblox character
BBC
Na jednom snimku se vidi lik nalik na Hitlera

Zbirno, kolekcija videa sa tom pesmom imala je oko 6,5 miliona pregleda za manje od tri dana pre nego što su uklonjeni.

„Bilo je neverovatno uznemirujuće gledati taj mučni TikTok video namenjen deci, sa robotom sa svastikom koji hvata i spaljuje Jevreje, dok se muzika podsmeva Jevrejima, Jevrejkama i jevrejskoj deci koju su ubijani otrovnim gasom u Aušvicu", izjavio je Stiven Silverman, direktor za istragu i izvršenje pri Kampanji protiv antisemitizma.

„TikTok ima posebnu obavezu da se pozabavi tim sadržajem brzo zato što se specijalizovao za omogućavanje viralnih videa deci i mlađim odraslim osobama koji su najpovodljiviji, a opet je naše istraživanje pokazalo da je TikTok postao najbrži vektor za širenje mimova koji se podsmevaju Holokaustu."

Screenshot of a gaming video
BBC
U nekim od klipova se koriste snimci iz video igara

TikToku je trebalo oko osam sati da ukloni sve uvredljive video snimke.

Portparol firme je rekao: „Bezbednost naših korisnika glavni je prioritet TikToka, a naše smernice za korisnike jasno stavljaju do znanja šta nije prihvatljivo na našoj platformi."

„Ne tolerišemo bilo kakav sadržaj koji sadrži govor mržnje a dotični zvučni zapis, zajedno sa svim snimcima uz koje je išao, sada su uklonjeni.

„Iako nećemo uspeti da uhvatimo baš svaki slučaj neprimerenog sadržaja, neprestano usavršavamo našu tehnologiju i politiku kako bismo se osigurali da će TikTok ostati bezbedno mesto za pozitivnu kreativnu ekspresiju."

Screenshot of a Holocaust film
BBC
U nekim od snimaka koriste se scene iѕ filmova o holokaustu

Neki eksperti smatraju da TikTok mora da radi više na proveri sadržaja videa pre nego što ih preporuči široj publici.

Majkl Priem, generalni direktor Modern impakta, kaže: „TikTok ne otkriva svoje algoritme ili strategiju koji stoje iza sadržaja.

„Ali naširoko se smatra da je on sličan drugim često korišćenim modelima koji sakupljaju podatke o našem konzumiranju sadržaja i vršnjačkim mrežama."

„Kako neki konkretan video privuče pažnju, algoritam ga onda preporučuje dalje čitavoj platformi.

„Otud korisnici intuitivno traže jedni od drugih da 'pomognu da ovo postane viralno'. Problem tada ostaje na filterisanju sadržaja."

Korisnik koji je postavio originalni video što je pokrenuo mim čini se da je mlađi tinejdžer iz Velike Britanije.

On nije odgovorio na zahteve za komentar, a njegov nalog još je bio aktivan u vreme pisanja ovog teksta. Njegov profil kaže da je stekao 12.000 novih pratilaca nakon što je postavio video.

Izuzetno slična verzija ovog videa postavljena je na Jutjub 2015. godine.

Postavljen je na malom kanalu i imao 67.000 pregleda za skoro 5 godina koliko je bio aktivan. Jutjub ga je sada uklonio nakon što ga je kontaktirao BBC.

Nije jasno odakle je tačno pesma potekla, ali propratne slike su iz kompjuterske igre po imenu „Besiege", koja omogućuje igračima da stvaraju vlastita oružja za opsadu.

Komentari 0

    Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.

Napiši komentar


Preostalo 1500 karaktera

* Ova polja su obavezna

Ostalo iz kategorije BBC - BBC