Sada je i šah rasistički? YouTube blokira kanale na kojima se igra šah zbog navodnog rasizma

Stranica za video streaming YouTube blokirala je kanal jednog šahista zbog navodnog objavljivanja “štetnog i opasnog sadržaja”, koji se uglavnom sastoji od razgovora o sportu. Kasnije je otkriveno da je algoritam stranice krivo protumačio dijalog u videima šahista kao rasistički jezik. Streaming platforma u vlasništvu Googlea nije navela razlog za zabranu, ali je igračev kanal vraćen dan kasnije.

Hrvatski šahist Antonio Radi, zvani ”Agadmator”, bio je nesretna žrtva neispravnog YouTube algoritma. Radijev kanal smatra se najpopularnijim šahovskim kanalom na platformi, s više od milijun pretplatnika. Njegov prikaz meča iz 1962. između ruskih šahovskih velikana Rašida Nezhmetdinova i Olega Černikova najpopularniji je video na kanalu, s više od 5,5 milijuna pregleda u trenutku pisanja članka.

Ovaj 33-godišnji snimatelj vjenčanja otvorio je svoj YouTube kanal 2017. godine. Prihod kanala premašio je iznos koji je zaradio od svog svakodnevnog posla godinu dana nakon što ga je Radi postavio. Rekao je za ESPN u intervjuu iz kolovoza 2020.: “Uvijek sam volio šah, ali živim u malom gradu i nije bilo previše ljudi s kojima bih mogao razgovarati [o tome]. Tako da je pokretanje YouTube kanala imalo smisla.”

No šahovski entuzijast otkrio je da mu je kanal blokiran u lipnju 2020., nakon što je objavio segment s peterostrukim prvakom i šahovskim velemajstorom Hikaruom Nakamurom. Radi je govorio o dvije suprotstavljene strane u partiji šaha, crnoj i bijeloj, s Nakamurom, najmlađim Amerikancem koji je osvojio titulu velemajstora.

Radi je uložio žalbu na zabranu i njegov je kanal vraćen u rad u roku od 24 sata. Pretpostavio je da je njegova upotreba fraze “crno protiv bijelog” u segmentu s Nakamurom uzrokovala zabranu.

U međuvremenu, YouTube je odbio objasniti što je uzrok zabrane Radijevog kanala. Platforma za streaming videa rekla je: “Kada nam se skrene pozornost da je video uklonjen pogreškom, brzo ćemo ga vratiti.” Predstavnik YouTubea dodao je da se prenositelji mogu žaliti na uklanjanje za još jedan pregled, koji je Radi učinio. “[On] je uložio žalbu na uklanjanje, a mi smo brzo vratili video”, rekli su.

Računalni stručnjaci potvrdili su da je YouTubeov pretjerano paranoični algoritam uzrokovao zabranu

Prema računalnim znanstvenicima sa Sveučilišta Carnegie Mellon, spominjanje “crnog protiv bijelog” tijekom Radijevog videa s Nakamurom možda je slučajno pokrenulo Youtubeove filtre umjetne inteligencije. Platforma za video streaming koristi algoritme umjetne inteligencije, uz ljudske moderatore za filtriranje zabranjenog sadržaja. Ali ti algoritmi mogu označiti bezopasne videozapise kao nešto što krši pravila, ako im se ne dodaju pravi primjeri za pružanje konteksta.

Informatičar Ashiqur KhudaBukush vjeruje da je Radijev predosjećaj bio točan u vezi s razlogom njegove zabrane. On i njegov kolega Rupak Sarkar zatim su proveli testove na dva klasifikatora govora: programu umjetne inteligencije koji se može osposobiti za otkrivanje govora mržnje, kako bi testirali svoju teoriju.

Dva su istraživača koristila klasifikatore govora na više od 680.000 komentara s pet popularnih YouTube šahovskih kanala. Otkrili su da 82 posto komentara u uzorku od 1000 nije uključivalo nikakav očiti rasistički jezik ili govor mržnje. Međutim, komentari su uključivali izraze poput “crno”, “bijelo”, “napad” i “prijetnja”, što je možda aktiviralo filtere. Khuda Bukush i Sarkar predstavili su svoja otkrića na godišnjoj konferenciji Udruge za unapređenje umjetne inteligencije u veljači 2021.

Khuda Bukush je rekao da točnost programa umjetne inteligencije ovisi o primjerima koje daje. Primijetio je da YouTube podaci koji se šalju ovim filtrima “vjerojatno uključuju nekoliko primjera šahovskog govora, što dovodi do pogrešne klasifikacije.” Stoga su on i Sarkar predložili da platforma društvenih medija ugradi šahovski jezik u svoje algoritme, kako bi se spriječili daljnji problemi.

“Ne znamo koje alate YouTube koristi, ali ako se oslanjaju na umjetnu inteligenciju za otkrivanje rasističkog jezika, može se dogoditi ovakva nesreća”, rekao je Khuda Bukush. Nastavio je da ako je netko tako poznat kao Radi zabranjen slučajno, “možda se takvo što potiho događa mnogim drugim ljudima, koji nisu toliko poznati.”