Algoritmul YouTube a inundat conturi cu conținut violent aparținând copiilor americani cu vârste cuprinse între 9 și 14 ani, fani ai jocurilor video.
Ar putea exista o legătură între violența armată și recomandările video pe YouTube? Aceasta au încercat să afle cercetătorii din proiectul Transparența Tehnologică, un ONG din SUA.
Ei au creat conturi separate de YouTube, dându-se drept copii cu vârste cuprinse între 9 și 14 ani care locuiesc în Statele Unite și cărora le place să se joace jocuri video. Analiștii au cercetat doar conținuturi despre jocuri video, de la unele conturi s-au dat clic pe videoclipurile recomandate de algoritmul YouTube, în timp ce celelalte profiluri au ignorat aceste sugestii.
Studiul a constatat că conturile care au selectat videoclipurile recomandate de platformă au fost rapid inundate de conținut violent despre împușcăturile din școli și despre cum să manevrezi armele de foc. Aproximativ 12 videoclipuri pe zi timp de 1 lună
Conturile care au ignorat sugestiile au primit și câteva videoclipuri violente, dar de zece ori mai puțin decât celelalte.
De exemplu, un videoclip trimis la unul dintre conturi a arătat o fată ținând și trăgând o armă. În mod îngrijorător, aceste videoclipuri acaparează rapid un public mai larg. Proiectul Transparența Tehnologică a postat un comentariu pe Twitter sub o scenă dintr-un film văzut de aproape un milion de ori care arăta o împușcătură la o școală. Un utilizator a scris că această scenă prezintă „ceea ce îl motivează în fiecare zi”.
Pentru Katie Paul, directorul proiectului Transparența tehnologică, aceste videoclipuri nu numai că încalcă politicile YouTube, ci ar putea, de asemenea, să-i conducă pe copii care sunt vulnerabili pe o cale periculoasă.
„Acesta prezintă doar un alt exemplu al eșecurilor de control al calității ale unei platforme care a declarat, în mod repetat, Congresului SUA, publicului și părinților că este o platformă sigură și că algoritmii ei nu recomandă conținut violent. Experimentul nostru a arătat că o fac.”
Nu este prima dată când YouTube și alte rețele sociale sunt criticate pentru promovare de conținut feroce. Autorii unor împușcături în masă au folosit YouTube pentru a căuta conținut violent și uneori chiar și-au transmis atacurile în direct.
În postările de pe platformă, trăgătorul din spatele atacului la școală care a ucis 17 oameni în Parkland, Florida, în urmă cu 5 ani, a scris lucruri violente de genul „Voi fi un trăgător profesionist de școală”.
În unele cazuri, YouTube a eliminat deja unele dintre videoclipurile identificate de studiu, dar în alte cazuri conținutul este încă disponibil.