Potrivit unui studiu, algoritmii platformei YouTube recomandă videoclipuri care încalcă propriile politici ale companiei privind conținutul neadecvat.
Compania non-profit Mozilla a cerut utilizatorilor browserului web Firefox să instaleze o extensie de browser denumită RegretsReporter, care urmărește videoclipurile YouTube pe care le-au vizionat și care îi întreabă dacă regretă faptul că au vizionat fiecare videoclip.
Între lunile iulie 2020 și mai 2021, 37.380 de utilizatori au semnalat 3.362 de videoclipuri pe care le-au vizionat și pe care le-au considerat nepotrivite, acestea fiind 1% din totalul celor pe care le-au vizionat. Cele mai multe rapoarte cu privire la aceste videoclipuri au venit din Brazilia, aproximativ 22 de videoclipuri din 10.000 vizionate fiind înregistrate ca nepotrivite.
După aceea, cercetătorii au urmărit videoclipurile raportate și le-au verificat în conformitate cu regulile de conținut de pe YouTube; aceștia au descoperit faptul că 12,2% din videoclipurile raportate nu ar trebui să fie pe YouTube sau nu ar trebui să fie recomandate prin intermediul algoritmului său.
Cercetătorii au estimat că aproximativ o cincime din videoclipurile raportate ar intra sub ceea ce regulile YouTube clasifică drept dezinformare, iar alte 12% răspândesc dezinformarea cu privire la covid-19. Alte probleme semnalate în sondaj au inclus conținut violent sau grafic și discursuri care instigă la ură.
„Dacă unele dintre descoperirile noastre ar fi scalate la dimensiunea bazei de utilizatori de pe YouTube, acestea ar ridica întrebări semnificative și ar fi cu adevărat îngrijorătoare. Aceste descoperiri sunt doar vârful aisbergului”, a declarat Brandi Guerkink din cadrul companiei Mozilla.
Cercetătorii din cadrul companiei Mozilla au declarat faptul că majoritatea videoclipurilor controversate au fost afișate utilizatorilor prin intermediul algoritmului YouTube, care recomandă videoclipuri de pe canale pe care un utilizator nu le poate urmări în mod normal sau pe care nu le-a căutat. Șapte din 10 rapoarte au fost legate de videoclipurile recomandate, iar cele recomandate de YouTube au fost cu 40% mai susceptibile în a fi nepotrivite decât videoclipurile căutate în mod activ de către utilizatori.
Videoclipurile care nu sunt în limba engleză au fost cu 60% mai susceptibile în a fi nepotrivite, lucru pe care oamenii de știință îl consideră că se poate datora faptului că algoritmii YouTube sunt instruiți în primul rând pe videoclipuri în limba engleză.
„Acest lucru evidențiază necesitatea de a adapta deciziile de moderare la nivel de țară și de a vă asigura de faptul că YouTube are moderatori experți care știu ce se întâmplă în fiecare țară”, a declarat Savvas Zannettou din cadrul Institutului de informatică Max Planck din Germania.
Guerkink a declarat faptul că lipsa de transparență a platformei YouTube asupra algoritmului său este „inacceptabilă”.
Un purtător de cuvânt al companiei YouTube a declarat: „Scopul sistemului nostru de recomandări este de a conecta spectatorii cu un conținut pe care îl iubesc și, în orice zi, peste 200 de milioane de videoclipuri sunt recomandate numai pe pagina de pornire”.
De asemenea, în ultimul an au fost făcute modificări în sistemul de recomandări, reducându-se consumul de „conținut borderline” la mai puțin de 1% din totalul de videoclipuri.