Evenimentele din lumea reală generează o creștere a discursurilor instigatoare la ură online, arată un studiu

Topline

Evenimentele din lumea reală, cum ar fi alegerile și protestele, pot duce la creșteri ale discursului instigator la ură online atât pe platformele mainstream, cât și pe cele marginale, un studiu publicat miercuri în jurnalul PLOS ONE a găsit, cu postări de ură crescând chiar dacă multe platforme de social media încearcă să reprime.

Fapte-cheie

Folosind analiza de învățare automată – o modalitate de analiză a datelor care automatizează construirea de modele – cercetătorii au analizat șapte tipuri de discurs instigator la ură online în 59 de milioane de postări ale utilizatorilor a 1,150 de comunități online instigatoare la ură, forumuri online în care este cel mai probabil să fie folosit discursul instigator la ură, inclusiv pe site-uri precum Facebook, Instagram, 4Chan și Telegram.

Numărul total de postări, inclusiv discursurile instigatoare la ură, într-o medie de șapte zile, a avut o tendință de creștere pe parcursul studiului, care a durat din iunie 2019 până în decembrie 2020, crescând cu 67% de la 60,000 la 100,000 de postări zilnice.

Uneori, discursul de ură al utilizatorilor de rețele sociale a crescut pentru a cuprinde grupuri care nu erau implicate în evenimentele din lumea reală ale vremii.

Printre cazurile observate de cercetători a fost o creștere a discursului de ură religioasă și a antisemitismului după asasinarea de către SUA a generalului iranian Qasem Soleimani la începutul anului 2020 și o creștere a discursurilor de ură religioasă și de gen după alegerile din SUA din noiembrie 2020, în timpul cărora Kamala Harris a fost ales ca prim femeie vicepreședinte.

În ciuda eforturilor platformelor individuale de a elimina discursul instigator la ură, discursul instigator la ură online a continuat să persistă, potrivit cercetătorilor.

Cercetătorii au indicat atenția presei ca un factor cheie în generarea postărilor legate de ură: de exemplu, a existat puțină atenție mass-media atunci când Breonna Taylor a fost ucisă prima dată de poliție și, astfel, cercetătorii au descoperit un discurs instigator la ură online, dar când George Floyd a fost ucis luni mai târziu. iar atenția presei a crescut, la fel și discursul instigator la ură.

Numărul mare

250%. Atât a crescut rata discursului de ură rasială după uciderea lui George Floyd. A fost cea mai mare creștere a discursului instigator la ură găsită de cercetători în perioada de studiu.

Fundalul cheie

Discursul instigator la ură a enervat rețelele sociale de ani de zile: platforme ca Facebook și Twitter au politici care interzic discursurile instigatoare la ură și s-au angajat să elimine conținutul ofensator, dar asta nu a eliminat răspândirea acestor postări. La începutul acestei luni, aproape două duzini de independenți numiți de ONU au îndemnat experții în drepturile omului mai multă responsabilitate din partea platformelor de social media pentru a reduce cantitatea de discurs instigator la ură online. Și experții în drepturile omului nu sunt singuri în dorința lor ca companiile de social media să facă mai mult: un decembrie Sondajul SUA Today-Suffolk University a constatat că 52% dintre respondenți au afirmat că platformele de social media ar trebui să restricționeze conținutul instigator la ură și inexact, în timp ce 38% spun că site-urile ar trebui să fie un forum deschis.

Tangentă

La câteva zile după ce miliardarul Elon Musk și-a încheiat afacerea de cumpărare a Twitter anul trecut, promițând o relaxare a politicilor de moderare ale site-ului, site-ul a înregistrat o „creștere a comportamentului plin de ură”. conform lui Yoel Roth, fostul șef de securitate și integritate al Twitter. La acea vreme, Roth a postat pe Twitter că echipa de siguranță a eliminat peste 1,500 de conturi pentru comportament instigator la ură într-o perioadă de trei zile. Musk s-a confruntat cu critici aspre din partea grupurilor de advocacy care susțin că sub conducerea lui Musk și odată cu relaxarea reglementărilor privind discursul, volumul discursurilor instigatoare la ură pe Twitter a crescut dramatic, deși Musk a a insistat impresiile pe tweet-urile pline de ură au scăzut.

Lecturi suplimentare

Șeful de securitate Twitter recunoaște „creșterea comportamentului instigator la ură”, deoarece se pare că formularul limitează accesul la instrumentele de moderare (Forbes)

Câteva rezerve despre o cerință de coerență pentru deciziile de moderare a conținutului din rețelele sociale. (Forbes)

Ce ar trebui să facă factorii de decizie pentru a încuraja o mai bună moderare a conținutului platformei? (Forbes)