Les événements du monde réel entraînent une augmentation des discours de haine en ligne, selon une étude

Topline

Les événements du monde réel comme les élections et les manifestations peuvent entraîner des pics de discours de haine en ligne sur les plateformes grand public et marginales, un étude publiée mercredi dans le journal PLOS ONE trouvé, avec des messages haineux qui augmentent alors même que de nombreuses plateformes de médias sociaux tentent de réprimer.

Faits marquants

À l'aide d'une analyse d'apprentissage automatique, un moyen d'analyser les données qui automatise la création de modèles, les chercheurs ont examiné sept types de discours de haine en ligne dans 59 millions de messages d'utilisateurs de 1,150 4 communautés de haine en ligne, des forums en ligne dans lesquels le discours de haine est le plus susceptible d'être utilisé, y compris sur des sites comme Facebook, Instagram, XNUMXChan et Telegram.

Le nombre total de messages contenant des discours de haine dans une moyenne mobile sur sept jours a eu tendance à augmenter au cours de l'étude, qui s'est déroulée de juin 2019 à décembre 2020, augmentant de 67 %, passant de 60,000 100,000 à XNUMX XNUMX messages quotidiens.

Parfois, le discours de haine des utilisateurs des médias sociaux s'est développé pour englober des groupes qui n'étaient pas impliqués dans les événements du monde réel de l'époque.

Parmi les cas notés par les chercheurs, il y avait une augmentation des discours de haine religieuse et de l'antisémitisme après l'assassinat américain du général iranien Qasem Soleimani au début de 2020, et une augmentation des discours de haine religieuse et sexiste après les élections américaines de novembre 2020, au cours desquelles Kamala Harris était élue première femme vice-présidente.

Malgré les efforts des plateformes individuelles pour supprimer les discours de haine, les discours de haine en ligne ont continué de persister, selon les chercheurs.

Les chercheurs ont souligné que l'attention des médias était l'un des facteurs clés de la publication de messages liés à la haine : par exemple, il y avait peu d'attention des médias lorsque Breonna Taylor a été tuée pour la première fois par la police, et les chercheurs ont donc trouvé un minimum de discours de haine en ligne, mais lorsque George Floyd a été tué des mois plus tard. et l'attention des médias a augmenté, tout comme les discours de haine.

Grand nombre

250 %. C'est à quel point le taux de discours de haine raciale a augmenté après le meurtre de George Floyd. Il s'agissait du plus grand pic de discours de haine que les chercheurs ont trouvé au cours de la période d'étude.

Fond clé

Les discours haineux vexent les réseaux sociaux depuis des années : des plateformes comme Facebook ainsi que Twitter ont des politiques interdisant les discours haineux et se sont engagés à supprimer le contenu offensant, mais cela n'a pas éliminé la propagation de ces messages. Plus tôt ce mois-ci, près de deux douzaines de personnalités indépendantes nommées par l'ONU experts des droits de l'homme exhortés plus de responsabilité des plateformes de médias sociaux pour réduire la quantité de discours de haine en ligne. Et les experts des droits de l'homme ne sont pas les seuls à vouloir que les entreprises de médias sociaux en fassent plus : A December Enquête USA Today-Suffolk University 52 % des personnes interrogées ont déclaré que les plateformes de médias sociaux devraient restreindre les contenus haineux et inexacts, tandis que 38 % affirment que les sites devraient être un forum ouvert.

Tangente

Quelques jours après que le milliardaire Elon Musk a conclu son accord pour acheter Twitter l'année dernière, promettant un assouplissement des politiques de modération du site, le site a connu une "augmentation des comportements haineux". selon Yoël Roth, ancien responsable de la sécurité et de l'intégrité de Twitter. À l'époque, Roth avait tweeté que l'équipe de sécurité avait supprimé plus de 1,500 XNUMX comptes pour conduite haineuse en trois jours. Musk a fait face à de vives critiques de la part de groupes de défense qui soutiennent que sous la direction de Musk et avec l'assouplissement des réglementations sur la parole, le volume des discours de haine sur Twitter a considérablement augmenté, bien que Musk ait insisté les impressions sur les tweets haineux ont diminué.

Lectures complémentaires

Le responsable de la sécurité de Twitter admet une "augmentation des comportements haineux" alors que le formulaire limite apparemment l'accès aux outils de modération (Forbes)

Quelques réserves sur une exigence de cohérence pour les décisions de modération de contenu de médias sociaux. (Forbes)

Que devraient faire les décideurs politiques pour encourager une meilleure modération du contenu de la plateforme ? (Forbes)