Dans un contexte socioculturel de plus en plus complexe, la montée des discours violents à l’encontre des communautés asiatiques soulève des interrogations cruciales quant à leur détection et leur traitement. Une étude récente met en lumière les défis majeurs rencontrés par les chercheurs et les institutions dans l’identification de ces discours haineux, souvent camouflés sous des formes subtiles et insidieuses. En scrutant les mécanismes à l’œuvre derrière cette violence ciblée, cette recherche vise à sensibiliser l’opinion publique et à encourager un dialogue constructif. Les enjeux de la communication et de la compréhension des dynamiques sociales se révèlent alors essentiels pour aborder ces violences et favoriser un climat de respect et de dignité pour toutes les communautés.
Un groupe de recherche appelle les modérateurs d’internet et des réseaux sociaux à renforcer leurs protocoles de détection et d’intervention face aux discours violents. Une étude récente menée par des chercheurs de Georgia Tech et de l’Anti-Defamation League (ADL) souligne les difficultés rencontrées par les algorithmes pour distinguer les discours incitant à la violence contre les Asiatiques des discours haineux généraux.
Méthodologie de l’étude
Les chercheurs ont testé divers modèles de traitement du langage naturel (NLP), entraînés sur des données recueillies auprès des communautés asiatiques. Grâce à un sondage impliquant 120 participants s’identifiant comme membres de ces communautés, un ensemble de 1 000 posts provenant de X (anciennement Twitter) a été annoté et analysé.
Résultats Préoccupants
Les résultats montrent une nette différence de performance entre la détection des discours haineux et celle des discours incitant à la violence. Les modèles de NLP ont enregistré un score F1 de 0,89 pour la détection des discours haineux, mais seulement de 0,69 pour celle des discours incitant à la violence, révélant un écart significatif en termes de précision et de fiabilité.
Importance de la Détection Affinée
La pandémie de COVID-19 a amplifié les comportements violents et haineux en ligne, particulièrement contre les Asiatiques, avec une augmentation de 339 % des crimes anti-asiatiques aux États-Unis en 2021. Les discours provocants de violence exacerbés par des contenus malveillants deviennent souvent des actes de violence dans le monde réel.
Solutions Proposées
Les chercheurs suggèrent de développer des modèles de détection plus raffinés et préconisent un système de pénalités à plusieurs niveaux pour les plateformes en ligne. Ces systèmes aligneraient les sanctions avec la gravité des infractions, agissant à la fois comme dissuasion et intervention pour divers niveaux de discours nuisibles.
Implication Communautaire
L’implication des communautés directement concernées est centrale à cette étude. En collaborant avec des experts et des membres des communautés asiatiques, les chercheurs s’assurent que leurs travaux sont en phase avec les réalités et besoins des communautés ciblées.
Accroître la Sensibilisation
Cette étude vise à sensibiliser les responsables politiques et les développeurs de plateformes en ligne aux défis spécifiques posés par les discours violents. Une approche centrée sur la communauté pourrait faciliter la prise de décisions informées et la mise en place de mesures efficaces.
Collaboration et Futurs Travaux
Georgia Tech collabore avec l’ADL pour renforcer les travaux de recherche sur la sécurité en ligne et la lutte contre la haine. Leur papier sera présenté à la 62ème réunion annuelle de l’Association for Computational Linguistics (ACL 2024), marquant une reconnaissance importante de la communauté scientifique pour ces perspectives centrées sur la communauté.
- Problèmes de détection
Écart significatif dans la précision de détection entre discours haineux et discours incitant à la violence
- Solutions proposées
Développement de modèles affinés et systèmes de pénalités à plusieurs niveaux
- Implication communautaire
Collaboration avec des experts et membres des communautés asiatiques
- Sensibilisation et action
Faciliter des décisions informées et des mesures efficaces
Plus d’informations :
A Community-Centric Perspective for Characterizing and Detecting Anti-Asian Violence-Provoking Speech
Citation : Study highlights challenges in detecting violent speech aimed at Asian communities (2024, August 12), retrieved 12 August 2024 from https://techxplore.com/news/2024-08-highlights-violent-speech-aimed-asian.html
