Je modérais des centaines de vidéos horrifiques et traumatisantes
Au cours des derniers mois, la BBC a exploré un monde sombre et caché – un monde où se retrouvent les contenus en ligne les plus horribles, les plus effrayants, les plus inquiétants et, dans de nombreux cas, illégaux. Les décapitations, les massacres de masse, les abus sur enfants, la discours haineux – tout cela se retrouve dans les boîtes de réception d’une armée mondiale de modérateurs de contenu.
Ces modérateurs sont souvent employés par des sociétés tierces, mais ils travaillent sur le contenu publié directement sur les réseaux sociaux majeurs tels qu’Instagram, TikTok et Facebook. Ils sont répartis dans le monde entier. Les personnes interviewées pour la série de la BBC intitulée « Les Modérateurs » étaient principalement installées en Afrique de l’Est et avaient toutes quitté l’industrie.
Leurs témoignages étaient choquants. Certains de ce que nous avons enregistré était trop brutal pour être diffusé. Certains anciens travailleurs d’Afrique de l’Est se sont réunis pour former un syndicat en raison des effets dévastateurs du travail sur leur santé mentale. Certains ont du mal à dormir et à manger, tandis que d’autres ont du mal à interagir avec leur famille à cause des abus sur enfants qu’ils ont été témoins.
En 2020, Meta, alors connue sous le nom de Facebook, a accepté de verser un règlement de 52 millions de dollars (40 millions de livres) aux modérateurs qui avaient développé des problèmes de santé mentale en raison de leur travail. Cependant, malgré les défis émotionnels et mentaux du travail, les modérateurs ont exprimé une immense fierté dans le rôle qu’ils ont joué pour protéger le monde des dommages en ligne. Certains n’ont pas non plus pleinement soutenu l’automatisation complète de l’industrie du fait de l’importance de la modération humaine pour identifier les nuances et protéger la liberté d’expression.
Bien que l’intelligence artificielle puisse être un outil précieux pour soutenir les modérateurs, certains restent sceptiques quant à son efficacité et soulignent les risques de blocage excessif et de manque de nuance par rapport à la modération menée par des êtres humains. Les plates-formes technologiques ont réagi en signalant qu’elles mettent en place des mesures pour soutenir la santé mentale des modérateurs et pour améliorer les outils de modération automatisée.
En définitive, malgré les avancées de l’intelligence artificielle dans le domaine de la modération en ligne, il semble que le rôle des modérateurs humains reste essentiel pour assurer la sécurité et le bien-être des utilisateurs sur les réseaux sociaux. Les défis liés à cette profession demeurent importants, mais les modérateurs continuent de jouer un rôle crucial dans la protection de la société en ligne.
