Une ligne de fabrique de terreurs : des modérateurs de contenu africains de TikTok se plaignent d’avoir été traités comme des robots, en passant en revue des vidéos de suicide et de cruauté envers les animaux pour moins de 3 dollars de l’heure.


Par Rosie Bradbury et Majd Al-Waheidi


  • Alors que TikTok gagne en popularité au Moyen-Orient et en Afrique du Nord, il renforce son travail de modération de contenu dans la région.
  • Mais les modérateurs de la plate-forme se plaignent de regarder pendant des heures des vidéos choquantes avec peu de soutien psychologique.
  • « Le plus difficile de ce travail est que vous tombez lentement malade », a déclaré un ancien modérateur de contenu au média en ligne « Insider ».

C’était quelques heures seulement après avoir gagné son poste de travail que l’horreur a traversé son écran. Imani, 25 ans, modératrice de contenu pour TikTok au Maroc, a vu un jeune homme lancer un chat en l’air avant que l’animal ne s’empale sur une épée. La modératrice, qui travaillait dans une petite maison d’une seule pièce à Casablanca, a été choquée.

« J’adore les chats », a-t-elle dit. « Je n’aurais jamais imaginé voir une telle scène dans la vraie vie. Ce n’est pas un film. Ce n’est pas une blague. C’est réel », a-t-elle ajouté.

Deux ans plus tard, la vidéo est toujours gravée dans son esprit, affirme-t- elle. Chaque fois qu’elle y pense, elle essaie de prendre de la distance avec sa mémoire. « J’ai créé un mur entre mon travail et ma vie. Je ne pensais pas à mon travail en dehors de mon poste de travail. J’avais un bébé dont je devais m’occuper », a-t-elle poursuivi.

Imani a travaillé pour TikTok en croissance au Moyen-Orient et en Afrique du Nord par l’intermédiaire de Majorel, une société d’externalisation basée au Luxembourg, et a été chargée d’examiner certains des contenus les plus horribles de la plate-forme, y compris les suicides et le continu pédopornographique.

Bien qu’elle ait un diplôme universitaire en anglais, elle a eu du mal à trouver du travail pendant les premiers mois de la pandémie. Imani et son mari, un technicien, pouvaient à peine subvenir aux besoins de leur petite fille. En septembre 2020, lorsqu’on lui propose le poste chez Majorel, malgré le maigre salaire de 2 dollars de l’heure, elle pense que c’est une aubaine. La possibilité de travailler à distance signifiait également qu’elle pouvait s’occuper de son enfant.

Imani ne savait pas alors que le travail serait si nuisible sur le plan psychologique, a-t-elle dit, et elle en ressent encore les effets aujourd’hui.

Mais elle n’est pas la seule. Neuf modérateurs de contenu actuels et anciens au Maroc qui ont travaillé avec le contrat TikTok de Majorel ont décrit des expériences de détresse psychologique grave en raison de leur travail. Ils ont tous dit que Majorel et TikTok avaient pris quelques mesures pour atténuer les effets de leur travail, tout en imposant un environnement de travail de surveillance quasi constante et des objectifs métriques presque impossibles.

En raison d’engagements de confidentialité, Imani et les autres modérateurs ont demandé à utiliser des pseudonymes pour parler librement de leurs expériences. Un porte-parole de TikTok a déclaré à Insider que la société s’associait à ses entreprises de sous-traitance pour promouvoir un environnement bienveillant pour ses employés et contractuels.

Les contenus choquants sur TikTok augmentent à mesure que la plate-forme devient plus populaire

« Le plus monstrueux de ce travail est que vous tombez lentement malade – sans même vous en rendre compte », a indiqué Wisam, un ancien modérateur de contenu qui forme maintenant d’autres personnes pour Majorel. « Vous pensez que ce n’est pas grave, mais cela vous affecte ».

Avant TikTok, Wisam était un ancien modérateur de contenu Facebook employé par la même entreprise de sous-traitance. Il a affirmé que si les modérateurs de contenu de Facebook sont exposés à davantage de vidéos et de publications choquantes car il a une plus grande base d’utilisateurs dans la région, à mesure que TikTok devient plus populaire, la quantité de contenus choquants sur la plate-forme peut également augmenter. Les projections d’Insider Intelligence ont montré que TikTok devrait augmenter sa base d’utilisateurs au Moyen-Orient et en Afrique du Nord de plus de 30 % cette année seulement.

Pour se préparer à l’afflux, ByteDance, la société mère de TikTok, a considérablement augmenté ses effectifs de modération dans la région, à la fois en interne et via des contrats avec des sociétés de sous-traitance. Un ancien conseiller de Majorel a estimé que 1 400 modérateurs de contenu travaillent uniquement sur le contrat TikTok de l’entreprise à travers le Maroc. Wisam a déclaré avoir formé plus de 700 nouveaux modérateurs depuis 2020.

« Le plus monstrueux de ce travail est que vous tombez malade lentement – sans même vous en rendre compte ».

Bien que TikTok utilise l’intelligence artificielle pour aider à examiner le contenu, la technologie est évidemment médiocre dans les langues autres que l’anglais. Pour cette raison, les humains sont encore habitués à examiner la plupart des vidéos odieuses sur la plateforme. Et leur travail est essentiel : ils s’assurent que les publicités d’entreprises réputées comme Nike n’apparaissent pas à côté de pornographie ou de films à priser d’une minute.

Les entreprises de médias sociaux comme Facebook et ByteDance s’appuient souvent sur les mêmes entreprises d’externalisation situées dans des pays en développement avec des lois du travail laxistes. L’offre de jeunes très instruits mais sans emploi du Maroc en fait l’un des centres d’externalisation à la croissance la plus rapide au monde. Mais cette relation entrepreneuriale permet également à des entreprises telles que ByteDance et Meta de nier de façon plausible lorsque les travailleurs se plaignent de détresse psychologique ou d’autres problèmes au travail.

Si les modérateurs grimaçaient ou criaient pendant le séminaire d’intégration, Wisam – connaissant les effets durables du travail – les encouragerait à trouver un autre travail. Mais ils restaient généralement faute d’autres opportunités. Et avec ses demandes de modération TikTok augmentant si rapidement, Majorel disposait de peu de moyens pour dissuader les nouvelles recrues, a indiqué Wisam.

Les modérateurs se sont plaints que leurs objectifs étaient impossibles à atteindre

Samira, 23 ans, a rejoint Majorel en juillet 2020, dans le cadre d’un programme pilote de modération de TikTok Lives.

Au début, elle a été chargée de revoir 200 vidéos toutes les heures tout en maintenant un score de précision de 95 %, a-t-elle fait savoir, score qui a été calculé par rapport à ceux des modérateurs de contenu plus expérimentés qui ont regardé les mêmes vidéos. Mais trois mois après le début de son travail, son responsable a tellement augmenté ces paramètres qu’elle n’a plus eu que 10 secondes pour visionner une vidéo.

Les nouveaux objectifs étaient impossibles à atteindre. « La direction ne nous considérait pas comme des humains, mais plutôt comme des robots », a déclaré Samira.

Alors que les cibles et les objectifs variaient d’une équipe à l’autre, six modérateurs ont indiqué à Insider que leurs objectifs étaient difficiles à atteindre.

Lorsque les modérateurs n’ont pas atteint ces objectifs, ils ont raconté avoir été réprimandés par leurs responsables. Cela signifiait également renoncer à un bonus de 50 dollars – une somme qui pourrait faire beaucoup dans une ville comme Casablanca, où Samira habitait.

Un porte-parole de Majorel a déclaré à Insider que ces objectifs étaient des orientations et non des objectifs individuels. Tous les modérateurs qui ont parlé à Insider ont déclaré qu’ils estimaient que leur performance au travail – et leur sécurité – étaient jugées en fonction de leurs paramètres.

Les modérateurs de TikTok chez Majorel ont également disposé de moins de pauses que leurs homologues américains. Des modérateurs aux États-Unis ont déclaré à Insider qu’ils avaient bénéficié de trois pauses en plus d’une pause déjeuner d’une heure, tandis que plusieurs modérateurs au Maroc ont déclaré avoir reçu un temps de pause total d’entre 40 et 45 minutes en plus de leur pause déjeuner d’une heure.

Plusieurs modérateurs ont également indiqué que Majorel était incohérent dans la façon dont il planifiait les horaires de travail.

« Parfois, je commençais à midi et je ne pouvais pas arrêter de travailler avant minuit. Je travaillais 12 heures d’affilée », a déclaré Imani.

Son responsable ajoutait ou changeait souvent d’heures de travail dans son emploi du temps sans l’en informer au préalable, a-t-elle déclaré, ce qui rendait difficile pour elle de s’occuper de son enfant. « C’est la principale raison pour laquelle j’ai quitté le travail », a-t-elle dit.

Samira a ajouté que cette pratique s’étendait également aux fêtes religieuses. Pendant le mois de Ramadan, son service commençait souvent à 19 heures, lorsque l’appel à la prière signalait aux fidèles qu’il était temps de rompre leur jeûne de 14 heures. « Sur d’autres sites, on a envisagé de leur donner 15 minutes ou 30 minutes pour rompre l’iftar, mais dans notre cas, nous n’y étions pas autorisés », a-t-elle affirmé. Deux modérateurs des bureaux de Majorel à Marrakech ont déclaré qu’on leur avait proposé une courte pause pour rompre l’iftar.

Musulmane pratiquante, Samira a trouvé le manque de considération offensant, mais elle s’est sentie impuissante à faire quoi que ce soit à ce sujet. « Je ne voulais pas avoir la réputation de rebelle », a-t-elle dit. Samira a déclaré que les règles relatives à l’iftar n’étaient qu’un exemple de la pression systématique à laquelle les modérateurs étaient confrontés pour travailler en continu.

Interrogé sur cet incident, un porte-parole de Majorel a déclaré : « Tous les membres de l’équipe ont droit à une courte pause pour rompre leur jeûne (iftar) pendant le mois de Ramadan, en plus de leurs pauses habituelles ».

On ne peut pas détourner le regard

Il y a deux vidéos en direct dont Samira n’a toujours pas pu s’en débarrasser.

Dans la première, un groupe d’adolescents a battu un vieil homme avec une hache, le poignardant près du cœur et de la tête. Samira a dit qu’elle voulait aider l’homme mais savait qu’elle ne pouvait pas. « Je me sentais paralysée », a-t-elle affirmé.

Dans une deuxième vidéo en direct, un homme se suicide en utilisant un fusil de chasse pour se tirer une balle dans la tête. Tout ce qu’elle voulait faire, c’était détourner le regard, mais elle ne pouvait pas. « Son cerveau est littéralement tombé sur ses genoux », a-t-elle déclaré. Elle voulait détourner le regard, mais elle ne pouvait pas. Ses responsables lui avaient demandé de regarder toutes les vidéos jusqu’au bout pour s’assurer qu’elles étaient correctement signalées pour chaque violation de la réglementation.

« Vous devez regarder les parties du corps pour voir s’il y a du sang, afin de pouvoir étiqueter ‘gore’, s’il y a mutilation et quel type de mutilation, afin de pouvoir indiquer la conduite exacte », a déclaré Samira.

Alors que Majorel a indiqué à Insider que les modérateurs avaient accès à des outils d’atténuation des nocivités, tels que des fonctionnalités en niveaux de gris, tous les modérateurs avec lesquels Insider s’est entretenu ont déclaré qu’ils n’avaient accès à aucune de ces fonctionnalités.

Après cet incident, Samira a commencé à voir un conseiller en bien-être interne une fois par mois. Chaque fois qu’elle y allait, l’entreprise lui fournissait un conseiller différent, et ils variaient dans leur réactivité à ses problèmes, a-t-elle déclaré.

 Son cerveau tomba littéralement sur ses genoux.

 « J’ai été autorisée à parler, et ça fait du bien », a affirmé Samira. « Mais j’avais besoin de plus, d’un changement au sein de l’entreprise », a-t-elle ajouté. La pression pour atteindre ses objectifs était écrasante, a-t-elle dit.

Au cours de ses derniers mois en poste, un conseiller l’a encouragée à en parler aux ressources humaines. Mais Samira a dit qu’elle avait peur.

Un porte-parole de Majorel a confirmé que les modérateurs se voyaient parfois attribuer des conseillers différents pour chaque session. La société a ajouté que les modérateurs travaillant dans des « files d’attente sensibles », se référant à ceux avec un contenu choquant, se sont également vu proposer des réunions supplémentaires avec des psychologues. Majorel a refusé de préciser combien de réunions supplémentaires les modérateurs reçoivent s’ils travaillent sur des files d’attente sensibles.

Cinq autres modérateurs de Majorel ont également déclaré que les conseillers en bien-être de l’entreprise n’étaient pas suffisants pour les aider à faire face aux pressions du travail. Certains ont indiqué que leurs réunions mensuelles aidaient rarement à résoudre les problèmes liés à un travail aussi constamment traumatisant. D’autres craignaient que les conseillers signalent leurs sentiments aux RH sans leur consentement.

Toute ma vie au Maroc, chaque fois que nous avons vu quelqu’un consulter un psychologue, nous nous sommes simplement dit — oh, cet homme est fou. Cette femme perd la tête.

Un porte-parole de Majorel a également déclaré à Insider que l’entreprise s’associe et couvre les frais des modérateurs pour rencontrer des psychologues ayant leurs propres cabinets privés en dehors de l’entreprise, mais quatre modérateurs qu’Insider a pu interroger ont fait savoir qu’aucun service de ce type ne leur avait jamais été proposé.

La stigmatisation sociale a également joué un rôle dans la recherche de conseils par les modérateurs.

« Toute ma vie au Maroc, chaque fois que nous avons vu quelqu’un consulter un psychologue, nous avons juste dit – oh, cet homme est fou. Cette femme perd la tête », a déclaré Nidal, un ancien modérateur de Majorel qui a travaillé à la fois sur Facebook et TikTok. Nidal pense que la culture marocaine évolue lentement autour de la santé mentale. Les jeunes sont plus ouverts à parler du sujet, a-t-il indiqué.

Pour de nombreux modérateurs, les conseillers en bien-être de Majorel sont peut-être les seuls thérapeutes qu’ils voient, mais le traumatisme cesse rarement après qu’ils quittent le travail. Une pénurie de ressources en santé mentale dans le pays signifie qu’ils sont également confrontés à des obstacles lorsqu’ils essaient de recevoir des soins après avoir quitté l’entreprise.

Dr Jihad Bnimoussa, psychologue et directrice à InspireCorp, une startup tech en santé mentale au Maroc, a indiqué que la plupart des psychologues avaient une longue liste d’attente de patients potentiels. Une thérapie coûte en moyenne 30 dollars la séance. Bien que ce soit moins cher par rapport aux prix des cabinets européens et américains, c’est prohibitif pour un employé d’externalisation moyen qui gagne 500 dollars par mois. Samira a indiqué qu’une seule séance lui aurait coûté l’équivalent de 18 heures de travail.

Nidal a déclaré qu’il avait pu trouver de l’aide en demandant à une connaissance universitaire, maintenant psychologue clinicienne de formation, si elle pouvait le voir gratuitement.

Samira, en revanche, n’a pas cherché de traitement après avoir quitté Majorel, invoquant les longs délais d’attente, les coûts prohibitifs et la crainte que son praticien ne soit pas équipé pour gérer le traumatisme provoqué par son travail de modératrice de contenu.

Les modérateurs craignaient de s’exprimer contre Majorel

Plusieurs modérateurs ont déclaré qu’ils craignaient de s’exprimer contre Majorel, même après leur départ. La culture de l’entreprise est très secrète et les modérateurs sont intimidés de parler ouvertement de leurs conditions de travail ou de leurs clients, ont-ils dit.

La société a également des relations politiques étroites au Maroc. Bien que basé en Europe, le Majorel appartient en partie à une société d’investissement fondée par l’un des hommes les plus riches d’Afrique, Moulay Hafid Elalamy, ancien ministre marocain de l’industrie et du commerce et conseiller royal.

L’externalisation a également été l’épine dorsalede la modernisation économique du pays. L’année dernière, le secteur a rapporté 1,3 milliard de dollars au pays.

Abdellatif El-Hamamouchi, chercheur marocain en sciences politiques et membre du Bureau de l’Association marocaine des droits de l’homme, a déclaré à Insider que ces liens politiques et ces incitations économiques empêchent les modérateurs de dénoncer les violations du travail. S’ils essayaient de poursuivre l’entreprise en justice, comme dans une affaire récente d’un modérateur de contenu Facebook au Kenya, ils échoueraient probablement, étant donné que le système judiciaire du pays favorise massivement les riches et les politiquement connectés.

Cori Crider, un directeur de Foxglove Legal qui aide dans le cas de Daniel Motaung, un modérateur de Facebook qui poursuit la société au Kenya, a indiqué que les modérateurs pourraient avoir une meilleure chance en portant l’affaire en France, où Majorel est également enregistré et la surveillance des entreprises et les lois sur la sécurité au travail sont plus favorables.

Samira

Depuis qu’elle a quitté Majorel il y a près d’un an, Samira a commencé à se remettre des effets de son travail. Après avoir démissionné, elle a pris six mois de congé pour récupérer et pleurer la mort d’un membre de sa famille. Elle s’est également installée dans la ville côtière d’Agadir, où elle travaille comme professeur d’anglais au collège et au lycée, gagnant le double de ce qu’elle gagnait en tant que modératrice de contenu.

Bien qu’elle n’ait pas travaillé dans la modération de contenu depuis des mois, Samira a déclaré qu’elle ressentait toujours les effets persistants du travail.

« J’ai perdu mon désir d’avoir des enfants. Je me sentais dégoûtée et j’avais peur qu’un jour mon enfant, ma sœur ou mon neveu puisse regarder ce genre de choses », a-t-elle dit.

Mais un deuxième changement, plus positif, s’est également produit. « J’ai maintenant des normes plus élevées pour un employeur », a-t-elle déclaré.

Samira veut enseigner pendant un certain temps. Elle a dit qu’en classe, elle puisait dans son passé pour instruire ses élèves. Elle leur dit : « Il y a toujours un moyen de revenir en arrière si les choses deviennent incontrôlables. Mais vous devez vous accrocher à vos principes et à qui vous êtes ».

Alors qu’elle s’est installée dans une vie plus calme et plus tranquille au bord de la mer, elle a également commencé à se renseigner sur les thérapeutes de la région. Le temps et le coût ne semblent plus aussi décourageants.

*Article publié en Anglais par le média en ligne ‘Business Insider’

Article19.ma