J’avais évoqué dans un autre article l’exploitation des travailleurs.es kényan.nes employé.es dans les centres de modération des contenus sociaux :
Coloniser les rêves : les modératrices et modérateurs du numérique au Kenya
En lisant l’excellente étude de Max Liboiron et Josh Lepawsky, Discard Studies. Wasting, Systems, and Power, MIT Press 2021, je suis tombé sur ce passage où les auteurs étendent le domaine des « déchets », des « rejets », aux contenus modérés ou rejetés des réseaux sociaux. Le modèle de la « politique » des déchets s’applique de manière pertinente à ces « rejets » – comme le montre le parallèle qui est fait avec le recyclage des déchets « solides » municipaux. Les dommages causés par ces objets indésirables par excellence que sont (en apparence du moins) les déchets, sont externalisés chez les travailleurs précaires qui les « expulsent » – et, de la même manière que le recyclage (dont on connaît les limites) des déchets municipaux permet à la production de déchets industriels de prospérer, en les passant sous silence, les mondes des réseaux sociaux, eux aussi peuvent prospérer en paix.
(On lira le blog de la chercheuse canadienne Max Liboiron et surtout l’ouvrage fascinant qu’elle a consacrée aux déchets plastiques océaniques, qu’elle étudie dans son laboratoire : Pollution is colonialism, Durham: Duke University Press.2021.)
La modération des contenus commerciaux en tant que mise au rebut
« L’éloignement n’est pas tant un lieu physique (bien qu’il en implique souvent un) que la désignation d’une périphérie dévalorisée créée dans l’intérêt du centre le plus puissant. Les choses qui semblent moins matérielles, comme les fichiers ou les contenus numériques, ont également une « distance ». Comme l’a écrit Sophia Stamatopoulou-Robbins (qui a travaillé notamment sur les relations des habitants de la Palestine aux déchets, voir : Waste Siege: The Life of Infrastructure in Palestine, Stanford University Press, 2019), les infrastructures de gestion des déchets « sont rarement de simples technologies qui font disparaître les déchets, en partie parce que les déchets – comme le volume total d’eau sur terre – ne disparaissent jamais vraiment. Les déchets changent simplement de place et de forme… Les infrastructures de gestion des déchets sont des technologies qui redistribuent les charges liées aux déchets plutôt que de les faire disparaître » (2019, 23). Cela vaut non seulement pour les déchets comme les ordures ménagères, mais aussi pour les éléments indésirables comme la violence ou le sexe sur votre fil d’actualité dans les médias sociaux.
Le CCM (Content Commercial Moderation) nécessite le travail de milliers de modérateurs de contenu humains qui travaillent « derrière l’écran » (Roberts 2019) pour contrôler les flux de médias sociaux sur des plateformes telles que Facebook et Twitter. Le CCM a des règles pour aider à prendre ces décisions, comme la règle désormais tristement célèbre de Facebook sur le gore qui ne permet « no insides on the outsides » (Radio Lab 2018 ; Lepawsky 2019). Ce qui reste, et qui est valorisé par rapport à ce qui est modéré et rejeté, fait à la fois partie du flux de contenu des médias sociaux et constitue un exemple de modèles complexes de pouvoir (power) sous la forme d’hypothèses culturelles derrière les types de choses qui sont considérées comme valorisées ou viles et la façon dont les corps humains et la santé sont maintenus ou mis au rebut par le travail des CCM.
Un documentaire intitulé The Cleaners (Block et Riesewieck 2018) capture de manière provocante la vie quotidienne de personnes basées aux Philippines qui travaillent comme modérateurs de contenu commercial pour des entreprises basées aux États-Unis comme Facebook. Le documentaire interroge des travailleurs qui décrivent leur expérience de l’élimination des contenus qui violent les conditions d’utilisation de Facebook et d’autres plateformes. Une femme décrit les « centaines de décapitations » qu’elle a dû regarder dans le cadre de son travail, qui consiste à supprimer les contenus qui enfreignent la politique de l’entreprise. Une autre femme plaisante sur toutes les images sexuellement explicites qu’elle voit et sur les nouveaux termes qu’elle a dû apprendre pour comprendre de quoi parlaient les Américains dans les messages signalés pour qu’elle les laisse en place ou les supprime. Selon l’une des principales personnes interrogées dans le documentaire, « le principal objectif et la mission d’un modérateur de contenu sont de nettoyer la saleté » (Block et Riesewieck 2018, 00:06:20).
Mais le processus normal de modération du contenu est aussi un véritable gâchis, car les modérateurs souffrent souvent de troubles tels que la dépression clinique et le syndrome de stress post-traumatique (SSPT). Les cerveaux et les cœurs des contractants CCM deviennent les décharges de ce qui menace le maintien des plateformes de médias sociaux en tant qu’espaces virtuels moraux, sûrs et stables. Les modérateurs ont accès à des services de conseil psychologique lorsqu’ils sont employés (Newton 2019a, 2019b) ; cependant, dès qu’ils quittent leur emploi ou sont licenciés, ces systèmes de soutien prennent fin, ce qui est d’autant plus pernicieux que les fins abruptes aggravent les traumatismes psychologiques (Perez et al. 2010).
Les modérateurs de contenu ne sont pas seulement dévalorisés dans la mesure où leur état mental et émotionnel est nécessaire pour fonctionner comme des « puits » (dépôts de déchets) pour les contenus médiatiques violents ou explicites. Ils sont également gaspillés en tant que travailleurs. En 2017, Facebook s’est appuyé sur quelque 15 000 modérateurs de contenu répartis sur vingt sites dans le monde – dont l’Allemagne, l’Irlande, la Lettonie, l’Espagne, Lisbonne, les Philippines et les États-Unis – qui étaient pour la plupart embauchés par des entrepreneurs tiers (Silver 2018 ; O’Connell 2019 ; Newton 2019a, 2019b). Cela signifie que la plupart des travailleurs CCM pour Facebook ne travaillent pas réellement pour Facebook (ou d’autres plateformes), et que leurs salaires ne reflètent pas les normes de Facebook. La modération de contenu externalisée est rémunérée au salaire minimum ou à un niveau proche de celui-ci dans une région donnée. Par exemple, à Dublin, en Irlande, les modérateurs de contenu gagnent 12,98 euros de l’heure, soit entre 25 000 et 32 000 euros par an. Un employé moyen de Facebook en Irlande qui n’est pas embauché par des sous-traitants gagne 154 000 euros par an (O’Connell 2019).
Au-delà des bas salaires, de nombreux autres aspects de la modération de contenu sous-traité sont synonymes de mauvaises conditions de travail. Les lois du travail qui protègent les horaires des employés, les licenciements et les avantages tels que les congés de maladie ne couvrent généralement pas les employés contractuels (ou le font de manière beaucoup plus faible). Cette précarité est intensifiée sur un lieu de travail où les modérateurs travaillent dans des conditions de surveillance constante par des responsables qui exigent qu’ils maintiennent une précision de 98 % dans leurs décisions de suppression ou d’oubli (Block et Riesewieck 2018). Même s’ils prennent la bonne décision de supprimer mais le font pour la mauvaise raison, leur score de qualité d’employé diminue, ce qui peut conduire à la perte de l’emploi.
Tout comme le recyclage maintient le flux de matériaux jetables intentionnellement (by design) plutôt qu’accidentellement, le CCM est également conçu comme une stratégie destinée à s’assurer que le flux de travailleurs jetables est maintenu. Les modérateurs de contenu doivent généralement signer des accords de non-divulgation (NDA) qui leur interdisent de parler publiquement des spécificités de leur emploi (Newton 2019a, 2019b). Cet ensemble de relations de pouvoir inégales en faveur des gestionnaires de contrats par rapport aux travailleurs a pour conséquence que les entreprises tierces de recrutement de personnel contractuel sont au moins partiellement protégées des critiques des employés concernant leurs conditions de travail. Parallèlement, les clients de ces entreprises tierces – Facebook et d’autres plateformes de médias sociaux de marque – sont à l’abri des critiques concernant les conditions de travail, car les modérateurs de contenu ne travaillent pas, d’un point de vue juridique, pour Facebook. Cela permet de maintenir des conditions de travail médiocres et, lorsque des contenus problématiques se faufilent, les systèmes juridiques s’entrecroisent avec l’activité de modération de contenu pour déresponsabiliser la plateforme de médias sociaux.
Nous constatons ici les différentes formes d’externalisation qui permettent au système de fonctionner sans heurts : les contenus jugés problématiques par les règles d’une plateforme (fondées sur des valeurs et des pratiques culturelles spécifiques) sont retirés de son système, alors que le fonctionnement normal du processus peut causer des dommages aux modérateurs sous la forme de dépression clinique et de stress post-traumatique. Cela permet à une partie du système de prospérer aux dépens d’une autre. Les travailleurs sont externalisés en étant expulsés du système lorsqu’ils ne sont plus nécessaires, ainsi que par le biais de contrats de travail précaires, de la surveillance et d’accords de non-divulgation ((NDA). Les travailleurs sont contraints d’assumer les coûts émotionnels et financiers des préjudices psychologiques que leur travail leur a causés.
Mais à l’instar de la Chine qui a interdit les importations de plastique, révélant ainsi le lieu de destination d’une grande partie des produits recyclables dans le monde, le travail habituellement invisible qui consiste à éloigner les contenus nuisibles des fils d’actualité des médias sociaux a récemment échoué lorsque la pandémie de COVID-19 a entraîné le renvoi soudain des modérateurs de contenu, remplacés temporairement par des algorithmes. Ce changement a été perçu par les utilisateurs des plateformes, car la modération par algorithme a entraîné des blocages massifs de messages sur les médias sociaux – une surestimation de la saleté – plutôt qu’un déluge de contenus douteux : « Hier, Facebook a renvoyé chez eux les modérateurs de contenu, qui ne peuvent généralement pas [travailler à domicile] en raison des engagements pris par l’entreprise en matière de protection de la vie privée. Il se peut que nous assistions au début de l’emballement [de l’apprentissage automatique] avec moins de surveillance humaine » (Matsakis 2020 ; voir aussi Roberts 2020). Bien que le vice-président de l’intégrité de Facebook (un poste réel) ait nié que la perte de modérateurs humains soit un problème, le blocage massif de contenus gratuits en mars 2020 et l’interruption des réseaux de recyclage montrent que l’élimination dans les systèmes est une technique qui permet à ces derniers d’agir de manière transparente. Lorsque l’élimination est interrompue de manière significative, les systèmes se déforment, se déforment et même échouent, ce qui nous permet de considérer l’élimination comme un processus fondamental qui maintient des structures apparemment massives, cohérentes et inévitables.
Pour ceux que ces sujets intéressent, il existe une très vaste bibliographie dont je ne peux donner ici qu’un aperçu. Disons : les livres que j’ai lus récemment et qui m’ont marqué. Par exemple :
Le livre fondamental de Marco Armiero, Wasteocene. Stories from the Global Dump. Cambridge University Press, 2021. (dont j’ai dit un mot ici)
En voici l’argument :
Les humains peuvent vivre dans l’Anthropocène, mais cela ne les affecte pas tous de la même manière. À quoi ressemblerait l’Anthropocène si, au lieu de chercher ses traces dans la géosphère, les chercheurs les cherchaient dans l’organosphère, dans les écologies des humains dans leurs rapports avec l’environnement ? En examinant cette stratigraphie incarnée du pouvoir et de la toxicité, plus que l’Anthropocène, nous découvrirons le Wasteocene. L’imposition de relations de gaspillage aux communautés humaines subalternes et aux communautés plus qu’humaines implique la construction d’écologies toxiques composées de substances et de récits contaminants. Alors que les comptes rendus officiels ont systématiquement effacé toute trace de ces relations de gaspillage, un autre type de récit a été écrit en chair, en os et en cellules. Entre Naples (Italie) et Agbogbloshie (Ghana), science-fiction et épidémies, cet Élément (nom de la collection des Cambridge Universisty Press) emmènera le lecteur dans les entrailles du Wasteocene, mais il indiquera aussi les pratiques de commoning qui le démantèlent.
La fascinante étude de l’anthropologue Sophia Stamatopoulou-Robbins, Waste Siege The Life of Infrastructure in Palestine (Stanford University Press, 2019) dont je vous donne ici une traduction de la présentation :
Waste Siege propose une analyse inhabituelle dans l’étude de la Palestine : il dépeint le contexte environnemental, infrastructurel et esthétique dans lequel les Palestiniens sont obligés de forger leur vie. Parler de siège de déchets, c’est décrire une série de conditions, depuis l’odeur des déchets jusqu’à la négociation des infrastructures militaires, depuis les formes biopolitiques de la domination coloniale jusqu’aux expériences d’abandon gouvernemental, depuis les cibles évidentes de la résistance jusqu’à la confusion sur la responsabilité des objets encombrants de la vie quotidienne. Dans ces décombres, ces débris et ces retombées infrastructurelles, les Palestiniens de Cisjordanie créent une vie sous le régime colonial des colons.
L’ouvrage se concentre sur les déchets en tant qu’expérience de la vie quotidienne qui s’inscrit dans la continuité de l’occupation, mais qui n’en est pas le seul résultat. En retraçant les expériences des Palestiniens en matière de déchets au cours de la dernière décennie, l’auteur examine comment les multiples autorités qui gouvernent la Cisjordanie – y compris les municipalités, l’Autorité palestinienne, les organisations d’aide internationale, les ONG et Israël – gouvernent par le siège des déchets, que ce soit intentionnel ou non. Mon travail remet en question les formulations courantes des déchets en tant que « matière déplacée » et en tant que contraire ontologique de l’environnement, en suggérant plutôt que le siège des déchets soit compris comme une écologie de la « matière qui n’a nulle part où aller ». Le siège des déchets ne décrit donc pas seulement une Palestine sans État, mais devient également une métaphore de notre planète assiégée
Joshua O. Reno, a lui-même travaillé en tant qu’ouvrier dans les décharges de Détroit, expérience dont il témoigne dans son étude, Waste Away. Working and Living with a North American Landfill (California University Press, 2016).
Bien que nous soyons le peuple le plus gaspilleur de l’histoire du monde, très peu d’entre nous savent ce qu’il advient de nos déchets. Dans Waste Away, Joshua O. Reno révèle comment les Nord-Américains ont été façonnés par leur moyen d’élimination préféré : la décharge sanitaire. Basé sur le travail de terrain de l’auteur en tant qu’ouvrier commun dans une grande décharge transnationale située dans la banlieue de Détroit, ce livre soutient que la gestion des déchets aide nos biens et nos habitations à durer en éliminant les matériaux éphémères dont ils se débarrassent et en les envoyant ailleurs. L’ethnographie menée auprès des travailleurs des déchets montre comment ils dissimulent et contiennent les déchets d’autrui, tout en négociant la saleté de leur métier, en s’accrochant aux aspirations de la classe moyenne et, à l’occasion, en récupérant des choses intéressantes dans les poubelles. Waste Away retrace également les circonstances qui ont conduit une communauté à accueillir deux décharges et qui ont fait du Michigan l’un des principaux importateurs de déchets étrangers. En se concentrant sur les activistes locaux opposés au commerce transnational des déchets avec le Canada, l’ethnographie du livre analyse leurs tentatives de politiser l’enlèvement des déchets hors de la vue, que beaucoup considèrent comme allant de soi. En documentant ces différentes façons d’aborder la gestion des déchets en Amérique du Nord, Waste Away montre comment les décharges que nous créons nous remodèlent à leur tour, souvent dans notre dos et sans que nous nous en rendions compte.
Du même auteur, on pourra lire l’enquête qu’il a consacré aux déchets militaires. Military Waste The Unexpected Consequences of Permanent War Readiness, California University Press, 2020). Une pièce à ajouter à ce dont on ne parle quasiment jamais, qui est soigneusement passé sous silence par les puissances concernées : l’impact environnemental, et sur le climat de manière général, des guerres, de la militarisation des zones d’extraction ou des infrastructures.
La troisième guerre mondiale n’a pas encore eu lieu, mais les preuves matérielles de ce conflit sont disséminées partout : elles reposent au fond des océans, rouillent dans les déserts et flottent en orbite proche de la Terre.
Dans Military Waste, Joshua O. Reno propose une analyse unique des coûts de la préparation à la guerre des États-Unis en examinant la vie et l’histoire de civils américains confrontés à ce qui reste et est mis de côté lorsqu’une société est définitivement prête pour la guerre. À l’aide de recherches ethnographiques et d’archives, Reno démontre comment le matériel militaire obsolète, dans ses diverses incarnations, affecte des personnes et des lieux éloignés des champs de bataille habituellement associés à la guerre. À l’aide d’un large éventail d’exemples – des avions, navires et débris spatiaux excédentaires qui tombent entre les mains de civils aux territoires insulaires dépossédés et pollués autrefois occupés par des bases militaires, en passant par les masculinités militarisées des tireurs de masse – les déchets militaires révèlent les relations inattendues et illimitées que les non-combattants du front intérieur nouent avec une nation en permanence prête à la guerre.
Voir mes remarques à ce sujet sur cet article de mon blog : De la guerre envisagée sous l’angle de la catastrophe climatique.
Je conseillerai également ce recueil d’études que Joshua O/. Reno a co-dirigé avec Catherine Alexander, Economies of recycling_ the global transformation of materials, values and social relations (Zed Books, London 2012) qui explore différents cases studies aussi bien en Inde, qu’au Brésil, au Bangladesh, en Chine, au Sénégal, en Argentine, etc..