Un exemple de colonisation des rêves, de l’imaginaire, de la vie intérieure, de l’inconscient (une aliénation intime)
Article remarquable (comme souvent) de Coda (collectif indépendant de journalistes internationaux qui travaillent la “géographie” des régimes autoritaires). L’autrice s’appelle Erica Hellerstein @E_Hellerstein et la photographe Natalia Jidovanu.
(au passage, ce serait bien si l’on citait plus souvent les noms des journalistes quand on se réfère à leurs investigations)
L’article fait entendre la voix, et les souffrances, des modératrices et modérateurs de contenus des réseaux de communications et des IA au Kenya. J’en avais déjà dit un mot du reste il y a quelques jours.
Un article publié dans WIRED par Niahm Rowe résume bien la croissance exponentielle du secteur :
Stimulée par une ruée mondiale vers l’IA, l’industrie mondiale de l’étiquetage et de la collecte de données devrait atteindre plus de 17,1 milliards de dollars d’ici 2030, selon Grand View Research, une société d’étude de marché et de conseil. Les plateformes de crowdsourcing telles que Toloka, Appen, Clickworker, Teemwork.AI et OneForma mettent en relation des millions de travailleurs à distance dans le sud du monde avec des entreprises technologiques situées dans la Silicon Valley. Les plateformes affichent les micro-tâches de leurs clients technologiques, parmi lesquels Amazon, Microsoft Azure, Salesforce, Google, Nvidia, Boeing et Adobe. De nombreuses plateformes s’associent également à la plateforme de services de données de Microsoft, le système universel de pertinence humaine (UHRS).
Ces travailleurs sont principalement basés en Afrique de l’Est, au Venezuela, au Pakistan, en Inde et aux Philippines – bien qu’il y ait même des travailleurs dans les camps de réfugiés, qui étiquettent, évaluent et génèrent des données. Les travailleurs sont payés à la tâche, avec une rémunération allant d’un centime à quelques dollars, bien que le haut de gamme soit considéré comme une perle rare, selon les travailleurs. “La nature du travail ressemble souvent à de la servitude numérique, mais c’est une nécessité pour gagner sa vie”, explique Hassan, qui travaille également pour Clickworker et Appen.
C’est là un exemple typique de ce qu’on peut appeler l’externalisation des déchets du Global North vers le Global South. Un processus d’excrétion, d’évacuation, et plus généralement de “transfert” (qu’on a le droit d’entendre dans sa connotation psychanalytique), des sous-produits indésirables des mondes numériques occidentaux.
Une autre déclinaison de ce que l’excellent Rob Nixon (je suis tellement scotché par son livre) appelle « the slow violence » : le fait, pour ces travailleuses et travailleurs d’être exposé·e·s quotidiennement à toute la cruauté et l’atrocité des fantasmes pervers de psychopathes, et non seulement des fantasmes, mais des crimes bel et bien commis et dont les images sont diffusées via les réseaux de communication numériques.
On exporte donc les sales secrets pulsionnels des sadiques Kenya, dans les appareillages psychiques des travailleuses et travailleurs du Kenya (et d’ailleurs). Lesquels sont chargés de PURIFIER le monde numérique, de le rendre conforme aux règles éthiques édictées par les États (du Nord, mais pas que).
Cette transformation paraît simple du point de vue d’un dirigeant de Google installé dans l’autre Silicon Valley, en Californie.
Mais ce qu’on passe sous silence et qu’on rend invisible, c’est le processus secret par lequel s’opère cette purification : les effets sur les appareils psychiques de celles et ceux qui internalisent ces horreurs. Le modèle freudien du refoulement me vient immédiatement à l’esprit (désolé pour les allergiques à la psychanalyse) : on refoule ici la culpabilité, l’objet intolérable, ce sein qu’on ne saurait voir, en l’exportant dans un autre anonyme (qui devient en quelque sorte une part de notre inconscient : il s’agit ni plus ni moins de coloniser l’inconscient de l’autre) – et comme toujours dans le refoulement, ce mauvais objet qu’on a congédié (dans la Silicon Valley kényane) revient transformé en symptômes et en souffrances psychiques – les fantasmes pervers des psychopathes deviennent les cauchemars, les traumatismes et la terreur des travailleuses et travailleurs du numérique en Afrique.
Et bien entendu, l’opération ne serait pas complète si l’on oubliait d’évoquer la réimportation des profits (pour les investisseurs du Global North), conformément à la logique capitaliste coloniale (et néocoloniale).
Les processus à l’œuvre dans les structures de domination du capitalisme néocolonial peuvent être brutales et spectaculaires : mais la plupart du temps, elles se déploient de manière discrète et leurs effets délétères s’étalent sur une longue durée – comme ces substances toxiques déversées il y a des décennies et qui continuent de faire des ravages sur les générations qui se succèdent. Ici, on peut parler d’une intoxication des imaginaires et des inconscients, ou de la manière dont, on se débarrasse de la part inavouable de la violence des riches dans le psychisme des pauvres, et, dans ce transfert, se fabriquent des fantômes, qui viendront hanter l’esprit des autres.
(et là je songe aussi aux procédures extraordinairement subtiles de traitement des fantômes de l’histoire du Vietnam dans le chef d’œuvre de l’anthropologue Coréen Heonik Kwon, « Ghosts of War in Vietnam »)
***
Quelques extraits traduits pour ceux qui ne lisent pas l’anglais :
“Au fil du temps, Wabe a commencé à considérer les modérateurs comme des « soldats déguisés » – une main-d’œuvre mal payée travaillant dans l’ombre pour rendre Facebook utilisable par des milliards de personnes dans le monde. Mais il a également noté une sombre ironie dans le rôle que lui et ses collègues ont joué pour les utilisateurs de la plateforme : « Tout le monde est en sécurité grâce à nous », a-t-il déclaré. « Mais nous ne le sommes pas. »
Wabe a déclaré que des dizaines de ses anciens collègues des bureaux de Sama à Nairobi souffrent désormais de troubles de stress post-traumatique. Wabe a également eu des pensées suicidaires. « Chaque fois que je vais quelque part en hauteur, je pense : que se passerait-il si je sautais ? se demanda-t-il à voix haute. « Nous avons été ruinés. C’est nous qui protégeons tout le continent africain. C’est pour cela que nous avons été traités comme des esclaves.”
****
Pour la plupart des utilisateurs d’Internet – la majeure partie du monde – ce type de travail est littéralement invisible. Il s’agit pourtant d’un élément fondamental du modèle économique des Big Tech. Si les sites de médias sociaux étaient inondés de vidéos de meurtres et d’agressions sexuelles, la plupart des gens les éviteraient – tout comme les annonceurs qui rapportent des milliards de revenus aux entreprises.
Dans le monde, on estime que 100 000 personnes travaillent pour des entreprises comme Sama, des sous-traitants tiers qui fournissent des services de modération de contenu à des sociétés comme Meta, Google et TikTok, la société mère de Facebook. Mais même si cela se passe à un bureau, principalement sur un écran, les exigences et les conditions de ce travail sont brutales. Les modérateurs actuels et anciens que j’ai rencontrés à Nairobi en juillet m’ont dit que ce travail les avait laissés avec le syndrome de stress post-traumatique, la dépression, l’insomnie et des pensées suicidaires.
***
La modération de contenu n’est pas devenue une industrie en soi par hasard. Aux débuts des médias sociaux, lorsque « ne soyez pas méchant » était encore le principal principe directeur de Google et que Facebook aspirait encore effrontément à connecter le monde, ce travail était effectué par des employés internes des plateformes Big Tech. Mais alors que les entreprises aspiraient à une plus grande échelle, recherchant des utilisateurs sur des centaines de marchés à travers le monde, il est devenu évident que leurs systèmes internes ne pouvaient pas endiguer la marée de contenus violents, haineux et pornographiques inondant les fils d’actualité des gens. Ils se sont donc inspirés du manuel de mondialisation des sociétés multinationales : ils ont décidé d’externaliser la main-d’œuvre.
***
Johanna, une modératrice de 28 ans, a décrit un déclin similaire de sa santé mentale après avoir regardé des vidéos TikTok de viol, d’abus sexuels sur des enfants et même d’une femme mettant fin à ses jours devant ses propres enfants. Johanna travaille actuellement pour la société d’externalisation Majorel, où elle examine le contenu de TikTok, et nous a demandé de l’identifier à l’aide d’un pseudonyme, par crainte de représailles de la part de son employeur. Elle m’a dit qu’elle était de nature extravertie, mais après quelques mois chez Majorel, elle s’est renfermée et a arrêté de sortir avec ses amis. Désormais, elle se dissocie pour passer la journée au travail. « Vous devenez une personne différente », m’a-t-elle dit. « Je suis engourdie. »