Le “scandale de la Poste britannique” n’a pas fait grand bruit chez nous (hormis notamment dans Le Monde, dès 2021, et documenté régulièrementdepuis). C’est l’histoire d’un logiciel de comptabilité et d’inventaire pour gérants de petits bureaux de Poste (le logiciel Horizon, développé par Fujitsu) qui produisait des soldes comptables incorrects qui a conduit a accuser plus de 3000 personnes de fraude, conduisant à d’innombrables drames humains : condamnations, faillites, emprisonnements, suicides… comme le résume très bien l’article de Wikipédia. La diffusion en janvier d’une série au succès spectaculaire sur les ondes britanniques sur le sujet (Mr Bates vs The Post Office) a bouleversé l’opinion et poussé jusqu’au Premier Ministre a réagir.
La série Mr Bates vs. the Post Office.
Dans l’édito que la revue Nature consacre à ce scandale, le magazine souligne que l’un des problèmes qu’a rencontré la justice britannique… était que la jurisprudence considère que l’informatique ne peut pas faire d’erreur ! En Angleterre et au Pays de Galles, les tribunaux considèrent que, en droit, les ordinateurs fonctionnent correctement, sauf preuve du contraire.
“La principale source d’injustice potentielle avec une loi qui présume que les opérations informatiques sont fondamentalement correctes est que si quelqu’un veut remettre en question ou contester les preuves informatiques… il lui incombe de produire la preuve d’une utilisation ou d’un fonctionnement inapproprié.” Or, apporter cette preuve est particulièrement difficile sans accéder au code du logiciel. Les accusés d’Horizon n’en avaient aucun moyen et il a fallu une procédure collective et opiniâtre pour qu’ils arrivent à se faire entendre par la justice et par la Poste britannique.
L’avocat britannique Paul Marshall et ses collègues estiment que la présomption de fiabilité doit être remplacée par l’exigence que les données et le code puissent être divulgués devant les tribunaux. “Si nécessaire, cette divulgation doit inclure les normes et protocoles de sécurité des informations ; les rapports d’audits de systèmes ; les preuves démontrant que les rapports d’erreurs et les modifications du système ont été gérés de manière fiable ; et les enregistrements des mesures prises pour garantir que les preuves ne soient pas falsifiées.” Si ces éléments montrent que le système est problématique, alors le juge doit pouvoir demander une inspection plus précise.
Quand ils sont mis en cause, les systèmes informatiques devraient pouvoir être inspectés par les tribunaux. Leur supposée fiabilité, comme le secret commercial, ne devraient pas être des obstacles à la vérité.
Le billet sur l’effondrement de l’information que je publiais en janvier a fait beaucoup réagir, notamment des journalistes – certainement parce qu’ils ont été nombreux à se retrouver dans la description, assez sombre j’en conviens, que je dressais des évolutions en cours dans le monde de l’information. Quand Steven Jambot, animateur de l’Atelier des médias sur RFI (cette belle émission qui a 20 ans, animée longtemps par Philippe Couve puis Julien le Bot et Ziad Maalouf…) m’a proposé de venir en parler… je n’ai pas hésité. L’émission (à écouter ici) m’a donné l’occasion de tenter de rassembler une petite histoire de l’évolution des recommandations algorithmiques.
L’exercice n’est pas facile (surtout à l’oral) et je me dis que cela vaut le coup d’essayer de caractériser simplement cette histoire. L’idée n’est pas de faire une thèse sur le sujet, juste d’essayer de faire saisir simplement les évolutions que nous avons vécu ces 20 dernières années, pour mieux saisir la situation de blocage où les ajustements algorithmiques nous ont conduit.
L’âge de la souscription et le modèle des recommandations simples (2000-2010) La première génération de systèmes de recommandation commence à être assez ancienne. C’est celle du filtrage collaboratif qui consiste à apparier les produits entre eux par exemple. C’est une fonction qui existe encore sur Amazon, le fameux, “les clients qui ont acheté ce produit ont également acheté tel autre produit”. C’était également le principe sous lequel fonctionnait Netflix quand il était encore une entreprise qui envoyait des DVD par la poste, qui créait une moyenne entre les notes, les genres, les nouveautés et les demandes locatives pour produire des recommandations assez simples pour orienter l’utilisateur dans les contenus à louer. Les systèmes de recommandation étaient alors sommaires, fonctionnant principalement sur la modalité de la souscription et de l’abonnement : sur les premiers médias sociaux comme dans la blogosphère, on s’abonne aux gens qui nous intéressent et on reçoit des notifications de ce qu’ils ont publié.
Ces méthodes vont peu à peu se complexifier et s’ajuster en fonction des critères disponibles, comme la popularité, les préférences ou la qualité. Mais elles vont également être très tôt manipulées par les plateformes. Chez Amazon par exemple en exagérant la recommandation de produits similaires pour déclencher l’achat (beaucoup de gens achètent des produits dissociés, Amazon va favoriser la recommandation d’un DVD d’un même réalisateur par exemple plutôt qu’une recommandation d’un produit trop alternatif pour favoriser le passage à l’achat du produit supplémentaire). Chez Netflix en diminuant les recommandations des nouveautés au profit des titres de la longue traîne bien moins louées et bien plus disponibles. Dans les médias sociaux en recommandant les profils les plus populaires sur ceux qui le sont moins.
On peut faire courir cette première période des années 2000 à 2010. Signalons cependant l’évolution, en 2006, de la “factorisation matricielle”, c’est-à-dire l’invention de systèmes de recommandations plus complexes. C’est le cas du concours lancé par Netflix à l’époque pour améliorer son système de recommandation qui va générer des combinaisons d’attributs pour caractériser les contenus qui vont très bien fonctionner sur des catalogues limités, mais pas du tout pour caractériser les messages infinis publiés sur les médias sociaux.
L’âge du réseau et du modèle des propagations (2010-2016) Dans le modèle de réseau, la propagation d’un message ne dépend plus seulement des personnes auxquelles vous êtes abonnées, mais est amplifiée ou rétrogradée par les effets de réseaux. Plus un message est relayé, plus il est amplifié. Ce sont les réactions des autres qui structurent la recommandation. C’est l’effet de la prise en compte du like, du commentaire et du partage sur Facebook avec le lancement en 2010 de l’Edge Rank qui va attribuer une note aux contenus pour les classer selon l’intérêt des utilisateurs… ou la prise en compte du commentaire et du RT sur Twitter qui vont être prédominants dans les recommandations jusqu’en 2016. Ce scoring des contenus selon l’intérêt des utilisateurs va faire monter certaines catégories de contenus, par exemple les photos et les vidéos sur FB, mais également favoriser les polémiques en faisant remonter les posts ou les tweets les plus commentés. Dans l’âge du réseau la prime va à la visibilité : on accroît la portée de ce qui fonctionne le mieux, comme l’expliquait Arvind Narayanan. En 2015, Youtube intègre à son tour l’apprentissage automatique de Google Brain ce qui va transformer les recommandations de son moteur en privilégiant le temps passé (le temps passé à regarder une vidéo devient le critère de qualité).
L’âge algorithmique et le modèle de la similarité (2016-2021) L’intégration d’ajustements algorithmiques prenant en compte de plus en plus de critères transforment à nouveau les moteurs de recommandation. Durant cette période, les ajustements algorithmiques sont réguliers, continus produisant des recommandations en mouvement permanent, comme l’expliquait Arvind Narayanan en observant les révélations sur le fonctionnement de Twitter, l’année dernière. Mais la transformation principale de cette période consiste à mobiliser l’apprentissage automatique pour prédire la similarité.
Dans le modèle algorithmique, les utilisateurs ayant des intérêts similaires (tels que définis par l’algorithme sur la base de leurs engagements passés) sont représentés plus près les uns des autres. Plus les intérêts d’un utilisateur sont similaires à ceux définis, plus il est probable que le contenu lui sera recommandé. Le contenu ne dépend donc plus des gens auxquels on est connecté ou des mouvements de foule, mais d’un calcul de similarité de plus en plus complexe et mouvant.
Cette similarité consiste à calculer le comportement, c’est-à-dire à tenter de regarder ceux qui apprécient les mêmes choses que nous pour favoriser l’engagement. Forts de données plus massives sur leurs utilisateurs, les plateformes affinent leurs recommandations. En introduisant par exemple la mesure des “interactions sociales significatives” en 2018, Facebook devient capable de prédire les contenus que vous allez liker ou commenter pour vous les proposer. Le poids de la souscription (les personnes auxquelles on est abonné) ou du réseau (les contenus viraux) sont dégradés au profit d’un calcul plus complexe qui tente de prendre en compte le sujet, sa qualité, les réactions des autres…
Avec ces modèles, le nombre d’utilisateurs des plateformes explose… et chacune affine ses principes d’engagements valorisant des comportements très différents les uns des autres. TikTok par exemple valorise les vidéos regardées jusqu’au bout et donc des vidéos courtes, mais valorise également la pulsion, la réaction immédiate via le swipe, qui va avoir tendance à favoriser certains contenus sur d’autres. Le flux des contenus proposé est ajusté pour favoriser également de la diversité.
Dans cette complexité nouvelle, les contenus rétrogradés sont rendus opaques et invisibles, car la portée naturelle du contenu dépend de fortes variations et les utilisateurs ne peuvent savoir si les contenus qu’ils ne voient pas ont été rétrogradés ou l’ont été parce qu’ils sont moins bons. La logique de la viralité demeure néanmoins le point fort des réseaux sociaux : la majorité des engagements proviennent toujours d’une petite fraction des contenus (20% des vidéos les plus vues font 70% des vues sur TikTok ou YouTube). Dans cette complexité, les plateformes néanmoins gardent la main : en augmentant la portée des contenus publicitaires dont elles ont de plus en plus besoin pour dégager des bénéfices et en rétrogradant certains types de contenus…
L’âge du cynisme, des distorsions de marché et de l’emballement du modèle commercial (depuis 2021…) On pourrait dire que la recherche d’un engagement optimal ou idéal s’effondre en 2021. Le symbole, c’est l’éviction de Trump de FB et Twitter, mais cet engagement avait déjà été mis à mal avec la pandémie, quand les plateformes ont été contraintes de mieux qualifier leurs contenus et de produire des contenus vérifiés. Confrontées à leurs effets, les plateformes se mettent à se détourner de certains types de contenus, notamment politiques. Elles dégradent volontairement la performance de l’information (et des hyperliens) des grands sites de presse pour promouvoir des interactions qui peuvent sembler apolitiques. Elles semblent en revenir aux racines des réseaux sociaux, c’est-à-dire privilégier les discussions entre utilisateurs, à l’image du réseau social Threads. Le rachat de Twitter par Musk en 2022 et les transformations que va subir Twitter depuis vont dans le même sens, puisque sur Twitter désormais, ce sont les comptes qui payent qui vont être mis en avant. La qualité et la viralité “naturelle” sont dégradées. Les plateformes ne cherchent plus à promouvoir l’intérêt général, mais ne se focalisent plus que sur l’amplification de leur modèle commercial. En 2021, FB avait tenté de mesurer la qualité des messages qu’il proposait, mais en faisant disparaître les messages les plus négatifs qui avaient également la plus grande portée, les utilisateurs étaient insatisfaits. FB a fait marche arrière, assumant son cynisme commercial.
C’est ce qu’explique d’ailleurs un passionnant article signé Tim O’Reilly, Illan Strauss et Mariana Mazzucato qui constate que dans les rentes d’attention algorithmiques, les plateformes se focalisent désormais sur le service aux annonceurs plus que sur la qualité de l’expérience utilisateur (qui lui, préfère l’âge de la souscription et du réseau, l’âge d’avant l’emmerdification algorithmique – “l’emmerdocène” – comme dit Cory Doctorow, parce que ces modèles permettaient aux utilisateurs de construire des relations et d’en rester maître). Ce qui a changé, c’est que les plateformes sont désormais bien moins en concurrence qu’en situation de monopole, et qu’il est difficile pour les utilisateurs de les quitter totalement. Dans des marchés sans grande concurrence, les plateformes n’ont plus à se soucier que leurs algorithmes soient équitables. Les clics des utilisateurs restent dirigés vers les premiers résultats que les plateformes proposent, donnant un pouvoir considérable aux classements qu’elles mobilisent et notamment à la mise en avant publicitaire dans des environnements où l’utilisateur ne paye pas. Quand l’augmentation du nombre d’utilisateurs ralentit, l’augmentation des bénéfices devient fonction de la quantité de publicité délivrée ou repose sur le fait de faire payer les utilisateurs. Pour les plateformes, l’enjeu désormais n’est plus de fournir la meilleure correspondance de la recommandation, mais la plus rentable. Sur Google, les résultats publicitaires n’ont cessé de grimper au sommet des recommandations et de s’invisibiliser par rapport aux résultats “naturels” (en 2011, 94 % des clics sur Google étaient organiques et seulement 6 % étaient dirigés vers des publicités… Il serait intéressant de connaître le résultat actuel !). Chez Amazon, tous les résultats sont désormais issus de positionnements publicitaires (¾ des vendeurs d’Amazon Market Place paient pour obtenir de la visibilité) et là encore le fait que ce soit des résultats publicitaire devient complètement invisible à l’utilisateur. Amazon a ainsi gonflé ses prix publicitaires tout en diminuant leur rendement (“En 2022, la publicité est devenue une activité très rentable pour Amazon se montant à 37,7 milliards de dollars. Le coût moyen par clic sur les publicités Amazon a doublé, passant de 0,56$ en 2018 à 1,2$ en 2021: 30 cents doivent désormais être dépensés en publicités pour générer 1$ de ventes.”).
Pour O’Reilly, Strauss et Mazzucato, nous sommes désormais entrés dans des plateformes de distorsion des marchés, où les préférences et les possibilités de paramétrages des utilisateurs disparaissent de plus en plus – justifiant la réaffirmation d’un droit au paramétrage, comme le proposent Célia Zolynski et Jean Cattan (et Ethan Zuckerman il y a quelques années). L’attention des utilisateurs est désormais majoritairement pilotée au profit de ceux qui sont disposés à payer, au détriment de l’emplacement ou de la réputation qui sont de plus en plus dévalorisées. Ainsi, si vous cherchez des pneus, Google va vous recommander les grands annonceurs très loin devant votre garage de proximité.
Dans leur article, O’Reilly, Strauss et Mazzucato estiment que pour remédier à ces distorsions de concurrence, il faudrait que les régulateurs puissent comparer le classement “organique” d’un produit avec son classement payant, favoriser le prix final pour écarter les fausses promotions… mais surtout, ils s’interrogent sur l’idée de définir un rendement publicitaire maximal. Reste que l’appareil réglementaire en la matière est confronté à une lacune béante : le manque d’information régulière et obligatoire des plateformes sur leurs paramètres opérationnels permettant de contrôler le niveau de monétisation de l’attention des utilisateurs ! Or, les plateformes connaissent la charge publicitaire, connaissent les ratios clics organiques/clics publicitaires et l’évolution de ces mesures dans le temps… C’est au régulateur d’armer sa mesure de la régulation ! Ils en appellent également à des mesures plus précises, géographiquement et par produit. Google dispose de 9 produits qui ont plus d’un milliard d’utilisateurs, mais les informations sur la publicité qu’elles rapportent ne fait pas de distinguo entre ces services ! Dans leurs préconisations, les auteurs recommandent également de permettre aux utilisateurs d’avoir des préférences persistantes, proche du droit au paramétrage que défendent chez nous Célia Zolynski et Jean Cattan.
O’Reilly, Strauss et Mazzucato concluent sur les perspectives problématiques que vont générer sur ces marchés déjà opaques, l’arrivée des contenus synthétiques de l’IA, avec le risque d’un renforcement de l’autorité algorithmique et rendre plus difficile encore la détection des comportements problématiques des plateformes, c’est-à-dire les distorsions qu’elles accomplissent.
Reste encore un élément à prendre en compte dans ces évolutions. Malgré tous leurs efforts, l’efficacité de ces modèles demeure extrêmement faible. Le taux d’engagement, c’est-à-dire la probabilité qu’un utilisateur s’intéresse à un message qui lui est recommandé, demeure partout extrêmement faible : il est de moins de 1% sur la plupart des plateformes. Malgré le déluge d’analyse de données, les gens demeurent peu prévisibles. Les plateformes savent identifier les contenus viraux et les contenus de niches, mais c’est à peu près tout. Quant au taux de clic publicitaire, il est encore plus bas. Cela n’empêche pas les plateformes de centrer leur performance sur ce qui leur rapporte. A défaut d’avoir changé le monde, elles se sont converties à leur seule réussite économique.
Il faut beaucoup de courage au lecteur pour descendre dans les profondeurs du livre de la journaliste Celia Izoard, La ruée minière au XXIe siècle, enquête sur les métaux à l’ère de la transition (Seuil, 2024, 342 p, 23 euros). Du courage parce que c’est un livre qui dresse des constats éprouvants pour comprendre le monde. Le livre parle très concrètement de l’extractivisme, du capitalisme, des mines, de notre voracité sans limite et de ses conséquences.
Couverture du livre de Celia Izoard, La ruée minière au XXIe siècle.
La mine du XXIe siècle ne ressemble plus à Germinal. Plus grand monde ne descend dans des fosses. Désormais, nous arrasons les montagnes. Nous broyons les roches. Nous construisons des bassins de déchets que nous ne savons pas gérer, irréversiblement toxiques et très sensibles au changement climatique. Les accidents liés à ces bassins et digues de rétentions des déchets sont innombrables, tant et si bien qu’il faut considérer cette pollution et ces accidents comme faisant partie de l’extractivisme minier… Les ruptures, les coulées, les “liquéfactions instantanées”, les conséquences de la pollution sur les populations… sont parmi les passages les plus glaçants du livre… nous rappelant que le monde industriel propose toujours des solutions à court terme et crée des problèmes à très long terme.
L’impératif minier crée des états d’exception pas des zones de responsabilité
Contrairement aux mythes de la dématérialisation et de la désindustrialisation, nous n’avons jamais autant extrait de métaux et nous prévoyons d’en extraire plus encore. Nous ne sommes pas dans l’après-mine, mais au contraire dans une relance minière inédite, plus vorace et extractive qu’elle n’a jamais été. Cet extractivisme sans précédent a trouvé une nouvelle justification explique la journaliste : l’extractivisme renforcé est le moyen pour assurer la transition bas carbone, qu’importe si en réalité cette transition est un leurre. Assurer la transition est la nouvelle idéologie qui succède au Salut ou au Progrès et qui justifie plus avant l’accumulation et l’artificialisation du monde. Comme les précédentes, elle fonctionne sous le régime de la promesse pour acheter le statu quo, explique-t-elle très pertinemment. Le livre de Celia Izoard est rempli de chiffres qui donnent le tournis pour nous rappeler combien notre monde extractiviste est insoutenable. Mais surtout, sa grande force est de nous amener jusque dans les mines elles-mêmes, pour nous montrer leurs fonctionnements et leurs terribles effets. Elle explique que contrairement à ce que nous font croire quelques données peu informées, nous n’allons en rien vers des mines responsables. Toutes produisent des catastrophes écologiques, à l’image du projet Montagne d’Or en Guyane qu’elle avait documenté dans un formidable numéro de la revue Z. “L’après-mine est déjà une autre planète, faite de main d’homme”. Mais c’est une planète stérile, toxique, invivable. Avant de terraformer Mars, nous stérilisons notre propre planète. La mine industrielle ne cohabite avec aucun être vivant. Elle participe au dérèglement climatique et est très sensible à celui-ci, à l’image des innombrables ruptures des barrages de résidus, ces montagnes de déchets broyés qui n’ont plus de roches pour résister à l’action du temps. Les données numériques convoquées pour la surveillance ne servent qu’à améliorer encore les rendements, qu’à diminuer encore les coûts d’exploitation, sans rapport aucun avec leur coût environnemental. Les innovations dans la mine ne la rendent pas plus responsable, elles la rendent plus efficace. Elles permettent de creuser plus et plus vite avec moins de main-d’œuvre, comme l’expliquent les dossiers de l’association SystExt. Le modèle minier se “radicalise bien plus qu’il ne se responsabilise”. Et “plus la teneur des gisements baisse, plus la mine est polluante”.
La relocalisation des mines en Europe, au prétexte d’une souveraineté pour la transition, n’assure que d’une bien faible responsabilité réglementaire. Elle ne vise qu’à étendre encore notre voracité puisque nul ne parle de fermer ailleurs les mines qu’on réouvrirait ici. Il ne s’agit que “d’une course à la délocalisation des émissions carbones”. Pourtant, en matière de responsabilité, c’est l’inverse auquel on a assisté, explique-t-elle. La réforme des codes miniers imposés par le FMI et la Banque mondiale aux pays du Sud endettés a levé les législations protectrices à l’égard de la main-d’œuvre et de l’environnement. L’extractivisme s’est renforcé avec la dette. Les plans du FMI et de la Banque mondiale ont imposé la privatisation des mines, le gel des lois sur le travail et l’environnement… Elles ont développé la mine géante, exemptée de taxes, et ont facilité l’accès aux zones minières et les investissements étrangers. Là où les mines se sont étendues, la pauvreté n’a pas été réduite, les revenus de l’extraction n’ont pas profité aux communautés. Au contraire. Elles ont produit de nouvelles “zones de sacrifices” environnementales ! L’impératif minier crée des états d’exception pas des zones de responsabilité.
Le pillage des ressources de l’ère coloniale a continué sous forme d’une reconquête. Cette délocalisation a permis d’éteindre les luttes ouvrières des anciens bastions miniers et de désarmer les contestations des mouvements environnementaux des pays riches. Les problèmes ont été laissés aux sous-traitants, comme le disait avec cynisme Michael Scott, PDG d’Apple. Au XXIe siècle, avec la hausse des coûts des matières, la matérialité de notre monde s’est rappelée à nous. La Chine a diminué ses exportations, la pénurie minière s’est fait sentir. Derrière la fable des métaux pour la transition, la réalité de la mine est qu’elle est bien plus au service de la Défense et du capitalisme numérique que de la transition écologique. La transition semble surtout un paravent qui ne sert qu’à “justifier l’accélération du modèle extractiviste”.
Le régime minier : un régime de sacrifices Izoard nous rappelle que le capitalisme est l’histoire d’une civilisation extractiviste. Nous sommes le produit d’un régime minier, d’une guerre contre la nature qui consiste à construire un monde hors-sol. La croissance industrielle est devenue l’objet même de la politique.
La nouvelle promesse de relocaliser les mines pour assurer notre souveraineté et une meilleure responsabilité tient de la fable, tance Izoard. Les déchets et leur toxicité ne sont pas compressibles. Et à mesure que nous exploitons des gisements avec moins de teneurs en métaux nous produisons encore plus de déchets. Là où elles existent ou s’installent, les mines dévorent leur environnement, assoiffant et empoisonnant les communautés locales. Le modèle minier a toujours fonctionné sur la dépossession et le sacrifice des populations, à l’image des constats éprouvants qu’elle dresse de la mine “responsable” de Bou-Azzer au Maroc. Les labelisations de responsabilisation sont des coquilles vides produites par des ensemble de données “qui n’ont jamais vu la moindre population”. La réalité de la mine reste invisible, opaque. Nous ne connaissons même pas le nombre de mines réellement en exploitation de part le monde. Malgré une automatisation sans précédent, la mine est responsable de 8% des accidents mortels au travail, alors qu’elle n’emploie que 1% de la main-d’œuvre mondiale.
La mine a été l’activité coloniale par excellence. Elle le reste. Elle a été la matrice du capitalisme. Longtemps exploitées par des communautés villageoises sous formes de guildes puissantes, l’augmentation de la demande à la fin du XVe siècle va nécessiter des équipements plus coûteux pour creuser plus profondément… et va conduire les organisations de mineurs à ouvrir la propriété des mines pour obtenir des capitaux. A la fin du XVe siècle, les compagnies de mineures étaient devenues des sociétés par action, bien avant la création de la Compagnie anglaise des Indes orientales en 1600. Dès le XVIe dans ces mines de Saxe, de Bohème et du Tyrol sont introduites les premières machines. Là où le capital se répand, l’intensification de la rentabilité suit… Sauf qu’elles s’épuisent également et deviennent moins rentables. On comprend alors l’appel d’air que constitua la découverte de l’Amérique, qui va devenir une mine à l’échelle du continent, une “économie minière esclavagiste”. “Un siècle après le premier voyage de Colomb, les principaux centres miniers de la planète s’étaient déplacés de l’Europe centrale à l’Amérique, où ils pouvaient se développer hors de toute contrainte sociale grâce aux régimes d’exception esclavagistes de la Conquête.” En retour, cet extractiviste va produire les capitaux pour l’essor industriel européen. Les systèmes extractifs se généralisent. Les régimes d’exceptions miniers que l’on retrouvait sur des fronts pionniers, sont intégrés au fonctionnement normal de la production. La machine à vapeur de Watt sert d’abord à évacuer l’eau des mines puis le minerai, bien avant que de faire avancer un train. La violence sociale du monde colonial va être rapatriée dans le monde minier. “La main-d’œuvre aussi est un minerai que l’on peut broyer”. Le courant industrialiste s’impose, alliance inédite entre l’Etat, la bourgeoisie et la science. La loi donne à l’Etat le droit de disposer du sous-sol. Nous passons d’un régime agraire à un monde minier… Et nos légumes désormais doivent moins à la terre “qu’à la production de pétrole et d’engrais phosphatés.” L’extractivisme est devenu notre matrice de développement, qu’importe s’il produit sur terre des conditions d’hostilité totale à la vie.
Ralentir ou Périr Dans la dernière partie, Izoard ne se dérobe pas. Elle tente d’esquisser des solutions du tableau apocalyptique qu’elle a dressé. Le régime minier, extractiviste, est en train de se renforcer et de se radicaliser plus que de s’éloigner. Il s’étend, notamment à l’eau. Pour la journaliste, “il n’y aura pas de solution minière à la crise climatique”.
Pour la journaliste, il nous faut trouver les moyens d’une désescalade de la consommation de métaux. Nous ne devons pas attendre de passer le pic productif. “Le spectre de la pénurie a plutôt pour effet d’encourager la spéculation et l’exploration minière”. La décroissance de l’extraction ne doit pas attendre la déplétion physique des matières : elle demeure une décision politique, un rapport de force. La perspective d’un meilleur recyclage est également compliquée, notamment du fait de la dispersion des minerais dans les produits. Pour l’instant, elle peut certes être améliorée, mais les progrès sont difficiles du fait de la dégradation des matériaux, des pertes fonctionnelles et surtout de la toxicité du recyclage. Le recyclage reviendrait à construire des mines urbaines tout aussi problématiques que les mines lointaines quant à leurs besoins en eau, en énergie et à leur production de polluants.
Pour Izoard, la décroissance minérale est notre seule perspective. Mais elle n’est pas acquise. “Pour quiconque réfléchit à l’écologie, il est gratifiant de pouvoir proposer des remèdes, de se dire qu’on ne se contente pas d’agir en négatif en dénonçant des phénomènes destructeurs, mais qu’on est capable d’agir de façon positive en énonçant des solutions. Le problème est que dans ce domaine, les choses sont biaisées par le fonctionnement de la société”. Dans les années 70, les mouvements écologistes ont dénoncé la société fossile et nucléaire et ont défendu des techniques alternatives comme l’éolien ou le solaire. Ils combattaient la surconsommation d’énergie, mais ce n’est pas elle que nos sociétés ont retenues. Le capitalisme a adopté “les alternatives techniques en ignorant le problème politique de fond qui remettait en question la croissance industrielle”. Les éoliennes et centrales solaires à petites échelles sont devenues des projets industriels. La sobriété et la décroissance ont été oubliées. “Avant de se demander comment obtenir des métaux de façon moins destructrice, il faut se donner les moyens d’en produire et d’en consommer moins”. C’est bien notre société qu’il faut changer. Et nous n’avons pas vraiment fait de pas dans la direction de la sobriété, comme le remarquait l’historien Jean-Baptiste Fressoz, qui constate également, dans Sans transition qui paraît au même moment, que le discours sur la transition dépolitise la question climatique.
Pour Izoard, la mine responsable est une “chimère bureaucratique”. Les règlementations et les remèdes technologiques ne rendront pas viables, responsables ou éthiques, les mines industrielles. “Les problèmes qu’elles posent ne sont pas des anomalies, mais le fruit d’un système”. Il n’est pas possible d’exploiter des gisements avec si peu de matières sans créer des problèmes insurmontables. En 2017, le Salvador a interdit l’exploitation de mines métalliques afin de préserver l’eau, dans un pays où 90% des sources sont polluées. “La meilleure stratégie pour s’opposer à la mine industrielle semble consister à obtenir des décisions démocratiques”, comme le montrent toutes les luttes du continent américain, où plusieurs pays, suite à référendums ont fait fermer des mines. Il nous faut augmenter le coût financier, moral et politique de l’extraction, plaide Izoard. La mine industrielle a une faiblesse : elle est très coûteuse en infrastructure et une fois construite, son exploitation doit être garantie et ne plus être contestée. Mining Watch Canada et le London Mining Network travaillent eux à rendre visible la prédation en allant aux AG des extracteurs pour y porter la parole des communautés locales qui subissent les effets de l’activité minière.
Nous avons besoin d’un sevrage métallique et énergétique. Nous avons sur-minéralisé notre quotidien, à l’image de notre emblématique smartphone qui concentre plus de 50 métaux en son cœur, disséminés dans plus de 80 composants différents. Les tentatives de Fairphone de pousser le recyclage et augmenter la durée de vie de ses appareils montrent surtout combien ce rêve est impossible. On ne peut pas produire de téléphone hors de l’écosystème industriel. “Dès qu’on prend au sérieux la question des métaux, la croissance effrénée du monde connecté devient un problème central”. Et la journaliste d’inviter à produire des bilans métaux comme nous produisons des bilans carbones, afin de mieux souligner la surconsommation de métaux, trop absente du débat public, où l’on parle bien plus de reconquête industrielle et minière que de sobriété… et en explorant plus avant la distinction à produire entre émissions de luxe et émission de subsistance, comme y invite Andreas Malm dans Comment saboter un pipeline, ou encore en démultipliant les conventions citoyennes pour le climat et la décroissance… “Tant que la décroissance n’arrivera pas à s’imposer comme mot d’ordre, urgent et impératif, le capitalisme industriel continuera d’interpréter les revendications des mouvements sociaux comme des défis techniques”. “On ne peut pas se satisfaire d’améliorer l’efficacité énergétique du stockage de données tant que le trafic internet augmente de manière exponentielle. On ne peut pas continuer de déployer en masse des satellites en se disant qu’une partie d’entre eux permettront de mieux comprendre la déforestation…” Nous devons sortir des cages dorées qui nous rendent aveugles aux finalités. “La technique doit sortir de deux siècles d’envoûtement extractiviste”.
*
Le livre de Célia Izoard est éprouvant, mais il est aussi mobilisateur. C’est aussi un manuel pour armer les luttes contre l’extractivisme à venir. Les mines ne sauveront pas la planète. Notre difficulté consiste à nous opposer à cet extractivisme. Dans les mines modernes, l’automatisation a fait disparaître le rapport de force social qui existait, comme on le trouve dans Germinal. Ce ne sont plus les populations employées qui peuvent s’opposer au minage, mais celles qui sont sacrifiées par les impacts de la mine. Ce déplacement de la lutte sociale à la lutte environnementale, des luttes locales aux luttes lointaines, explique certainement nos difficultés à réduire leur déploiement, car elle nécessite une mobilisation plus large. Nous devrions être concernés par ce qu’il se passe à Bou-Azzer au Maroc, à Butte dans le Montana, à Rio Tinto en Andalousie… Ce n’est pas le cas.
La ruée minière au XXIe siècle regarde le monde tel qu’il est. Et il n’est pas beau.
La guerre de l’information est un livre profondément anxiogène qui peut vous rendre assez paranoïaque. Sa force est pourtant de nous rappeler que la désinformation n’est pas un jeu anodin qui abuserait de la crédulité de certains esprits faibles virant complotistes. La désinformation n’est pas que la conséquence d’algorithmes peu responsables ou d’un marketing peu scrupuleux. L’historien David Colon nous rappelle que la désinformation et la manipulation de l’information sont la continuation de la guerre par d’autres moyens. On l’a vu très récemment quand des étoiles de David ont été taguées sur des murs dans les rues de Paris. Quelques images sur Twitter ont donné lieu à un déferlement de commentaires… même après qu’on ait appris que ces images avaient clairement été postées par des agents russes dans un but de déstabilisation politique qui semble avoir parfaitement fonctionné.
Couverture du livre de David Colon, La guerre de l’information.
Colon rappelle que des entités mal intentionnées s’immiscent dans les algorithmes défaillants, dans le commentariat permanent. La fin de la guerre froide et les promesses d’un accès universel à l’information via le numérique nous ont fait croire que les conflits seraient derrière nous et que l’information deviendrait le bien commun de tous. Il n’en est rien. “L’information qui a toujours été une source de pouvoir est devenue un pouvoir en soi”, explique Colon. Elle s’est militarisée sans qu’on le voit. Elle est devenue un moyen d’ingérence, de déstabilisation, une arme permettant de se substituer à d’autres conflits. “A l’équilibre de la guerre froide a succédé le déséquilibre de la guerre de l’information”. De l’élection de Trump au Brexit, on se rend compte que la désinformation est une arme qui fonctionne. Et elle fonctionne d’autant plus que les changements qu’ont introduit les réseaux sociaux et qu’ont connu les médias de masse rendent ces manœuvres de déstabilisation encore plus faciles, accessibles à des acteurs sans grands moyens. Le livre de Colon, comme il l’explique lui-même raconte l’histoire de “cette guerre à laquelle nous n’étions pas préparés, qui s’est déroulée pour l’essentiel sans que nous en soyons conscients, et qui constitue pour nos démocraties une menace mortelle”.
Colon revient en détail sur nombre de tentatives de désinformation qui ont plus ou moins marché, à l’image des tentatives de déstabilisation de l’élection présidentielle de 2017 aux Gilets jaunes, en passant par la contestation de la présence militaire française en Afrique. Ici, comme ailleurs, à chaque fois, derrière ce qui pourrait sembler tenir de simples luttes politiques, on retrouve des agents de la déstabilisation, des individus, des mouvances qui oeuvrent à l’ingérence pilotée non pas seulement par des opposants politiques, mais manoeuvrés par des puissances étrangères, comme la Russie. Nous avons pris en compte tardivement ces effets et ces menaces et savons encore bien mal y répondre… Et ce d’autant que tout le monde désormais, entreprises comme partis politiques, arme ses bots, ses trolls et hordes de militants ou de soutiens pour partout semer le doute. L’information est devenue un champ de mine, où transmettre vous rend complice et répondre suspect. Certes, nous commençons à prendre la mesure du problème, à l’image de la création depuis juillet 2021 d’une agence dédiée à la vigilance et à la protection contre les ingérences numériques (Viginum) dotée d’outils d’analyse des menaces, mais qui n’a pas pour mission d’informer le grand public ni de contrer les manoeuvres de déstabilisation continues.
Colon revient également longuement sur Cambridge Analytica, c’est-à-dire, comme il le résume très bien, la possibilité de transformer Facebook (et les réseaux sociaux) en armes, via notamment le microciblage qui permet d’adresser des messages spécifiques à des segments de population sur la base des caractéristiques psychologiques déduites de leurs profils. Cela explique qu’on puisse rester très préservés des théories du complot qui pullulent sur les réseaux parce que notre profil n’offre pas de prises pour qu’elles s’y engouffrent, contrairement à d’autres. L’enjeu consiste notamment à cibler certains types de profils, socialement aversifs, psychologiquement fragiles (machiavélique, narcissiques, insensibles, impulsifs, agressifs…) ou des gens avec des centres d’intérêts prédictifs de comportements déviants (le fait d’aimer les armes à feu, la drogue ou les soucoupes volantes… par exemple). Encourager la colère permet de diminuer le besoin d’explications rationnelles et rend les gens plus facilement manipulables. Ces profils sont exploités au service “de la fracturation des sociétés occidentales et de l’affaiblissement de la frontière entre le vrai et le faux”. Les théories du complot explosent alors, se diffusant par capillarité, exploitant les failles du ciblage et de la viralité des réseaux sociaux, à l’image des théories complètement barrées de QAnon certainement encouragées par l’activisme russe. L’exposition aux innombrables complots de Q a tendance à produire une radicalisation extrême en un temps particulièrement court, pour ceux qui s’y engouffrent, jusqu’à avoir réussi à contaminer nombre de Républicains américains. “L’extrêmisme de QAnon n’est pas tant idéologique que psychologique”, soutient très justement David Colon. Les opérations de désinformation les plus réussies sont celles qui s’entretiennent elles-mêmes, disait un dirigeant du KGB de la grande époque. A l’heure du numérique, les théories du complot sont d’abord des psychovirus très efficaces.
La guerre de l’information est à la fois une doctrine mise en place par des officines de conseil en communication privées, comme par des Etats totalitaires, notamment la Russie et la Chine. Mais elle n’est pas forcément bien plus vertueuse que les programmes de renseignements de la NSA américaine, comme nous l’a montré Snowden. A la différence de l’Occident, le régime chinois rend les médias sociaux chinois responsables des contenus “subversifs”, pour que la coercition soit mieux appliquée dans une surveillance distribuée et très encadrée. A l’extérieur, elle utilise les mêmes techniques que la Russie pour répandre désinformation et déstabilisation. Et cette guerre de l’information se prolonge d’une confrontation technologique. David Colon termine son livre sur l’addictif et subversif TikTok… ce nouvel opium que la Chine exporte – sans l’utiliser dans les mêmes conditions chez elle. Une application ou la viralité et la désinformation fonctionnent particulièrement bien et de concert, comme toujours. Quant aux assurances de TikTok à combattre la désinformation, elles ressemblent beaucoup à celles des médias sociaux américains : pour les uns comme pour les autres, la désinformation est leur modèle économique !
La psychologie et la cognition sont désormais des champs de bataille : “le cerveau humain constitue le champ de bataille de la guerre du futur”. Pour Colon, c’est guerre de l’information ressemble à une guerre entre régimes autoritaires et régimes démocratiques. Le numérique fait “disparaître les frontières qui, jusque-là, permettaient de distinguer l’état de guerre de l’état de paix, le vrai du faux, le civil du militaire, le politique de l’économique”. Dans les années 90, les démocraties pensaient venir à bout des régimes autoritaires en recourant à la diffusion libre de l’information via le numérique. La perspective s’est inversée : ce sont les régimes autoritaires qui cherchent à faire s’effondrer les démocraties par l’arme informationnelle, analyse très pertinemment David Colon. “Ils ont retourné les forces et les outils de la démocratie contre la démocratie elle-même”. Et les démocraties sont fragiles, parce que par nature, elles sont ouvertes à la contradiction, rappelle l’historien.
Pour Colon, nous ne répondons pas à la hauteur de l’agression et de la menace, explique-t-il en en appelant à un “état d’urgence informationnel”. Il invite les démocraties à riposter. A créer des structures dédiées pour rapporter, analyser et rendre public les ingérences à l’œuvre. A améliorer la coopération entre démocraties. A mieux informer dès que des attaques sont repérées, à l’image des contre-campagnes imaginées par Audrey Tang à Taïwan. Colon souhaite également qu’on envisage l’interdiction et la non-prolifération des armes informationnelles. L’Europe s’est dotée d’une commission spéciale sur l’ingérence étrangère et Colon milite pour la création d’un registre des actions d’influences comparable au registre des actions étrangères américain qui permet de connaître le montant des dépenses étrangères aux Etats-Unis, notamment en relations publiques et achats publicitaires… afin de mieux encadrer le lobbying. Il invite à créer un “Observatoire de défense informationnel”, doté d’un tableau de bord sur le modèle d’Hamilton 2.0, le projet de l’Alliance for Securing Democracy. Colon invite également à mieux responsabiliser les acteurs du numérique par exemple en renforçant leurs responsabilités d’éditeurs, à les obliger à communiquer sur les opérations d’influences qu’elles détectent, à indiquer et à tenir registre des publicités qu’elles diffusent, à sanctionner pénalement ceux qui diffusent de la désinformation et à introduire la notion d’ingérence informationnelle. Mais surtout, il invite à brider la viralité notamment parce qu’elle émane d’abord et avant tout, très souvent de très peu de comptes sur les réseaux sociaux. Les démocraties doivent aussi sortir du piège de la réglementation des contenus qui risque de les mettre au même niveau que les régimes autoritaires, explique l’historien. Comme le défend Ethan Zuckerman, Colon estime que les médias de services publics sont les meilleurs remparts contre les ingérences et que nous devrions adopter des mesures pour limiter la concentration des médias privés. Il défend d’ailleurs la création de médias sociaux de services publics pour échapper aux logiques publicitaires qui les rendent si fragiles. Il rappelle que si le mensonge est omniprésent, l’information de qualité, elle, a tendance à se refermer derrière un mur payant : une logique dont il va falloir trouver les moyens de sortir !
Le problème de cette guerre informationnelle, c’est qu’on ne sait pas par quel bout la prendre. David Colon tente certes de dessiner quelques pistes de solutions. Toutes ne sont pas convaincantes. Les démocraties notamment, ont tendance à user des mêmes armes informationnelles que les dictatures. La communication des uns semble puiser dans les mêmes techniques que les déstabilisations des autres – c’est peut-être d’ailleurs la seule faiblesse du livre, qui charge l’ingérence étrangère sans montrer que ces techniques font aussi leurs armes dans la communication politique. En pointant le danger de l’ingérence étrangère, Colon semble minimiser l’intrication politique et idéologique des thèmes que ces ingérences activent.
Les bots de l’ingérence trouvent et activent des terreaux fertiles. Le problème reste tout de même le ciblage publicitaire qui permet par exemple de trouver des individus soucieux de l’inflation pour leur adresser des messages qui expliquent que celle-ci est liée à la guerre en Ukraine et que donc le soutien à cette guerre la renforce. L’autre souci restant l’emballement, la capacité d’accélérer la viralité des réseaux sociaux comme de la société du commentariat.
Dans un court et très savoureux essai, Elsa Boyer revisite l’histoire de l’informatique en déconstruisant sa figure tutélaire, Alan Turing, sous l’angle des apports des théories de genre. Et c’est stimulant, parce qu’elle produit ce déplacement de sens pour interroger la logique et les représentations qui plombent l’informatique. Pour Boyer, la tech est traversée par des questions de sexualité, de genre et de contrôle des corps et des individus. Nos technologies sont « genrées et politiques ». Dès l’origine, dès les travaux autour des premiers ordinateurs, la division genrée du travail s’impose pour déqualifier le travail des femmes, à l’image des travailleuses de Bletchley Park, à qui l’on confie les tâches monotones, répétitives, mais indispensables au fonctionnement des machines. Pour Boyer, l’ordinateur « s’est constitué comme une machine genrée, et une machine à genrer le travail ». Derrière les machines appelées à voler notre travail, derrière ces esclaves que le progrès met à notre disposition, il faut lire notre perte de maîtrise, le fait que nous ne soyons plus capables de voir et d’avoir accès à l’ensemble du travail à réaliser, comme à l’heure de l’IA nulle ne peut saisir ce qu’enferme la boite noire du calcul. Derrière notre remplacement par les machines, il nous faut lire notre féminisation, c’est-à-dire, comme disait Donna Haraway dans le manifeste Cyborg, le fait de nous rendre extrêmement vulnérables. Nous devenons bien plus l’assistant des machines qu’elles ne nous assistent.
Dans le grand récit viriliste de l’innovation, Turing jette une part d’ombre. Son homosexualité, sa dégradation, le traitement hormonal auquel il est condamné, nous rappellent la force du contrôle que les machines vont perpétuer, alors que pour Turing, semble-t-il, elles étaient imaginées pour nous en libérer, à l’image du jeu de l’imitation qu’il propose dans son article, « les ordinateurs et l’intelligence », où un homme doit tromper un examinateur en se faisant passer pour une femme, tout comme la machine doit tromper l’homme en se faisant passer pour un être humain.
Boyer nous rappelle également que ce jeu a pour but de produire de « l’indécidabilité » : le but des machines est de nous confondre, de nous faire hésiter. Une machine infaillible ne peut pas être intelligente, écrivait Turing.
Chez Elsa Boyer, Turing est cette figure ambivalente qui tente de sortir de la norme, qui la subit et qu’il participe à produire. Il est aussi le père d’une nouvelle blessure narcissique de l’humanité, après celles infligées par Copernic, Darwin et Freud, celle de la capture voire du dépassement de notre intelligence par sa simulation. Celle d’une confrontation à d’autres intelligences, à d’autres altérités… comme nous y invitait James Bridle. Nous en sommes assez loin avec l’IA d’aujourd’hui. A croire que les promesses de la technologie n’ont été que des rêves, qui ont surtout réalisé l’inverse de ce pour quoi on souhaitait les programmer.
Hubert Guillaud
A propos du livre d’Elsa Boyer, Turing, éditions les pérégrines, 2023, 128 pages, 15 euros.
