Responsabilité et recours : Les défis de la construction de systèmes équitables

Publié le 12 sept. 2024

Au siècle dernier, une ère d'automatisation et de mécanisation a permis à l'humanité de croître jusqu'à atteindre huit milliards d'individus, marcher sur la Lune, et doubler l'espérance de vie. En 1990, la plateforme sur la pauvreté et l'inégalité de la Banque mondiale estimait que 38 % de la population mondiale vivait sous le seuil de pauvreté ; en 2024, ce chiffre est tombé à moins de 9 %. Depuis que les États-Unis ont commencé à recueillir des statistiques sur la productivité en 1947, leur pays est devenu environ 1 % plus productif chaque année. Nous avons créé des banques, des systèmes de santé publique et d'éducation, chacun adapté aux spécificités de chaque nation. Nous les avons régulés. Malgré tous les maux dans le monde, la situation s’améliore considérablement pour beaucoup de gens.

Screenshot 2024 09 11 at 1.17.17 pm

(La productivité aux US depuis 1947)

Au cours des vingt-cinq dernières années, les changements sont devenus bien plus radicaux. Aujourd'hui, 5,45 milliards d'humains utilisent Internet, et lorsqu'ils le font, 96 % d'entre eux utilisent un appareil mobile. Beaucoup d'entre eux ne s'en rendent même plus compte, alors qu’ils vérifient la météo grâce aux satellites, envoient des vidéos haute définition à des amis à l'autre bout du monde instantanément, apprennent sur tout sujet imaginable, obtiennent des itinéraires personnalisés tenant compte du trafic en temps réel via une carte gratuite qu’on leur lit, et bien plus encore. Gratuitement. Nous échangeons même avec un prodige numérique capable de coder, conseiller et créer mieux que presque tous les humains, dans toutes les langues, mais qui peine encore à dessiner des doigts correctement.

Dall·e 2024 09 11 13.31.18   a Highly Futuristic City With Shiny Glass and Metal Buildings, now Incorporating Vibrant Colors Like Turquoise, Red, and Navy Tones as Highlights Thro

(Image générée par l'IA)

L'une des grandes idées qui nous a conduits à cet état de fait est la production de masse. La chaîne de montage de Henry Ford a mis fin à la fabrication sur mesure d'automobiles et a permis à chacun d’avoir une voiture dans son garage. Chaque industrie ayant adopté les pièces standardisées et la production en grande série, la fabrication est devenue moins coûteuse et plus rapide. Le complexe de Ford à River Rouge, qui a mis plus de dix ans à être construit et qui a ouvert en 1928, mesure 2,4 km sur 1,6 km et comprend 93 bâtiments.

Cela peut paraître impressionnant, mais les chaînes de montage d'aujourd'hui couvrent le monde entier. Prenons l'exemple de l'iPhone, sans doute le summum de la technologie de consommation à l'heure actuelle.

  • Il contient des puces, des logiciels et des écrans, produits grâce au travail de millions de personnes : mineurs, développeurs, testeurs, ouvriers d'usine, chefs de produit.
  • Il arrive dans votre poche grâce à des millions d'autres travailleurs, comme les chauffeurs routiers et les employés de vente au détail.
  • Et bien sûr, des millions de personnes supplémentaires extraient le carburant pour faire rouler ces camions ou préparent la nourriture pour les travailleurs du commerce.
  • Sans oublier les gouvernements et leurs fonctionnaires, chargés de maintenir cet ensemble en mouvement de manière aussi équitable que possible tout en évitant les catastrophes.

Les chaînes de montage modernes sont vastes, incompréhensibles et dynamiques. Elles sont des propriétés émergentes de systèmes d'une complexité inimaginable. Nous ne les contrôlons pas réellement : nous travaillons pour elles autant qu'elles nous servent.

Mais alors qu’une Ford Modèle T pouvait sembler un produit simple, ces systèmes vont bien au-delà de la production physique. On ne se contente pas de prendre l’avion : on réserve un billet en ligne, on paie avec une carte de crédit, on réserve un taxi pour l’aéroport, on obtient un remboursement en cas d'annulation de vol, et ainsi de suite. C’est l’automatisation de ces services, tout autant que celle des usines, qui a rendu notre monde possible. De la même manière que la chaîne de montage de Ford a mis fin à la fabrication automobile sur mesure et mis une voiture dans chaque garage, ce système a apporté des améliorations significatives à la santé, à la richesse, à la mobilité et à la justice dans la vie de nombreuses personnes.

Bien qu'il soit facile d’utiliser le terme « chaîne de montage » car la plupart des gens comprennent ce concept, il est plus difficile de nommer ce deuxième système. « Chaîne de distribution » pourrait convenir, mais cela va bien au-delà de la distribution—il s’agit de tous les processus, et plus d’un réseau de processus qu’une chaîne linéaire. Appelons-le alors « réseau de processus ».

Car

(Une image d'un modèle T Ford générée par l'IA)

Si vous avez lu jusqu'ici, vous pourriez penser que je suis un fervent adepte de la mondialisation, de la mécanisation et de l’automatisation. Cher lecteur, poursuivez votre lecture.

La production de masse de l'automobile a eu ses inconvénients. Au lieu des designs variés, colorés, et souvent ingénieux des premières années de l’industrie automobile, nous avons maintenant des camions, berlines et SUV qui se ressemblent tous. Ils sont probablement plus sûrs. Mais ils ne favorisent pas l’innovation.

Ceci est valable pour chaque industrie touchée par l'automatisation. Les petits fournisseurs d'accès Internet et hébergeurs ont été remplacés par les grandes entreprises technologiques. Les artistes gagnent une fraction de ce qu'ils gagnaient autrefois à cause du streaming. La sélection a chuté, mais tout le monde y a eu accès. L'épicerie de quartier a fermé quand Wal-Mart est arrivé en ville. Les courses étaient moins chères, mais tout le monde devait y travailler.

C'est là une critique pertinente du globalisme : les courses étaient moins chères, mais tout le monde devait y travailler.

Le réseau de processus présente un ensemble de problèmes similaires.

L'achat d'un billet d'avion nécessite que des dizaines d'organisations, se faisant mutuellement confiance, s'accordent à modifier le solde d'une carte de crédit en échange du transport d'une personne d’un lieu à un autre. Cela nécessite des faits objectifs, de la confiance, des interfaces, des règles, des responsabilités, et plus encore. Et tout cela doit se faire, autant que possible, sans intervention humaine. Car, après tout, le but est l’automatisation.

Cela pose deux problèmes majeurs :

  1. Les processus ne peuvent pas être conçus pour répondre à toutes les éventualités. De même que la chaîne de montage ne fonctionne que lorsque les produits physiques sont standardisés, le réseau de processus ne fonctionne que lorsque les besoins de presque tout le monde sont satisfaits par un ensemble relativement restreint d'options. « La couleur que le client veut, tant qu'elle est noire. »
  2. Les processus doivent survivre à leurs créateurs. Si un processus ne peut pas fonctionner sans son créateur, il n’est pas résilient. Les processus importants, comme ceux des systèmes bancaires ou de santé, ne peuvent pas avoir de point de défaillance unique, et ne doivent donc pas dépendre d’une seule personne. Cela signifie que chaque individu est remplaçable—et les gens démissionnent, prennent leur retraite, ou décèdent constamment.

Le réseau de processus marginalise donc certains individus pour le bien de la majorité, sans que personne ne soit vraiment aux commandes. Ce qui signifie :

  1. Les processus sont complexes si vous êtes pauvre. Si vous êtes suffisamment riche, vous payez quelqu’un pour faire des déclarations fiscales qui vous paraissent incompréhensibles. Pendant ce temps, un parent isolé doit remplir une dizaine de formulaires inutiles pour obtenir des tickets alimentaires.
  2. Lorsqu’un acteur malveillant découvre une faille, il faut trop de temps au système pour la corriger. Vous n’arrivez pas à empêcher cet escroc d’appeler, et vous attendez trois heures au téléphone pour annuler un abonnement qui devrait être annulé en un clic.
  3. Quand un acteur bienveillant passe entre les mailles du filet, les choses tournent mal. Ce sont souvent les plus marginalisés qui sont mal servis par le système. Même lorsqu’il existe des moyens de résoudre un problème, ceux qui n'ont pas accès aux technologies modernes se retrouvent souvent exclus.

Le livre extraordinaire de Dan Davies, The Unaccountability Machine, est une analyse approfondie de la manière dont nous en sommes arrivés là, et pourquoi les « puits d’irresponsabilité » sont à l’origine de tant de frustrations et de colère face à la bureaucratie, aux excès réglementaires, et à l'ensemble du réseau de processus qui nous a permis de progresser.

Un être humain doit, en tant que droit fondamental, avoir un recours. La responsabilité pour nos actions est à la base de tout notre système judiciaire, et pourtant nous avons construit des processus non responsables.

C’est un problème complexe, car tout système de recours devient inévitablement un autre processus dans le système. Imaginez un site automatisé de prêts bancaires. Si une demande de prêt est refusée, l’utilisateur doit avoir un recours. Cliquer sur un bouton permettrait de parler à un humain qui pourrait expliquer la décision. Mais ajouter un bouton signifierait que ceux qui sont légitimement mécontents comme ceux qui sont légitimement disqualifiés appelleraient, saturant les lignes.

Comment concevoir des systèmes de recours qui ne soient pas engorgés par les processus, devenant eux-mêmes truffés de failles et d'irresponsabilité ? L’incroyable réseau de processus menace de nous étouffer sous ses plis byzantins. Si nous voulons poursuivre le progrès humain vers le haut et l’avant, il nous faut le rendre responsable.

Notification lors de la collecte Vos choix en matière de confidentialité