Comment accroître la confiance dans le secteur public à l’ère numérique

Article invité coécrit par Pia Andrews et Alistair Croll.

La confiance dans le secteur public n’a jamais été aussi faible et est en déclin, ce qui a d’énormes répercussions sur la cohésion et la stabilité sociales. Pour la restaurer, nous devons commencer par une fondation digne de confiance. Il s’ensuit que pour raviver la confiance dans le secteur public, il faut impliquer le public dans la définition de ce à quoi ressembleraient aujourd’hui des structures, des processus, une surveillance et un encadrement public dignes de confiance ?

Si nous ne créons pas un secteur digne de confiance, la confiance du public continuera à s’éroder. Nous deviendrons incapables d’élaborer des politiques, de mettre en œuvre des lois, d’administrer des politiques publiques et, en fin de compte, de faire fonctionner des démocraties. Après tout, comment pouvons-nous assurer le bien public si nous n’avons pas la confiance du public ?

La vérité et la confiance sont les piliers de la relation entre les citoyens et leurs gouvernements. La technologie moderne permet à quelques intervenants malveillants (ou à un État-nation ennemi) de compromettre facilement ces bases par le biais d’hypertrucage, de désinformation et d’une myriade d’autres tactiques qui nous détournent de ce qui est important pour la société et nous opposent à nos propres intérêts. Par le passé, nous comptions sur les médias indépendants et les systèmes de diffusion pour identifier et atténuer ces risques, mais l’Internet contourne les contraintes que les médias traditionnels imposaient aux récits alternatifs. En outre, l’amplification des opinions extrémistes aux moyens d’algorithmes et de chambres d’écho auto-renforcées a de graves répercussions sur les politiques publiques, la cohésion sociale et les élections.

Les deux questions que toute démocratie doit aborder aujourd’hui sont les suivantes : 1) quel rôle le secteur public ou le système judiciaire doivent-ils jouer pour aider les citoyens à naviguer dans ces eaux dangereuses et inexplorées ? Et 2) comment le secteur public peut-il fonctionner aujourd’hui d’une manière qui soit digne de la confiance du public ?

Le rétablissement de la confiance du public est confronté à trois grands défis : le paradigme de l’ère industrielle, le jeu de l’opinion publique et l’opacité de l’automatisation.

Le paradigme de l’ère industrielle

En dépit de l’abondance du discours sur la transformation numérique, les institutions publiques conservent des mentalités centralisées axées sur le besoin de savoir et dans lesquelles les citoyens sont traités comme des étrangers (ou, au mieux, comme des « clients »). Cela donne lieu à une gouvernance autoréférentielle et à une tendance à rechercher une licence sociale pour opérer en toute impunité plutôt que d’impliquer les citoyens dans le processus.

Le secteur public demande la permission de ses habitants. Un service obtient d’abord l’aval du public sous la forme d’une « licence sociale », puis agit indépendamment de la société civile qu’il sert. Il en résulte une privation des droits des citoyens : les gens se sentent, et sont, exclus des politiques, des décisions et des services qui les concernent.

Le secteur public ne doit pas se contenter de fournir de meilleurs services. Il doit créer des services et des politiques qui ont été conçus et mis en œuvre de manière fiable. Cela commence par des processus de conception plus ouverts, plus engagés, plus inclusifs, plus équitables, où le public agit aux côtés du gouvernement, au lieu d’abdiquer ses besoins au secteur public. Ce n’est qu’en travaillant avec le public, plutôt que pour lui, que nous pourrons restaurer la confiance dans les institutions publiques.

Le jeu de l’opinion publique

L’escalade de la désinformation algorithmique et la montée des « vérités parallèles » ont perverti bon nombre des systèmes d’élaboration des politiques, de couverture médiatique et d’engagement du public qui permettaient autrefois aux gouvernements d’établir un consensus au sein de la population.

Dans le monde numérique, le faux est indiscernable de la vérité. Lorsque nous ne pouvons pas vérifier un fait de manière indépendante, nous nous fions à la confiance que nous accordons à la personne ou à l’organisation qui diffuse cette information. En effet, nous croyons la source plutôt que le message. Revisiter des messages passés dans de nouveaux contextes, créer de faux récits et utiliser des algorithmes pour générer des informations entièrement fausses sont des moyens faciles de créer des vérités alternatives. Ces méthodes ont accéléré la méfiance envers les institutions traditionnelles telles que les médias d’information, la science, le monde universitaire et le secteur public.

La situation ne cessera d’empirer. La technique d’hypertrucage peut automatiser la création de vidéos crédibles de n’importe qui disant n’importe quoi, même si c’est offensant, scandaleux ou pire, subtilement trompeur. Cette tendance laisse présager une ère sombre dans laquelle les saboteurs, les criminels, les trolls d’Internet et les robots logiciels agissent pour manipuler massivement des individus, des communautés et des gouvernements entiers à des fins lucratives, criminelles ou simplement pour obtenir plus de votes.

En 2019, la New Zealand Law Society a commandité un excellent rapport sur l’hypertrucage en proposant une série de recommandations réglementaires qui méritent d’être prises en compte au niveau national. Toutefois, il indique aussi clairement que la menace dominante proviendra toujours de « l’étranger », de sorte que de telles lois pourraient ne pas offrir une grande protection. Des institutions robustes, la responsabilisation des citoyens et des outils sont nécessaires.

L’opacité de l’automatisation

L’adoption généralisée de la technologie pour remplacer les processus en version papier, à laquelle s’ajoute la prise de décision par la boîte noire de l’IA, nous a donné des processus impénétrables, des systèmes difficiles à auditer et une incapacité à relier les résultats aux lois. Il est donc difficile pour tous les citoyens (en particulier les plus marginalisés) de faire appel, ou même de comprendre, les décisions des ministères dont la mission est de les servir.

L’avantage du numérique est que c’est bon marché et rapide. Contrairement aux produits physiques (comme une voiture) ou aux interactions en personne (comme un appel de service), le coût marginal d’un autre utilisateur numérique est extrêmement faible. C’est un atout pour les gouvernements à court d’argent qui cherchent à maîtriser des budgets en constante évolution.

Il y a cependant un risque. À mesure que nous numérisons les choses, nous les automatisons. Et à mesure qu’elles deviennent plus complexes, nous les soumettons à l’apprentissage automatique et à l’IA, en nous appuyant sur des algorithmes pour trier, classer, répondre et approuver les résultats. En procédant ainsi, nous rendons ces processus opaques.

Le gouvernement doit avoir une meilleure vision de ce à quoi ressemble un « secteur public augmenté ». Il doit, avant toute chose, intégrer dès le départ la confiance et une véritable responsabilisation. Les machines sont idéales pour rendre les services plus réactifs, proactifs et omniprésents, mais elles doivent compléter une main-d’œuvre autonome et humaine. Bien menée, l’IA peut en fait contribuer à humaniser les services publics.

Or, dans l’état actuel des choses, l’adoption accrue des algorithmes et de l’automatisation produit souvent l’effet inverse : mécaniser les services et marginaliser les citoyens. En l’absence de cadres de service rigoureux, éthiques et mesurés en fonction des résultats humains, comme le NZ Wellness Framework, nous risquons de passer à côté d’une occasion exceptionnelle de moderniser le service public de manière à ce que les humains et les machines travaillent ensemble mieux que l’un ou l’autre ne peut le faire seul.

Que peuvent faire les fonctionnaires ?

Le secteur public doit être plus accessible, plus transparent, plus réactif et plus engagé envers les personnes et les communautés qu’il sert. La tâche ne sera pas simple : susciter la confiance est difficile et complexe en raison des expériences collectives et de la nature personnelle des relations sur lesquelles repose la confiance. Néanmoins, nous devons le faire si nous tenons à vivre dans une société civilisée, ouverte et libre.

Commencez par ces quatre questions

Une façon de rendre les initiatives intrinsèquement créatrices de confiance consiste à demander au concepteur de services de poser quatre questions relatives à toutes les politiques et à tous les services qu’il conçoit afin de s’assurer qu’ils sont naturellement dignes de confiance :

  • Comment vérifier le processus et les décisions qui en découlent, en temps réel et avec une supervision indépendante ?
  • Comment un utilisateur final peut-il faire appel d’une décision ?
  • Comment savoir si cette action/ce processus a un impact positif ou négatif ?
  • De quoi le public et le participant ont-ils besoin pour que vous soyez considéré comme digne de confiance ?

Chaque système gouvernemental exige une réponse concrète à toutes ces questions. Cartographier le « parcours de l’utilisateur » pour les trois premières nous oblige inévitablement à approfondir plusieurs facettes de la conception des services :

  • Saisie des décisions : Avons-nous enregistré les événements qui ont conduit à la décision, les données sur lesquelles la décision était fondée et la décision elle-même ?
  • Traçabilité de l’autorité : Peut-on relier le processus et son résultat à une législation, une délégation ou une politique ?
  • Accessibilité de la décision : Comment communiquer la décision à l’utilisateur final ?
  • Délais immédiats et à long terme : Pouvons-nous étudier la décision en temps réel, au niveau individuel, lors du dépannage ? Pouvons-nous également agréger les résultats dans le délai législatif afin de contribuer à l’amélioration des politiques ?

Se concentrer sur l’expérience de l’utilisateur avec la vérification et des décisions attrayantes vous oblige à créer des systèmes intrinsèquement dignes de confiance. Ces questions vous permettront d’y parvenir, mais il demeure que ce sont des hypothèses sur la fiabilité. Le test ultime consiste à demander aux gens ce qui rendrait une relation avec une agence particulière digne de confiance (ce qui variera en fonction du mandat de l’agence) plutôt que de leur demander simplement de vous faire confiance pour le faire.

Ne compromettez pas l’explicabilité

Ce n’est pas pour rien que Byzantin est à la fois un terme de complexité et le nom d’un empire : le gouvernement est complexe. C’est le travail difficile de transformer l’information en comportement collectif. Avec la technologie, cette complexité augmente de façon spectaculaire.

Alors que le secteur public adopte des outils tels que l’IA pour obtenir de meilleurs résultats pour les contribuables, nous devons comprendre comment ces technologies interagissent avec les institutions étatiques. Nous ne voulons pas seulement un gouvernement piloté par les données, nous voulons une démocratie informée et engagée. Pour cela, il faut que nos processus, aussi complexes soient-ils, soient explicables.

Certaines personnes estiment que l’explicabilité est trop difficile. Elles craignent que l’ouverture de la boîte noire de la prise de décision automatisée ne porte atteinte à la propriété intellectuelle de son créateur, n’affaiblisse la position concurrentielle de son propriétaire, n’expose les données privées des utilisateurs ou ne révèle les informations personnelles identifiables contenues dans les données expérimentales.

Certes, il est difficile d’assurer la confidentialité des données. À moins que les systèmes algorithmiques ne soient responsables vis-à-vis de ceux qu’ils ont été créés pour servir, ils ne seront pas fiables. Or, chaque service des institutions publiques doit être source de confiance. Les utilisateurs doivent voir clairement le fondement des conseils et des actions du service public. Il est essentiel d’expliquer une décision si l’on veut contrôler, faire appel et maintenir l’intégrité de nos institutions publiques. C’est également primordial pour garantir que les actions et les décisions sont légales, autorisées et correctement exécutées.

Toute technologie du secteur public (en particulier lorsqu’elle a un impact sur les citoyens dans des domaines tels que la prestation de services, la fiscalité, la justice, la réglementation ou les sanctions) doit pouvoir être expliquée de telle sorte qu’elle suscite la confiance au lieu de la compromettre. Pour être le conseiller de confiance d’une démocratie informée, le secteur public a toujours été tenu d’expliquer ses décisions. La technologie n’est pas une raison pour y mettre fin.

Des points à vérifier pour un gouvernement numérique digne de confiance

Il y a beaucoup de choses que les concepteurs de services peuvent faire pour élaborer des services qui suscitent la confiance. Voici une liste de points à vérifier :

La traçabilité et la responsabilité

  • Assurez, convenez et documentez les principes et les pratiques du droit administratif dans l’ensemble du gouvernement pour guider et conduire l’utilisation éthique et transparente des pratiques numériques, de données et d’IA telles qu’elles ont évolué au cours des dernières décennies.
  • Établissez une approche de meilleures règles pour toute nouvelle législation et réglementation, avec des mises en œuvre de référence publiquement disponibles de toute législation et réglementation en tant que code.
  • Créez un registre public de toutes les décisions, en indiquant quelles règles ont été invoquées et avec quelle autorité, afin de faciliter l’audit, le rappel des dossiers et la visibilité par les citoyens. 
  • Mettez en place un système automatisé de surveillance et d’escalade des services réactifs afin de garantir le respect du droit administratif en interne et en externe.
  • Améliorez en permanence. Développez des boucles de rétroaction dynamiques et continuelles, de l’exécution à l’amélioration de la politique/législation, afin d’assurer une amélioration continue.

Des résultats humains mesurables

  • Ne demandez pas la confiance : développez ensemble des systèmes dignes de confiance. Engagez-vous auprès de diverses communautés pour créer des cadres de mesure et pour co-concevoir des politiques et des services, ainsi que pour garantir l’alignement des programmes et des prestations sur les valeurs et le bien publics.
  • Créez des systèmes humains dès le départ. Créez et mettez en œuvre des normes de service gouvernementales qui intègrent et normalisent les résultats humains.
  • Mesurez les résultats qui comptent. Contrôlez de manière proactive les effets sur la qualité de la vie à l’échelle du processus et du secteur d’activité/du service, et reliez toutes les activités à l’objectif, aux résultats humains et à l’intention politique dans un cadre accessible au public. Mettez en œuvre quelque chose comme le NSW Human Service Outcomes Framework dans l’ensemble du gouvernement, y compris dans les mesures de prestation de services, les budgets, les analyses de rentabilité, les cadres de hiérarchisation des priorités, l’assurance politique.

Soyez avisé lors de la mise en œuvre de l’IA et de l’automatisation

  • Préparez-vous à ce que les machines communiquent avec les machines. Partez toujours du principe que les machines seront des « utilisateurs de vos services » et anticipez les bons et les mauvais exemples.
  • Mesurez les répercussions des algorithmes. Complétez l’évaluation de l’incidence algorithmique grâce à une mesure de la portée humaine basée sur la qualité de vie et surveillez les changements qui indiquent une amélioration ou une détérioration des indicateurs de vie afin d’identifier les dommages. Exigez que les mesures de la qualité de vie fassent partie des offres budgétaires et des rapports de projet. Planifiez activement l’utilisation des « bonnes » machines et atténuez celle des « mauvaises ».
  • Supposez que les humains ne peuvent pas le faire à la main : la technologie fonctionne à grande échelle. Cela signifie également que lorsqu’elle est défaillante, elle l’est à grande échelle, et que les humains ne peuvent pas intervenir facilement. Prévoyez un suivi en temps réel pour détecter les tendances dans les services publics et les interventions politiques.
  • Soyez agile. Utilisez des techniques agiles, axées sur les expérimentations et évolutives pour créer un éventail de services politiques répondant aux besoins changeants des gens.

Des équipes et des structures organisationnelles sûres et éthiquement motivées

  • La réflexion doit être considérée comme un travail. Faites en sorte que la réflexion sur les problèmes difficiles soit obligatoire, au lieu de vous contenter de l’approche la plus expéditive. Des tactiques simples comme l’intégration d’un facteur de temps d’innovation de 10% dans les opérations habituelles sont un bon début.
  • Enseignez la pensée critique. Créez une conscience situationnelle des tendances émergentes et réagissez de manière stratégique et opportune dans l’intérêt des gens. Enseignez la prospective et l’esprit critique.
  • Choisissez la bonne gouvernance. Développez une gouvernance proactive et collaborative pour mettre en œuvre tiriti o waitangi et responsabiliser les propriétaires de services.
  • Développez des mentalités « par défaut ». Choisissez vos exigences fondamentales (accessibilité, fiabilité, ouverture, etc.) et créez des incitations systémiques qui poussent les équipes à atteindre ces résultats par défaut.
  • Encouragez la franchise. Aidez les équipes à créer des cultures qui valorisent l’évaluation par les pairs, la transparence et la détermination.
  • Liez les indicateurs clés de performance des dirigeants aux résultats humains. Incluez des mesures humaines dans les paramètres de performance des dirigeants, les mandats et les rapports des agences afin de favoriser la prise de bonnes décisions.

 Notre travail consiste à inspirer la confiance

À une époque où la méfiance envers les institutions publiques est sans précédent, il ne suffit pas qu’un service soit plus rapide ou plus rentable. La seule façon de restaurer la confiance est de créer des systèmes qui génèrent eux-mêmes la confiance. Pour cela, il faut d’abord impliquer les citoyens dans la conception des services, exiger des explications et obtenir des résultats humains pertinents.

Après tout, le principal travail du gouvernement est de générer la confiance. Sans cela, rien d’autre ne compte.