Mériter le consentement

Description traduite par IA.

À mesure que nous automatisons les services numériques, nous risquons de perdre la légitimité sur laquelle repose le gouvernement. Lorsqu'un système gouvernemental (ou une IA) ne peut expliquer ses contraintes, disant en substance : « Je ne peux pas faire cela, et il m'est interdit de vous dire pourquoi », il est intrinsèquement autocratique. Il exige la conformité sans obtenir le consentement.

Les gouvernements passent énormément de temps à débattre de la constitutionnalité de nos actions ou de la justesse de nos politiques et de notre gouvernance. Pourtant, la légitimité se gagne ou se perd au moment de la prestation de services. Si un gouvernement ne peut justifier les frictions de ses systèmes auprès des personnes qui les subissent, nous n'avons pas un problème de technologie. Nous faisons face à une crise de légitimité qui ébranle la nature même de l'État.