Depuis plusieurs années, des villes chinoises se sont dotées d'un crédit social ou score social. Il s'agit d'un système de notation des citoyens en fonction de leur comportement au quotidien. Armées de reconnaissance faciale dans les rues, d'informations provenant des banques, assurances et autres institutions, les administrations accordent un score à chaque personne. Le respect du code de la route, la compatibilité avec la politique, la générosité, la délicatesse sont autant d'attitudes donnant des bons ou des mauvais scores.
Un bon score confère une visibilité publique de la personne qui devient une sorte de « héros civique des temps modernes » félicité pour la gestion de ses comptes, son attention aux autres, sa maîtrise de lui-même… Ce héros peut voyager avec des tarifs préférentiels, bénéficie de fonctionnaires dédiés et spécialisés… Un mauvais score implique une interdiction de se déplacer, d'investir, de créer une société, de rentrer dans un cinéma. Les visages des mauvais payeurs sont eux aussi affichés aux yeux de tous.
Pourquoi parler de cette situation si lointaine, en Chine ? On assiste en France à l'émergence d'une pratique similaire. Et de façon étonnante, son développement est plus inquiétant encore dans notre pays qu'en Chine. En effet ce système n'est pas cadré, il n'est pas organisé par l'administration mais développé par les citoyens eux-mêmes, par les entreprises d'internet et par un vaste no man's land juridique pour la plus grande partie.
La naissance d'un crédit social en France
Le coiffeur, le médecin, le chauffeur de taxi, le restaurant, combien de fois avons-nous regardé les notes données sur Internet et combien de personnes ont contribué à donner ces notes ? Un nouveau livre ? La plateforme d'achat fera la promotion de la note du livre, la note de l'auteur, la note de l'expéditeur, et la note du livreur. C'est un véritable crédit social qui se développe par Internet dans notre quotidien. Et au-delà d'Internet, les banques notent la gestion des comptes (en vue d'accorder des prêts immobiliers, prêts à la consommation ou annulation d'agios). Les assurances notent la conduite et font varier le prix de l'assurance, certaines entreprises commerciales surveillent nos habitudes et les notent (par le big data et l'intelligence artificielle).
D'autres aspects et d'autres moyens sont utilisés pour favoriser cette notation : le développement de la reconnaissance faciale dans les rues, à Nice par exemple, permet d'élargir la surveillance aux déplacements et comportements dans les lieux publics. La prise en compte de l'historique des navigateurs contribue à stimuler l'innovation financière et le ciblage (même si les données analysées ne sont pas financières). En 2015, Emmanuel Macron encore ministre, proposait l'instauration officielle d'un crédit sur la base du scoring pour les professionnels : une entreprise qui gère ses fonds correctement pourrait se voir attribuer des prêts que d'autres plus précaires se verraient refuser. Cette proposition n'avait pas choqué.
Les raisons de ce développement
Et pour cause, tout un chacun voit l'intérêt d'évaluer l'individu avant de lui accorder un prêt, de lui louer une voiture ou d'aller déjeuner dans son restaurant : c'est un gage de fiabilité, de sécurité, de qualité. On voit même une pente vertueuse dans certains cas : les chauffeurs Uber retrouvent le sens du service dans la mesure où leur note en dépend. Le client redevient roi. Mais un plus grand risque éthique découle de ce développement : celui de la réduction du comportement d'un individu à un chiffre.
Ce restaurateur a obtenu une mauvaise note car son repas était mal servi ce jour-là. Ce coiffeur obtient une mauvaise note car le brushing ne plait pas à son client, ce conducteur obtient un malus automobile car il a commis un accident il y a plusieurs années. La liste peut être longue. Et les catastrophes de taille : les restaurants, garagistes, coiffeurs désertés pour quelques mauvaises notes, les mauvais gestionnaires dépourvus de prêts ou d'assurance à bon prix.
Soyons clairs, la réduction d'une personne (à titre individuel ou professionnel) à un chiffre agrégeant toutes les infractions répertoriées automatiquement par des machines, sans intervention de l'intelligence et du jugement humain, et donc de façon insidieuse et permanente, engendre de lourdes conséquences.
A chaque fois que l'on note une personne, à chaque fois que l'on regarde un score, il faut imaginer les conséquences qui en découlent, et pas seulement pour la journée ou la semaine, mais pour les années à venir, pour le développement de l'affaire commerciale ou de la personne. A chaque fois que l'on privilégie la sécurité de la procédure par rapport à l'individu que l'on a en face de soi, nous déshumanisons le rapport social.
La première critique du crédit social est cette deshumanisation du rapport social. La seconde se rapporte à la liberté individuelle, à l'oubli naturel des évènements et à la seconde chance. Gageons que ce sujet soit rapidement pris à bras le corps au niveau juridique afin de promouvoir l'éthique dans une société flirtant de plus en plus avec la surveillance.