Cette expression que l’on peut traduire par « score social » désigne un système permettant d’attribuer une note à un individu en fonction de son comportement dans son cadre personnel ou professionnel. Il est par exemple utilisé par l’algorithme de la CNAF, qui est attaquée devant le Conseil d’Etat par des associations de défense des droits sociaux. En cause : un procédé de contrôle des allocataires jugé « discriminatoire ».
Ce procédé ici dénommé « score de risque » attribue des notes s’échelonnant de 0 à 1. Plus le score est proche de 1, plus la probabilité que les allocataires se fassent contrôler est élevée. D’après les détracteurs de cet algorithme, plus votre revenu est faible, plus votre « score de risque » augmente, ce qui entraîne un surcontrôle des plus pauvres.
Pour éviter ce type de biais qui stigmatisent, d’autres techniques sont possibles. Le défenseur des droits invitait, il y a quelques années déjà, la Délégation nationale à la lutte contre la fraude à mettre en place des contrôles aléatoires. Car ce modèle, adopté par la Chine, peut aller loin : des millions d’habitants ont été privés de train et d’avion en raison de mauvaises notes à leur « score social ». Ils avaient oublié de payer une facture, s’étaient montrés impolis ou avaient promené leur chien sans laisse…