Myriam Michel, coordinatrice de l’association La Quadrature du Net, qui défend les droits et libertés des citoyen·nes dans l’environnement numérique, dénonce "le but réel" de l'algorithme utilisé par la CAF.
"Depuis 2011, les caisses familiales (CAF) utilisent un algorithme à des fins de contrôle social. Officiellement, ce programme a pour objectif de repérer les indus, c’est-à-dire les prestations versées à tort. Mais son but réel est de traquer les fraudes et de cibler les contrôles, l’algorithme attribuant chaque mois un 'score de risque' aux allocataires, à partir de leurs données personnelles et d’un certain nombre de variables.
L’un des problèmes posés – ils sont multiples –, c’est que la vie privée de 13 millions de personnes se trouve scru-tée, cet outil croisant à la fois les don- nées de la CAF et celles d’autres administrations (Impôts, Police, Éducation nationale, mais aussi banques ou four- nisseurs d’énergie). C’est une véritable mise à nu numérique. Et puis, des études ont montré que, en réalité, les plus précaires sont les plus visés. Car ce qui a été identifié au départ comme des 'facteurs de risque' sont en fait des facteurs de précarité : le statut de parent isolé, des revenus faibles ou variables, la naissance hors de France… Tous ces paramètres génèrent des 'scores de risque' plus élevés, et donc une multiplication des contrôles. Autrement dit, cet algorithme automatise et amplifie les discriminations. On a eu le cas de personnes soumises à cinq contrôles en dix-huit mois, avec des conséquences très concrètes sur leur vie puisque, la plupart du temps, la CAF suspend le versement des allocations pendant toute la durée du contrôle.
Ce que l’on demande aujourd’hui, c’est déjà la transparence sur les critères régissant cet algorithme, à l’opacité flagrante. Mais au-delà, nous voulons surtout que cet outil de contrôle et de surveillance, qui sert actuellement de modèle à d’autres administrations, soit abandonné."
