La Défenseure des droits sai­sie par le dépar­te­ment de Seine-​Saint-​Denis sur l’algorithme pro­ba­ble­ment dis­cri­mi­na­toire des CAF 

Stéphane Troussel, pré­sident du dépar­te­ment de Seine-​Saint-​Denis, a annon­cé mer­cre­di qu'il sai­sit la Défenseure des droits, Claire Hédon, « afin de sta­tuer sur le carac­tère dis­cri­mi­na­toire des cri­tères uti­li­sés par l'algorithme » des Caisses d'allocations familiales.

Stéphane Troussel, pré­sident du dépar­te­ment de Seine-​Saint-​Denis a sai­si, mer­cre­di 6 décembre, la Défenseure des droits Claire Hédon. En cause, l’algorithme de nota­tion des allo­ca­taires de la Caisse natio­nale d’allocations fami­liales (CAF), accu­sé de dis­cri­mi­ner celles et ceux dont les reve­nus sont par­ti­cu­liè­re­ment faibles. 

Madame la @Defenseurdroits, je sol­li­cite votre atten­tion sur les révé­la­tions concer­nant l'algorithme pro­ba­ble­ment dis­cri­mi­na­toire de la CNAF. Les plus pré­caires sont de nou­veau stig­ma­ti­sés. La Seine-​Saint-​Denis l’est-elle aus­si ?

🔗⤵️https://t.co/vXs8NWTMCC

— Stéphane Troussel (@StephanTroussel) December 6, 2023

Dans un cour­rier, consul­té par Le Monde, l’élu socia­liste dénonce le carac­tère pos­si­ble­ment dis­cri­mi­na­toire de cet outil uti­li­sé par la CAF pour cibler ses contrôles, comme l’ont révé­lé début décembre, Le Monde et la Quadrature du Net, asso­cia­tion de défense des liber­tés fon­da­men­tales dans l’environnement numé­rique qui lutte contre la cen­sure et la sur­veillance. « Il s'avère que les cri­tères rete­nus par l'algorithme ont une évi­dente por­tée dis­cri­mi­na­toire à l'égard des popu­la­tions les plus vul­né­rables et que celle-​ci est d'autant plus impor­tante dans un ter­ri­toire qui cumule les dif­fi­cul­tés socio-​économiques comme la Seine-​Saint-​Denis », écrit Stéphane Troussel. 

Lire aus­si I Violences conju­gales : une aide finan­cière d’urgence de 600 euros devrait être ver­sée par la CAF à par­tir du 1er décembre

Dans son enquête, Le Monde a pu éta­blir que plu­sieurs cri­tères sont uti­li­sés par la CAF pour prio­ri­ser les contrôles à domi­cile, comme l’âge, la com­po­si­tion du foyer, les res­sources ou encore la situa­tion de han­di­cap. Selon la Quadrature du Net, le risque d'être contrô­lé à la suite d'un évé­ne­ment comme un démé­na­ge­ment serait par exemple plus fort pour une mère de famille sans reve­nu que pour un couple plus aisé.

« Certaines caté­go­ries de popu­la­tions, déjà en proie aux dif­fi­cul­tés, sont par­ti­cu­liè­re­ment visées, ce qui repré­sente une double peine à mon sens inac­cep­table », réagit Stéphane Troussel dans son cour­rier. Il demande donc à la Défenseure des droits de « sta­tuer sur le carac­tère dis­cri­mi­na­toire des cri­tères uti­li­sés par l’algorithme ».

Lire aus­si I L'algorithme de la CAF "auto­ma­tise et ampli­fie les dis­cri­mi­na­tions", selon La Quadrature du Net