Question écrite n° 16417 :
Algorithme discriminatoire de la CAF

16e Législature

Question de : Mme Murielle Lepvraud
Côtes-d'Armor (4e circonscription) - La France insoumise - Nouvelle Union Populaire écologique et sociale

Mme Murielle Lepvraud interroge Mme la ministre du travail, de la santé et des solidarités sur les discriminations d'algorithmes de la CAF et des mesures rectificatives ainsi que des mesures compensatoires pour les bénéficiaires. Le 27 novembre 2023, La quadrature du net a publié un rapport sur l'algorithme de notation des allocataires de la CAF, dénonçant des pratiques discriminatoires envers les populations les plus précaires. L'algorithme de la CAF fonctionne de la manière suivante : il charge différentes variables et assigne un coefficient à ces dernières qui varie entre - 0.81 et + 0.89. Ces coefficients sont additionnés et donnent un score brut qui sera par la suite transféré en un score « de risque » compris entre 0 et 1 (où le 1 représente le risque le plus élevé de fraude). Au-delà de l'ampleur du système de surveillance mis en place par la CAF, La quadrature du net a prouvé, à partir du code source, que les variables augmentant le score « de risque » sont basées sur des critères discriminants : on y retrouve le fait de disposer de revenus faibles, le fait d'être au chômage, d'être allocataire du RSA, d'habiter dans un quartier « défavorisé », de consacrer une partie importante de ses revenus à son loyer ou, encore, de ne pas avoir de travail ou de revenus stables. Encore pire, le fait pour des citoyens de bénéficier de l'AAH tout en travaillant est un paramètre qui affecte à la hausse le score de l'allocataire. Plusieurs analyses réalisées par Lightouse Report, Le Monde et La quadrature du net prouvent que l'algorithme attribue systématiquement des scores de risques plus élevés aux personnes déjà en situation de vulnérabilité : par exemple, les familles monoparentales subissent 36 % des vérifications, tout en ne représentant que 16 % des allocataires. De plus, les critères comme le handicap, la situation familiale ou le fait de toucher déjà le RSA sont censés être protégés par la loi contre les discriminations du 16 novembre 2001. Au-delà de l'article premier de la Constitution qui inscrit le principe d'égalité pour tous les citoyens, dans l'article 225-1 de la loi de 2001, il est bien précisé que toute distinction opérée entre les personnes physiques ou morales sur ces critères constitue une discrimination. Dans une lettre ouverte du 6 février, plus d'une vingtaine d'associations ont demandé à la CAF de cesser d'avoir recours à ces algorithmes. Stéphane Troussel, quant à lui, s'est appuyé sur l'enquête du journal Le Monde pour saisir la Défenseure des droits (d'après l'article 71-1 de la Constitution). Malgré ces interpellations, rien ne semble bouger, tant au niveau du Gouvernement qu'au niveau de la CAF. Il est pourtant urgent que le traitement discriminatoire des allocataires de la caisse des allocations familiales cesse. Elle l'interroge donc sur la mise en place d'une réforme de l'algorithme, qui semble pour le moment contraire à la loi et sur la mise en œuvre de mesures rectificatives et compensatoires.

Question retirée le 11 juin 2024
Cause : Fin de mandat
Données clés

Auteur : Mme Murielle Lepvraud

Type de question : Question écrite

Rubrique : Administration

Ministère interrogé : Travail, santé et solidarités

Ministère répondant : Comptes publics

Date :
Question publiée le 26 mars 2024

Date de cloture : 11 juin 2024
Fin de mandat

partager