Un juriste de la Quadrature du Net et un directeur de France Travail débattent de la question de l’égalité de traitement des demandeurs d’emploi posée par l’utilisation d’outils d’intelligence artificielle.

Bastien Le Querrec – La Quadrature du Net

Recueilli par Stéphane Jézéquel

Vous êtes le premier à avoir dénoncé publiquement. Que savons-nous de cet algorithme utilisé par France Travail ?

France Travail a une politique très volontariste dans l’utilisation de l’IA. L’algorithme testé et mis en service depuis plusieurs mois analyse le dossier des personnes en situation de recherche d’emploi et met en évidence des points d’attention et aide le conseiller. Les actions finales et les décisions restent humaines, mais des sont automatisées.

Quels sont les objectifs, selon vous ?

À l’horizon 2027, on peut penser à un contrôle généralisé (l’objectif est d’arriver à 5 millions d’entretiens par an) en ciblant davantage les personnes. À l’horizon 2027, certains outils d’IA pourraient permettre de mieux contrôler les personnes.

Quels biais avez-vous identifiés ?

Sans vouloir disqualifier le système humain, le contrôle algorithmique pose des problèmes en matière de droit au recours effectif, en matière d’accessibilité des personnes, de discrimination, de biais sociaux, de vulnérabilité économique… Les algorithmes sont connus pour reproduire des biais de la société puisqu’ils sont entraînés à partir de données.

France Travail assure qu’un humain sera toujours dans la décision.

Lorsqu’un humain reçoit les synthèses de certaines données traitées par la machine, il n’aura pas la capacité ou le temps de contrôler lui-même. Lorsqu’un contrôleur aura 100 dossiers à traiter dans une journée, celui-ci va devoir faire une pré-déclaration pour les personnes.

L’égalité de traitement doit pourtant s’imposer.

Le risque de discrimination est fort, comme on le voit à travers d’autres algorithmes, notamment celui utilisé dans la Caisse nationale d’allocations familiales, depuis 2011, pour cibler les personnes à contrôler. Plusieurs études sociologiques ont montré les nombreuses difficultés.

Quid des plus fragiles ?

Les personnes précaires, en situation de vulnérabilité économique, les mères isolées qui se retrouvent surexposées, les catégories et les origines différentes. Cela brouille le principe d’égalité qui s’impose dans le service.

La fraude à France Travail, ce serait l’arbre qui cache la forêt ?

La fraude sociale, qui inclut également la fraude patronale, n’est pas du même ordre de grandeur que celle fraudée à France Travail, par des personnes qui ont vraiment besoin de cet argent pour vivre. On se focalise sur cette population, au détriment de tout le reste.

L’administration fait-elle fausse route lorsqu’elle développe ce genre d’outil ?

D’un point de vue de la rationalité managériale, où il faut être plus efficace, avec des chiffres et des indicateurs de performance, ce genre d’outil est idéal. Mais ces administrations perdent de vue leur rôle social, avec des personnes très vulnérables en elles à contrôler et en données décortiquées par un algorithme.

---

Jean Dutoya – France Travail

Recueilli par S. L.

Dans quel objectif cherche-t-on à procéder à une massification des contrôles ?

Le modèle social en France repose sur un bon équilibre des droits et des devoirs. Il faut être généreux sur l’accompagnement et l’aide aux personnes, en fait exigeant sur leur engagement dans les démarches. Il faut bien tenir les deux bouts de la chaîne.

Quel est le principe de cet outil algorithmique ? Depuis quand est-il en place ?

Cet algorithme vise à aider le ciblage des situations qui méritent un contrôle. Sans algorithme, il y a beaucoup de situations qui ne sont contrôlées que les personnes sont particulièrement en dynamique de recherche d’emploi avec des enjeux particuliers. L’outil permet de mieux orienter les personnes à contrôler. Il est lancé depuis environ un an et il y a des travaux de correction des biais et des ajustements.

Combien de personnes pourriez-vous contrôler avec cet outil ?

Cette année, on devrait dépasser le million de contrôles. On veut renforcer l’accompagnement et, en même temps, le contrôle, dans une logique d’équilibre des droits et devoirs. À terme, nous pourrions effectuer 1,5 million de contrôles à l’horizon 2027. C’est le plafond.

Réussirez-vous à contrôler l’ensemble des demandeurs d’emploi, chaque année, alors que le personnel diminue régulièrement au sein de France Travail ?

L’objectif n’est pas de faire plus de contrôles mais de faire les bons contrôles en espérant que cela pourra conduire à en faire moins, à la fin.

Les spécialistes de l’IA mettent régulièrement en évidence les biais et les dérives induites par les algorithmes ? Comment adaptez-vous cet outil de contrôle ?

Le système est toujours en phase de contrôle et de vérification, pour s’assurer qu’il n’y a pas de critères de discrimination. Nous avons des équipes qui travaillent en continu. Dans nos comités d’éthique internes et externes, nous avons des experts de l’IA, de la statistique et de la bureaucratisation, dont le rôle est de regarder les usages notamment des organisations syndicales, et aussi pour s’assurer qu’il n’y a pas de biais discriminatoires.

Vous assurez personnellement avoir tout fait pour maîtriser les risques et garantir une décision humaine avec un nombre de dossiers qui va considérablement augmenter malgré le personnel ?

Le nombre de dossiers n’a pas augmenté par contre puisque nous avons augmenté le nombre de contrôleurs, de 600 à 950, avec un nombre d’accompagnements par conseiller qui reste autour de 1 000 inscrits. Pour un million de contrôles, dans la méthode actuelle il y en a également. Il faut néanmoins concentrer les moyens sur les situations à mieux contrôler, pour mieux accompagner.

Quel est l’intérêt au final pour les personnes accompagnées ?

On permet aux conseillers d’avoir plus de temps à consacrer à l’usager, de mieux comprendre sa situation et de lui apporter des réponses plus personnalisées. On cherche à économiser du temps sur les tâches administratives pour redéployer du temps au profit des usagers.

Source : Le Télégramme du 9 Novembre 2026