France Travail développe un outil d'intelligence artificielle (IA) générative pour le contrôle des personnes inscrites, un projet annoncé le 30 juin à son Comité Consultatif Éthique.

L'objectif à court terme est d'utiliser l'IA pour analyser les dossiers des personnes contrôlées, incluant leur situation et les rapports d'entretiens, afin de produire une synthèse et des "points d’attention". Cette automatisation vise à réduire le temps de traitement humain pour atteindre une cible de 1 500 000 contrôles en 2027, soit une augmentation de 400 000 par rapport à 2026, sans effectifs supplémentaires. La décision finale de sanction resterait humaine. D'ici 2030, le projet envisage une "systématisation des contrôles" où l'IA pourrait sélectionner les personnes, interagir avec elles et décider de transmettre les dossiers en vue de sanctions.

L'outil pourrait également servir au "suivi de parcours" pour vérifier l'obligation des 15 "heures d’activité" hebdomadaires issue de la loi Plein Emploi. Le document de présentation du projet soulève plusieurs risques, notamment le fonctionnement en "boîte noire" de l'IA rendant les décisions non explicables, le biais d'automatisation chez les agents humains, la reproduction de biais discriminatoires et la possibilité de modifier les politiques de contrôle de manière centralisée et opaque via de simples changements d'instructions données à l'outil.