La Commission Nationale de l'Informatique et des Libertés (CNIL) a développé un outil de démonstration pour analyser la traçabilité des modèles d'intelligence artificielle publiés en source ouverte.

Cet outil a pour objectif de faciliter l'exercice des droits d'accès, d'effacement ou d'opposition des personnes dont les données auraient été mémorisées par un modèle. La CNIL considère que les modèles d'IA entraînés sur des données personnelles sont généralement soumis au RGPD, sauf si le responsable de traitement démontre qu'il est impossible d'en extraire ou d'en déduire des informations personnelles. Le phénomène de mémorisation, par lequel un modèle peut reproduire des éléments de sa base d'entraînement, est au cœur de cette problématique.

L'expérimentation menée par le service IA et le Laboratoire d’Innovation Numérique de la CNIL (LINC) vise à naviguer dans la généalogie d'un modèle, c'est-à-dire l'ensemble des modèles dont il provient et ceux qu'il a contribué à créer. En partant d'un modèle identifié comme ayant mémorisé des données, le démonstrateur permet de repérer les autres modèles de sa lignée susceptibles d'être également concernés. L'outil explore les modèles disponibles sur la plateforme HuggingFace.