L'Agence Espagnole de Protection des Données (AEPD) a publié une communication alertant sur les risques visibles et invisibles liés à l'utilisation d'images de tiers dans les systèmes d'intelligence artificielle, y compris dans des contextes apparemment anodins.
La note de l'autorité distingue les risques visibles, découlant de la génération et de la diffusion d'images, des risques moins apparents. Les premiers comprennent la sexualisation, la création de contenu intime synthétique, l'attribution de faits non réels portant atteinte à la réputation, la décontextualisation et l'utilisation d'images de mineurs ou de personnes vulnérables. Les seconds, qualifiés d'invisibles, surviennent dès le simple téléchargement d'une image ou vidéo, même sans publication du résultat, et incluent la perte de contrôle sur l'image, sa rétention par des tiers, l'intervention de multiples acteurs, la génération de métadonnées et le risque d'identification persistante de la personne.
L'AEPD précise qu'elle porte une attention particulière aux situations où l'usage de l'intelligence artificielle augmente significativement les risques. Sont notamment concernés les cas entraînant une perte de contrôle sur sa propre image, la génération de contenus vraisemblables attribuant des conduites fictives, l'implication de personnes vulnérables, l'introduction d'éléments de sexualisation ou d'humiliation, ou une diffusion à fort impact personnel ou professionnel. L'agence rappelle que d'autres droits fondamentaux comme l'honneur ou l'intimité peuvent être affectés et que d'autres réglementations, y compris le Code pénal, peuvent s'appliquer, la compétence revenant alors aux autorités policières et judiciaires.