L'autorité italienne de protection des données (GPDP) a adressé un avertissement à une jeune pousse italienne au sujet d'un composant logiciel additionnel analysant les émotions des employés par intelligence artificielle.

Suite à des articles de presse, l'autorité a examiné un outil développé pour les plateformes de messagerie d'entreprise Slack et Teams. Ce composant, basé sur l'intelligence artificielle et l'analyse sémantique, est conçu pour évaluer le niveau de stress psychologique des salariés qui l'utilisent volontairement afin de recevoir des conseils personnalisés. L'enquête a établi que la jeune pousse agit en tant que responsable du traitement, tandis que l'employeur n'a pas accès au contenu des communications ni aux résultats individuels. Toutefois, en raison de la sensibilité des données et de la possibilité de fournir aux employeurs des rapports agrégés, le GPDP a invité la société à intégrer dès la conception des mesures pour empêcher tout accès, même indirect, aux informations sur l'état émotionnel des travailleurs. L'autorité a rappelé que les employeurs ne peuvent légitimement traiter de telles informations, conformément à la réglementation sur la protection des données, au Statut des travailleurs et au Règlement européen sur l'intelligence artificielle qui interdit l'usage de systèmes d'IA pour analyser les émotions en milieu professionnel. Enfin, le GPDP a souligné les risques inhérents à ces technologies, dont les résultats peuvent manquer de transparence, d'explicabilité ou de vérifiabilité, entraînant des effets discriminatoires ou préjudiciables pour les droits des salariés.