Le Bureau du Commissaire à l'information (ICO) a initié des enquêtes formelles visant X Internet Unlimited Company (XIUC) et X.AI LLC (X.AI) concernant le traitement de données personnelles par leur système d'intelligence artificielle Grok.

Cette action fait suite à des signalements indiquant que Grok aurait été utilisé pour créer des images à caractère sexuel non consensuelles de personnes, y compris des mineurs. L'enquête se concentre sur la légalité, la loyauté et la transparence du traitement des données personnelles. Elle vise également à déterminer si des garanties appropriées ont été intégrées dès la conception et lors du déploiement de l'outil pour empêcher la génération d'images manipulées préjudiciables. La perte de contrôle sur les données personnelles dans de telles circonstances expose les individus à un risque de préjudice grave.

L'ICO va recueillir des preuves auprès des deux sociétés, analyser leurs bases juridiques, leurs choix de conception technique et les mesures de protection appliquées au modèle Grok. L'autorité coopère étroitement avec l'Ofcom, le régulateur britannique de la sécurité en ligne, ainsi qu'avec d'autres régulateurs internationaux pour une approche coordonnée. Il est rappelé que les manquements à la loi britannique sur la protection des données peuvent entraîner des amendes allant jusqu'à 17 500 000 £ (environ 20 650 000 €) ou 4 % du chiffre d'affaires annuel mondial de l'organisation. L'ICO n'a pas encore statué sur l'existence d'une infraction.