L'Autorité de Protection des Données (AP) néerlandaise alerte sur les risques croissants liés à l'intelligence artificielle et appelle le gouvernement à accélérer la mise en place de la réglementation et de son contrôle.

Dans son "Rapport sur l'IA et les Algorithmes aux Pays-Bas (RAN)", l'AP révèle une dégradation de la situation via son "Baromètre d'Impact de l'IA", où 4 des 9 indicateurs sont désormais au rouge, contre 2 auparavant. L'autorité s'inquiète du manque de progrès dans l'organisation de la surveillance, le développement de standards, l'enregistrement des algorithmes par le gouvernement et la visibilité sur les incidents. Le président de l'AP a déclaré que pour prévenir un nouveau scandale, il est impératif d'agir maintenant pour protéger les droits fondamentaux face à la pression croissante pour l'adoption de l'IA.

L'AP constate que des organisations tentent de se soustraire au Règlement IA en qualifiant leurs systèmes d'IA d'"algorithmes ordinaires", à l'instar du système OxRec utilisé pour prédire la récidive. Cette pratique augmente les risques pour les individus, tels que la fraude assistée par IA, les hypertrucages et les préjudices psychologiques causés par les agents conversationnels. L'autorité signale également que de nombreux employeurs utilisent des systèmes d'IA pour le recrutement, considérés à haut risque par le Règlement IA et qui devront se conformer à des exigences strictes d'ici août 2026. Des tests ont cependant montré un manque de transparence et d'explicabilité de ces outils, notamment les agents conversationnels de recrutement, qui peuvent discriminer des candidats.