L'autorité néerlandaise de protection des données (AP) a publié un rapport d'enquête sur l'utilisation des agents conversationnels d'intelligence artificielle comme outil d'aide au vote pour les élections municipales.

L'enquête révèle que les agents conversationnels omettent quasi systématiquement les partis politiques locaux dans leurs recommandations de vote. Moins de 1 % des conseils de vote proposant un premier choix désignaient un parti local spécifique, alors que ces derniers ont obtenu plus de 30 % des voix lors des précédentes élections municipales. L'étude, qui a porté sur cinq agents conversationnels (ChatGPT, Claude, Gemini, Grok et Mistral), montre que malgré leur inaptitude à cette tâche, ils ont fourni un conseil de vote dans la majorité des cas, n'opposant un refus que dans 7 % des requêtes. Une explication possible réside dans le fait que ces systèmes sont principalement entraînés sur des données internet où les partis locaux sont sous-représentés.

L'AP souligne que ces outils ne sont pas transparents, empêchant les électeurs de comprendre la base des recommandations reçues et de les vérifier. Il existe un risque que les électeurs se prononcent sur la base d'informations incomplètes ou erronées, ce qui donne une image déformée et polarisée du paysage politique. L'autorité a également constaté que les agents conversationnels intègrent des informations non pertinentes, comme le lieu de résidence de l'électeur. L'AP réitère son appel aux fournisseurs pour qu'ils prennent des mesures afin d'empêcher l'utilisation de leurs systèmes à des fins de conseil électoral, rappelant que la réglementation européenne qualifie de "systèmes à haut risque" les intelligences artificielles visant à influencer le comportement des électeurs. Elle conseille aux électeurs de se tourner vers des sources fiables comme les outils d'aide au vote traditionnels (Guide de Vote et Boussole Électorale), les médias et les programmes des partis.