Campagne électorale : la Cnil alerte sur les dangers de l'intelligence artificielle

167 signalements, 2 plaintes ayant débouché sur 4 rappels à la loi et une procédure de contrôle pour un candidat. Tel est le bilan que vient de publier la Cnil pour la campagne électorale des européennes. La Commission constate par ailleurs que l'essentiel des signalements concerne désormais l'envoi de SMS non sollicités (88% des signalements en 2024) plutôt que les appels téléphoniques automatisés (93% des signalements en 2019).

Multiplication des deepfakes

La Cnil alerte par ailleurs sur les risques liés à l'intelligence artificielle, sans toutefois donner de chiffres ou d'exemples précis. Le service IA de l'autorité indépendante aurait ainsi "observé" le recours à l'IA pour générer des contenus officiels tels que l'information des citoyens sur les élections et la création de prospectus politiques. Or, rappelle la commission, les IA génératives peuvent produire des "hallucinations", autrement dit des erreurs ou approximations qui ne sont pas toujours facilement décelables. Les résultats peuvent aussi être biaisés, la plupart utilisant des données d'entraînement anglo-saxonnes ne reflétant pas forcément les valeurs européennes. Enfin, elle appelle à la vigilance sur les données transmises à des plateformes souvent situées en dehors de l'Union européenne. La commission s’alarme par ailleurs de "la multiplication des hypertrucages" ou deepfakes. On rappellera qu'il s'agit de vidéos détournées utilisant par exemple le visage d'un candidat et un clonage de voix pour faire dire à un candidat des mots qu’il n’a pas prononcés. La Cnil en profite pour insister sur la nécessité de mettre en place "un marquage" des contenus générés par l'IA comme le prévoit le règlement européen sur l'IA (en cours de mise en application). Enfin, la Cnil s'inquiète d'une troisième pratique dans les partis politiques : l'intensification du profilage des électeurs grâce à la collecte et au traitement de données par des algorithmes, domaine qu’elle annonce vouloir auditer.

Plateforme de signalement pour les législatives

Pour les législatives anticipées, la Cnil annonce une nouvelle série de courriers adressés aux chefs de parti pour les alerter sur la nécessité de respecter la protection des données personnelles des électeurs et de s'assurer de la conformité RPPD des traitements mis en œuvre par les partis. La Cnil annonce qu’elle effectuera des contrôles formels auprès des partis "ayant généré le plus de plaintes et de signalements" afin de leur faire adopter des mesures correctrices. Elle rappelle également leurs droits aux électeurs et la mise à disposition d'une plateforme pour signaler à ses services tout manquement aux règles en vigueur.