Verneuil sur Seine : quand le maire utilise son avatar pour sensibiliser aux risques de l'IA (78)

Début 2024, Fabien Aufrechter, maire de Verneuil-sur-Seine, a publié sur les réseaux sociaux une courte vidéo pour présenter ses vœux. On y retrouve les annonces habituelles d'un élu sur les projets de la commune en matière d'équipement et de services pour 2024, jusqu’à ce que, tout d'un coup, le maire se mette à s'exprimer en espagnol, allemand, anglais, chinois, arabe, russe, portugais et italien, de manière fluide et sans aucun accent. Il s'agissait en fait d'un deepfake, ou « hypertrucage »* en bon français, que l'édile avait lui-même créé, ce que l’on pouvait repérer, au caractère saccadé de certains mouvements du visage.

Une vidéo créée en quelques minutes

« J'ai réalisé cette vidéo, à partir d'un outil gratuit accessible à tous. Cela ne m'a pris que quelques minutes. Mon objectif était de lancer le débat sur l'intelligence artificielle et d'inviter tout un chacun à faire attention aux contenus trouvés sur les réseaux sociaux », explique Fabien Aufrechter qui travaille par ailleurs dans une grande entreprise leader de l'innovation numérique. Car cette petite vidéo, générée par une IA, mélange le vraisemblable – la voix, le ton, l'image de l'élu – avec des mots qui n'ont pas été prononcés physiquement.

Usages potentiellement dévastateurs

Si l'élu a pris le soin d'alerter les Vernoliens du subterfuge, un hypertrucage peut avoir des effets dévastateurs pour les communes. « Imaginez si mon image avait été utilisée pour relayer une rumeur sur un empoisonnement de l'eau ou un autre sujet sensible », alerte le jeune maire. Les populations les moins familières du numérique, et notamment les personnes âgées, pourraient être les premières victimes de ces fausses informations. À l'occasion des vœux aux seniors, l'édile a réitéré l'exercice, en simulant l'interprétation d'une chanson alors qu'il n'a aucun talent lyrique. Là encore, il s'agissait moins de les distraire que de les mettre en garde, un message audio de leur petit-fils pouvant cacher un deepfake créé par quelqu'un cherchant à leur soutirer de l'argent…

Sensibilisation des seniors au numérique

Cible privilégiée des cyber délinquants, les seniors sont alors très visés par la stratégie d'inclusion numérique de la ville. Elle a mis en place des ateliers d'initiation au numérique pour leur faire découvrir les potentiels du numérique dans la vie quotidienne tout en leur permettant d'acquérir les bons réflexes pour protéger leurs données. Les jeunes bénéficient également d'un programme de sensibilisation aux réseaux sociaux et aux fausses informations qui utilisent parfois des hypertrucages.

Usage vertueux de l'IA

Ces derniers s'inscrivent par ailleurs dans la vaste famille des IA génératives, capables de générer des vidéos, du texte et bien d'autres choses. « Cette technologie est d'ores et déjà dans notre quotidien, sans qu'elle soit toujours visible. Ce qui compte, c'est ce que l'on fait avec », souligne le maire. Les usages peuvent également être vertueux : l'élu cite la génération automatique d'un sous-titrage pour qu'une vidéo puisse être consultée par une personne malentendante. Une fonctionnalité que la mairie propose d’ailleurs sur son nouveau site internet, qui respecte strictement la règlementation sur l'accessibilité numérique. Autre exemple : les imprimantes 3D grâce auxquelles il est possible de produire des objets, mais aussi des pièces de rechanges pour un appareillage d'handicapé, comme a pu l'expérimenter un utilisateur régulier du FabLab. Des projets qui s'inscrivent dans « l'année numérique » que le maire a souhaité impulser dans cette ville des Yvelines décidée à devenir une référence en matière d'usages innovants.

*Hypertrucage : Selon la définition adoptée par l'Europe dans le cadre de l'IA act, la réglementation entrée en vigueur en aout 2024, un hypertrucage est « une image ou un contenu audio ou vidéo généré ou manipulé par l’IA, présentant une ressemblance avec des personnes, des objets, des lieux, des entités ou événements existants et pouvant être perçu à tort par une personne comme authentiques ou véridiques ».