L'IA et les territoires : entre promesses d'optimisation et risques systémiques

Le thème choisi par la délégation aux collectivités territoriales du Sénat pour reprendre ses travaux était "l'IA va-t-elle transformer nos villes et nos villages ?". Les sénateurs se sont cependant fait le relais des très nombreuses interrogations qui leur remontent depuis deux ans avec la déferlante de l'IA générative (IAG) : risque de nouvelles fractures sociales et territoriales, soutenabilité environnementale de l'IA, risque de disparition de nombreux emplois de cols blancs, capacité de la France à lutter contre la toute puissance des acteurs américains de l'IA, possibilité que les machines acquièrent un jour une conscience… Les trois intervenants ont eu bien du mal à répondre à des questions qui dépassaient largement le pré carré des collectivités territoriales.

Une technologie politique

Jean-Gabriel Ganascia, professeur d'informatique à la faculté des sciences de Sorbonne, a rappelé que l'IA était avant tout "une discipline académique" dont la vocation est de "simuler des capacités cognitives humaines", soit un champ d'application loin de recouvrir l'ensemble des facettes de l'intelligence humaine. "Il n'y a pas de conscience dans les machines, j'insiste là-dessus", a-t-il déclaré, déniant aux IAG la capacité à "halluciner" puisque cela induirait que la machine perde une raison qu'elle n'a pas. L'auteure de science-fiction Catherine Dufour a, pour sa part, rappelé que l'IA est "une technologie de la gouvernance, une technologie de la surveillance". Des marqueurs qui en font une technologie "éminemment politique", sujet sur lequel a rebondi Pierre Jannin, conseiller municipal délégué à l'innovation et au numérique à Rennes et représentant des Interconnectés. Et c'est parce qu'elle concerne les élus que l'association Les Interconnectés a lancé un débat itinérant sur l'IA (lire l'encadré ci-dessous).

Invasion de l'IA dans l'espace urbain

Les intervenants ont ensuite tous souligné l'importance à définir des cas d'usage. Le déploiement interne de l'IA générative pour aider les agents à rédiger, résumer, réfléchir… apparait le plus évident. Son déploiement dans la relation à l'usager semble plus délicat, car les IA peuvent "commettre des erreurs" préjudiciables à l'administration et aboutir à une "déshumanisation des services publics", a souligné Jean-Gabriel Ganascia. Le professeur émérite a aussi évoqué la capacité de l'IA à "identifier des signaux faibles" en exploitant mieux les données. Catherine Dufour a abondé dans ce sens en détaillant "l'invasion de l'IA" dans l'espace urbain, où la technologie promet de contribuer à "optimiser l'existant" (logement, mobilité, déchet, énergie, éclairage…) et d'"établir des prédictions". Avec un curseur à trouver pour les élus, car l'humain a vite fait de se "retrouver dans une logique irrespirable où il est surveillé en permanence", a-t-elle a mis en garde, ajoutant qu'à tout moment une "technologie bienveillante" pouvait devenir "totalitaire si elle tombe dans de mauvaises mains". Des risques qui légitiment la mise en place d'un "service public du numérique", a assuré Pierre Jannin pour garantir que les technologies donnent la primeur à l'humain, respectent une éthique et l'intérêt général.

Réguler, mais pas trop

Si les motifs pour réguler l'IA ne manquent pas – souveraineté, impact environnemental, équité sociale… - les experts ont convenu de la difficulté pour le législateur à courir derrière une technologie en constante évolution. Jean-Gabriel Ganascia a invité à "ne pas trop réguler" et à rester sur des règles intelligibles, citant l'IA Act européen en contre-exemple. Un texte de plusieurs centaines de pages jugé "indigeste" avec des dispositions parfois fantaisistes comme l'interdiction des technologies subliminales… qui n'existent pas. Il a insisté sur la nécessité d'une "évaluation rigoureuse" des technologies et de bien réfléchir à l'opportunité de les déployer. Au passage, l'expert a égratigné l'usage de la reconnaissance faciale à l'occasion du carnaval de Nice dans un contexte où la plupart des gens, grimés, sont par définition méconnaissables. Pierre Jannin a pour sa part mis en avant le rôle des collectivités territoriales dans les débats législatifs à venir, soulignant que les concertations locales en cours seraient à même de garantir que la loi soit "alignée" sur les besoins des citoyens et des territoires. Il a aussi rappelé l'attachement des associations urbaines à ne pas déployer la vidéosurveillance algorithmique – alors que le gouvernement parle d'ores et déjà de généralisation sans attendre le bilan des expérimentations menées durant les JO – avant qu'un cadre soit formellement débattu (notre article du 4 octobre 2024).