Les collectivités séduites par l'intelligence artificielle générative

Voici un an, l'intelligence artificielle générative était inconnue des collectivités et leurs projets IA se concentraient sur la détection, la prédiction, l'analyse de données en mobilisant des algorithmes de conception assez ancienne. Fin 2024, le paysage a radicalement changé. Les collectivités débordent d'idées en matière d'exploitation de l'IA générative : aide à la rédaction des délibérations, des marchés publics, de mails ou de discours, élaboration de comptes-rendus de réunion, création de chabot usager ou dédié aux ressources humaines… De nombreuses collectivités testent des solutions, même s'il y a "peu de mise en production", reconnait Jacques Priol, du cabinet Civiteo. Les premiers chiffres de l'observatoire Data publica – qui seront dévoilés en totalité le 12 novembre 2024 – montrent qu'1/3 des projets concernent la gestion administrative (RH, juridique, administration).

La technologie de la bureaucratie

Pourquoi cette montée en flèche de l'IA générative ? "Parce que les collectivités exploitent à 90% des données non structurées, beaucoup de lettres, peu de chiffres. Or l'IA générative est la technologie qui va permettre d'exploiter ce capital", a expliqué Mick Levy, d'Orange services. En d'autres termes, l'IAG est la technologie de la bureaucratie, à même de simplifier de nombreuses tâches rédactionnelles ou procédurales. Autre signe témoignant de cette appétence, le succès des réunions internes consacrées à l'IA générative, comme l'a observé Pascal Chevallot du Syndicat des énergies et du numérique de Haute-Savoie (Syane). Un exercice de pédagogie d'autant plus nécessaire que le "shadow AI", le fait d'utiliser l'IA sans en informer la hiérarchie, prospère dans les collectivités. Il serait de 60% dans les entreprises selon Orange, jauge confirmée par Civiteo pour le secteur public à partir des traces numériques laissées par les agents analysées par plusieurs DSI de collectivités…

Maîtriser les réponses

Si ces démonstrations internes sont l'occasion de découvrir les potentiels de l'IA et leurs travers, elles servent aussi à lever les réticences. Parmi celles-ci, les résultats aléatoires des IA génératives, "caractéristiques structurelles de cette famille d'IA" comme le rappelle Orange. Convaincre passe parfois par un peu de bidouillage. Au Syane, pour montrer les capacités de l'outil à l'association départementale des maires, le technicien a nourri l'IA de données locales – on parle de RAG (Retrieval-Augmented Generation) en langage technique – permettant d'indiquer à l'IA un site internet, une base de données maison pour bâtir ses réponses. Cette pratique fait du reste consensus : de la région Île-de-France à Issy-les-Moulineaux en passant par Albert, l'IA de l'État, la connexion de données sûres est une des conditions du déploiement des nouveaux services.

Souveraineté limitée

Pour la souveraineté, en revanche, ce n'est pas gagné. Aujourd'hui, l'État comme Orange exploitent des serveurs situés en France, ce qui leur donne une maîtrise des données... Mais pour leur offre de chatbot, les deux entités exploitent LLama, le modèle de langage créé par Meta (Facebook) … Si ce modèle est "adapté", "réentraîné" avec des données tricolores, il souligne la dure réalité économique à laquelle sont confrontés les acteurs européens. Ceux-ci ne peuvent rivaliser avec les centaines de milliards de dollars mobilisés par les grands acteurs américains – OpenAI, Anthropic, Meta, Google… - pour améliorer la performance de leurs modèles. Ceux-ci sont cependant extrêmement consommateurs de ressources (calcul, énergie, eau…) pour leur entrainement comme pour leur fonctionnement. La mutualisation apparait comme la seule solution pour rivaliser. Outre l'IGN (notre article du 17 septembre 2024) cette approche est aussi portée par OpenLLM France. Ce consortium a par exemple dans ses cartons un petit modèle de langage (ou SLM, Small Language Models). "Nous voulons proposer un modèle plus sobre, plus efficace, utilisable par n'importe qui", explique Michel-Marie Maudet, directeur de Linagora et animateur d'OpenLLM. La sortie de ce modèle, baptisé Lucie, entrainé avec des données vérifiées sur le supercalculateur public Jean Zay, est imminente. Une bonne nouvelle pour les collectivités, car, comme le relève l'observatoire Data publica, la sobriété environnementale et la souveraineté de l'IA arrivent très haut dans leurs exigences. Ce petit modèle promet de pouvoir être installé sur un ordinateur de bureau et pourrait, par exemple, être utilisé pour retranscrire une visioconférence sans échanges de données avec Internet.

Un retour sur investissement indispensable

Les collectivités s'inquiètent aussi du retour sur investissement des projets, sujet devenu critique alors que des coupes budgétaires se profilent. La région Île-de-France qui s'est lancée très tôt dans 8 preuves de concept (POC) (notre article du 11 mars 2024) a ainsi décidé d'arrêter certains projets. C'est notamment le cas de la lutte contre le gaspillage alimentaire dans les cantines des lycées, projet qui mobilise une IA classique. "Ce que l'on économise grâce à l'algorithme correspond grosso modo à ce que la région a donné à la startup", explique Bernard Giry, chargé de la transformation numérique à la région. La rédaction assistée par l'IA des comptes-rendus et des débats à l'assemblée régionale va en revanche être mise en production, eu égard aux gains de temps générés. L'extraction des subventions à partir des délibérations – avec une IA générative capable de fournir des éléments de contexte dans un langage compréhensible – pour informer les franciliens des aides injectées par la collectivité localement va également être mise en production. Idem pour le chabot d'assistance informatique : il faut dire qu'il y a derrière cet outil des contrats de maintenance informatique susceptibles d'être revus à la baisse.
En d'autres termes, comme pour l'État, la réalisation d'économies voire la suppression de postes pourrait être un facteur d'accélération des projets d'IA générative.