Patrick Molinoz - IA : "Les risques sont à la hauteur des opportunités : immenses"

Localtis : Pensez-vous que l'intelligence artificielle puisse devenir un outil d'aide à la décision des politiques publiques ? 

Patrick Molinoz : L'intelligence artificielle générative n'a pas été créée spécifiquement pour répondre à des problématiques d'intérêt général… mais à terme, bien utilisée et maîtrisée, elle pourra se déployer dans de multiples champs et servir efficacement les acteurs publics. L'IA doit contribuer à l'amélioration de la performance des politiques publiques, à la qualité des services publics ou à des prises de décision plus éclairées. Cela ne va cependant pas de soi. L'IA reste un outil et c'est notre capacité à la maîtriser et à "bien" l'utiliser qui importe. Les risques sont à la hauteur des opportunités : immenses. On est au tout début de l'histoire. 

Dans quelle mesure les collectivités et les EPCI s’en sont emparés ? 

Le niveau d'appropriation reste faible. Ce qui est normal compte tenu de la complexité et de la "jeunesse" du sujet. Les collectivités disposant de l'ingénierie nécessaire sont les plus avancées mais de manière générale la conscience politique des enjeux de l'IA - mais aussi de la cybersécurité ou de la gestion des données - reste naissante et globalement insuffisante. 

Faut-il privilégier des IA souveraines aux IA génératives telles que ChatGPT, Dall-e, Midjourney, Bard ? 

Oui bien sûr mais il faut s'attarder sur ce que l'on qualifie d'intelligence artificielle souveraine. Si l'on parle de système d'IA dont le développement, le déploiement et l'exploitation sont maitrisés de bout en bout par une entité (Etat, collectivité, etc.) nous sommes dans le vrai. Mais la souveraineté ne doit pas juste être un slogan. Il faut donc des technologies européennes, un hébergement national (ou européen), une gouvernance respectant l'IA Act pour ne pas être dépendant d'acteurs extra-européens… le slogan est simple, la réalité l'est sans doute moins. Notre vigilance devra donc porter sur la réalité de cette "souveraineté".

Quels sont les risques ? 

Ce qui me semble le plus important, c'est que les données qui alimentent l'IA soient des données fiables et protégées. Ensuite il faut que les IA ne servent pas des entreprises de déstabilisation politique, sociale ou économique. Le principal risque est une déstabilisation démocratique soit au moment d'une élection (cf l'ingérence russe) soit de manière plus "sournoise" et de long terme. Les réseaux sociaux, qui étaient déjà de puissants outils déstabilisants pour nos démocraties avant l'émergence de l'IA, deviennent encore plus dangereux. 

Quelles précautions adopter ? 

Les premières précautions sont liées à la souveraineté des IA (protéger les données, maitriser les technologies, disposer de l'ingénierie etc.) et à l'acculturation ou la formation. D'une manière générale il faut considérer l'IA de la même manière que l'on considère le monde "physique" en termes d'éthique, de sécurité, de transparence - je pense qu'il existe un sujet sur la question de l'anonymat en ligne -, de sanctions…. Ensuite il faut engager la formation, ou l'acculturation au moins, des citoyens en général et des agents publics en particulier. 
Le fait que 13,5 %* d'agents publics (certains considèrent que le chiffre est beaucoup plus élevé) auraient recours à des IA de manière informelle pose déjà de nombreuses questions. Quand une entité publique produit une décision qui va influencer la vie des citoyens, cette décision doit avoir été prise de manière éclairée et non dictée par une IA non souveraine. A ce stade, je ne suis pas sûr que l'on ait toutes les garanties en la matière. 

Comment acculturer les agents ? Quelles conséquences sur les métiers et les compétences ? 

Je pense que cet outil va devenir tellement puissant qu'il faut acculturer tout le monde mais tout particulièrement les agents publics et les élus car les IA doivent être utilisées de manière éclairée et transparente. Si l'on admet que la moitié des métiers territoriaux seront concernés par l'IA, on mesure l'ampleur de la tâche. Nous sommes au seuil d'une révolution gigantesque qu'il faut se préparer à accueillir pour en tirer le meilleur au service de l'intérêt général.  

Un projet de loi vient d'être présenté pour transposer la directive NIS 2 dont le but est d'assurer un niveau élevé commun de cybersécurité dans l'Union européenne. 1.500 collectivités et 992 communautés de communes pourraient être concernées ? Comment peuvent-elles anticiper les obligations de la future loi ? 
Nous devons améliorer la sécurité de nos systèmes numériques. Transposer NIS 2 est donc vital. Pour autant, à ce stade, je ne suis pas certain que la direction prise soit la bonne car si NIS 2 s'impose à des collectivités qui n'ont ni les moyens financiers ni les moyens humains de la respecter alors l'effet sera inverse à celui qui est recherché. Il faut penser "transition" et adaptation des contraintes aux moyens des structures concernées. De ce point de vue l'AMF n'a pas été entendue sur ce sujet et j'espère que le Parlement sera vigilant à ne pas alourdir la charge pour les communes et les EPCI.