IA : les grandes villes veulent un débat démocratique

Les recommandations du rapport sur l'intelligence artificielle remises la semaine dernière au président de la République (voir notre article) sont concentrées sur la nécessité de rattraper le retard de la France dans un domaine considéré comme stratégique. Une prééminence donnée à l'économie qui n'est pas du goût de France urbaine. Dans un communiqué daté du 15 mars, l'association "regrette l’absence de perspectives sur les débats politiques et démocratiques" faisant valoir que "le déploiement de IA n’est pas neutre, il engage une vision qui doit être partagée et débattue". Elle souhaite que "des éléments de visibilité sur les répercussions sur la société" soient apportés, notamment sur l'emploi ou l'impact environnemental de l'IA. L'association défend enfin une IA territoriale "positionnée en cohérence avec les compétences locales" – notamment la transition écologique – fondée sur des mécanismes de "coopération et de mise en communs". L'association a d'ailleurs initié une "bibliothèque" d'IA répondant à des enjeux de service public.

Entrée en vigueur de l'IA Act en 2026

Cette prise de position intervient alors que l'IA Act a été formellement adopté le 13 mars par le Parlement européen à une très large majorité. Cette législation, qui fait figure de première mondiale, crée une réglementation différenciée en fonction des risques que présentent les systèmes algorithmiques. Les IA à "haut risque", utilisées par exemple pour le maintien de l’ordre, seront soumis à des exigences strictes, telles que la réalisation d'une étude d’impact sur les droits fondamentaux. Les usages comme la notation sociale, la catégorisation ou l'étiquetage des individus seront interdits dès la fin de 2024. L'identification biométrique à distance dans l'espace public bénéficie pour sa part d'exceptions pour la recherche ciblée de victimes, en cas de menace "imminente et substantielle" ou pour rechercher un criminel. La majeure partie du texte entrera en vigueur en 2026 avec d'ici là de nombreux points à préciser sur la standardisation, les procédures d'évaluation de conformité, de contrôle et de sanction. En matière d'IA générative (IAG), les entreprises attendent également des éclaircissements sur le marquage des contenus créés par une IAG et sur la manière dont seront citées les sources. Un droit de retrait devra également être mis en place pour les ayants droit dont le contenu a été spolié. 

Autorités nationales à désigner

L'IA Act a prévu la création d'un "bureau européen de l'IA" rattaché à la Commission européenne pour piloter la mise en œuvre du texte ainsi qu'une gouvernance nationale. France urbaine demande pour sa part un "renforcement" des prérogatives de la Cnil dans ce domaine et la mobilisation de la Défenseure des droits. Le rapport sur l'IA rappelle de son côté qu'il y aura deux types d'entités pour réguler le secteur : "D’une part, les autorités dites notifiantes, qui sont chargées de désigner ('notifier') et de contrôler les organismes qui évaluent la conformité des systèmes d’IA mis sur le marché européen. D’autre part, les autorités de surveillance du marché, qui sont chargées de surveiller des enjeux propres à l’IA (supervision des tests par exemple) ou des enjeux sectoriels au croisement avec l’IA (marché financier, protection des données, répression des fraudes…)." Et sur cet enjeu de surveillance du marché, les auteurs incitent plutôt à "privilégier la compétence et la connaissance du marché en cause, sans chercher à désigner une autorité unique". Elle estimerait que cette autorité unique "réduirait la résilience de l’écosystème français et limiterait la montée en compétence des autorités sectorielles".