Une convention citoyenne incite Montpellier à se doter d'une IA "utile et sous contrôle"
Les citoyens mobilisés pour réfléchir à l'usage de l'IA dans la métropole de Montpellier ont remis leur copie. On y retrouve beaucoup de recommandations énoncées par la Cnil et le Conseil d'État. Cependant, face à une régulation qui va moins vite que la technologie, la convention citoyenne propose à la métropole de mettre en place un comité d'éthique pour superviser la mise en œuvre de l'IA territoriale.
© @Montpellier Métropole et Adobe stock
La convention citoyenne mise en place par la métropole de Montpellier a remis mi-mars 2024 ses recommandations sur l'usage de l'intelligence artificielle par la collectivité. Cette initiative "unique en France", selon Michaël Delafosse, maire de Montpellier, avait été décidée par la collectivité à l'automne 2023, comme une suite politique à sa décision "d'interdire" l'usage de ChatGPT dans ses services.
40 citoyens éclairés
Cette convention citoyenne a rassemblé de novembre 2023 à février 2024 40 citoyennes et citoyens représentatifs de la diversité démographique et sociale de Montpellier. Les participants ont bénéficié d'une phase de formation pour acquérir des connaissances de base sur l'IA, ses applications, ses enjeux éthiques, sociaux, économiques et environnementaux. Cette phase a inclus des présentations par des experts en IA, des ateliers éducatifs, et l'accès à des ressources documentaires. Sa mission était de formuler des recommandations, et de fixer "les conditions pour le déploiement d'IA publiques de confiance au service du territoire et des habitants".
Une IA vraiment utile
Huit principes sont formulés par la convention au premier rang desquels "l'utilité de l'IA". Elle invite à "une évaluation préalable" pour choisir des applications d'IA véritablement profitables au service public. Une évaluation qui doit prendre en compte la totalité des coûts : environnementaux, sociaux et sociétaux. En termes de secteurs d'application, elle valide la résolution des enjeux environnementaux, sous réserve que le rapport coût/bénéfice soit favorable, ainsi que la simplification du service au citoyen. Elle souhaite que le développement des usages de l'IA dans le domaine de la sécurité (notamment l'analyse d'images vidéo) soit assortis d'un débat démocratique et de la mise en place de contrôles.
Mutualiser les infrastructures
La convention insiste ensuite sur l'impact environnemental de l'IA. Elle recommande l'utilisation d'IA frugales, l'adoption d'équipements peu gourmands en ressources, la mutualisation des infrastructures et l'usage d'IA libres pour réduire l'empreinte écologique globale des technologies employées. Elle préconise de limiter l'utilisation des données aux seules données essentielles au fonctionnement des algorithmes. En termes de sécurité, elle invite au respect du RGPD, à la minimisation des données collectées et à l'utilisation de données anonymisées pour entraîner les algorithmes. Elle appelle à la vigilance sur les croisements de données sensibles (santé, ressources financières…) et invite la collectivité à mener systématiquement une étude d'impact quand l'IA manipule des données personnelles.
Un comité d'éthique pour piloter l'IA
La convention estime que la collectivité doit ensuite s'appuyer sur un comité d'éthique en attendant la mise en place d'un cadre juridique, "trop souvent en retard sur les avancées technologiques". Ce comité serait composé de citoyens et d'experts indépendants. Il aurait pour mission, en amont des projets, de s'assurer du respect des normes éthiques, de la protection de la vie privée et de l'équilibre environnemental. Il serait aussi chargé de contrôler les mesures prises pour éviter les erreurs et les biais. Ses avis, rendus publics, contribueraient à une prise de décision transparente et informée. La convention recommande à la métropole de recourir à un système de "labellisation éthique" pour les applications sensibles et d'organiser des consultations citoyennes en amont des projets. Tous les services où une IA intervient devront enfin être assortis d'explications sur les données personnelles et algorithmes utilisés.
Accompagnement et formation
Elle souligne enfin l'importance pour la métropole de disposer de compétences pointues en matière d'IA éthique, garantissant ainsi son indépendance vis-à-vis des fournisseurs externes. Elle estime aussi que l'IA doit être envisagée comme un outil au service des agents publics, destiné à améliorer l'efficacité des services en automatisant les tâches répétitives et en permettant aux agents de se consacrer à des missions à plus forte valeur ajoutée. Elle ajoute que les citoyens ne doivent pas être laissés seuls face à la machine et que toutes les décisions doivent rester supervisées par des humains. Elle insiste enfin sur la nécessaire appropriation de l'IA par le plus grand nombre, ce qui peut passer par des campagnes d'information, des programmes éducatifs et des initiatives de formation professionnelle adaptées à différents niveaux de compétences.
