Bruxelles souhaite un moratoire sur la reconnaissance faciale dans l'espace public
La Commission européenne planche sur l'encadrement de l'intelligence artificielle. Parmi les mesures envisagées, un moratoire de trois à cinq ans sur la reconnaissance faciale déployée sur l'espace public.
© Stine Heilmann / Commissaire au numérique, Margrethe Vestager
L'agence Reuters a dévoilé mi-janvier un projet de livre blanc émanant de Bruxelles (publié ici par Euractiv) portant sur la régulation de l'intelligence artificielle, l'une des priorités "des 100 jours" de la nouvelle Commission. Bruxelles souhaite s'assurer que cette technologie soit utilisée en respectant les valeurs européennes, notamment sur la protection de la vie privée. Le futur cadre européen pourrait notamment "inclure une interdiction limitée dans le temps de l'utilisation de la technologie de reconnaissance faciale dans les espaces publics". Ce moratoire, évalué de trois à cinq ans, serait consacré à "l'élaboration d'une méthodologie rigoureuse destinée à évaluer l’impact de cette technologie et d’éventuelles mesures de gestion des risques pourraient être identifiées et développées". Un moratoire accompagné d'exceptions "pour des projets en matière de sécurité ou de recherche".
Un cadre européen pour les algorithmes et la reconnaissance d'images
Plusieurs pistes sont détaillées pour réguler l'intelligence artificielle. La première consisterait à labelliser les développeurs "choisissant de se conformer, sur une base volontaire, aux normes d’une intelligence artificielle éthique et fiable". La seconde viserait à créer un cadre spécifique pour les administrations publiques, pour réguler notamment les prises de décision automatisées via l'usage d'algorithmes. La régulation de la reconnaissance faciale dans l'espace public tiendra compte du RGPD qui donne aux citoyens "le droit de ne pas faire l’objet d’une décision fondée uniquement sur un traitement automatisé, y compris le profilage". La santé, les transports, la police – considérés comme des secteurs "à haut risque" – feraient ensuite l'objet de normes spécifiques. La note de la Commission s'intéresse enfin à la gouvernance et aux responsabilités en matière d'IA avec, en perspective, un renforcement du rôle des autorités nationales et une clarification des responsabilités des développeurs. Une directive spécifique est à ce stade exclue, la Commission privilégiant un toilettage des textes existants.
Ces propositions sont en cours d'arbitrage, la commissaire au numérique, Margrethe Vestager, devant les officialiser courant février. A court terme, ce projet de moratoire pourrait contrarier les ambitions du gouvernement français qui s'est prononcé pour des expérimentations dès 2020, en préalable à un débat public.
Un recours contre la vidéosurveillance intelligente à Marseille
L'absence de base juridique solide fonde le recours déposé le 17 janvier par la Quadrature du net et la ligue des droits de l'Homme auprès du tribunal administratif de Marseille. Les requérants demandent la suspension du dispositif de vidéoprotection "intelligente" envisagé par la mairie de Marseille. Partant du constat que les agents en charge de la vidéoprotection ne peuvent visionner l'ensemble des flux vidéo, le marché de la ville prévoit l'usage de logiciels et d'algorithmes de détection. Les fonctions d'analyse comportementales sont plus particulièrement visées : "détection sonore", "reconstitution d’événements" (comme le parcours d’un individu) et détection de "comportements anormaux" (bagarres...). Les associations dénoncent l'absence d'étude d'impact, l'usage disproportionné de la biométrie et le risque d'une "surveillance généralisée de la voie publique".
