La Défenseure des droits dénonce les risques discriminatoires de la reconnaissance faciale

Lentement mais durablement, la biométrie s’immisce dans nos vies pour simplifier l’accès à un compte bancaire ou déverrouiller un smartphone. Elle est également déployée dans les aéroports pour accélérer le contrôle des passagers. C’est aussi la technologie privilégiée pour l’enrôlement dans l’application d’authentification Alicem testée par le ministère de l’Intérieur. Elle intéresse surtout de multiples secteurs d’activité des ressources humaines à la sécurité des biens et des personnes.

Un taux d’erreur inacceptable

Or pour la Défenseure des droits, dans un rapport publié le 20 juillet 2021 visant à alimenter les réflexions en cours sur l’intelligence artificielle au niveau national et européen, toutes ces technologies biométriques, pourraient se développer "au détriment d'une partie de la population" ou "au prix d'une surveillance généralisée". Le risque de discrimination est plus particulièrement pointé du doigt. "Si les systèmes d’authentification, notamment de reconnaissance faciale, peuvent proposer des taux de précision atteignant 99,5%, ces 0,5% restants peuvent représenter une multitude d’individus exposés à un traitement inégal", note le rapport. Un risque de discrimination qui dépasserait la sphère policière et pourrait aussi concerner des usages "privés". Le rapport cite le cas des ressources humaines où l’analyse automatique des émotions et la notation de la personnalité des candidats pourraient aboutir à exclure de l’emploi des personnes handicapées ou tout simplement différentes.

Interdire la reconnaissance faciale dans l’espace public

Dans la lignée de la Cnil, la Défenseure des droits souligne ensuite l’impossible consentement des personnes quand la technologie est déployée sur l’espace public. "Les technologies biométriques d’identification et d’évaluation ne permettent pas aux personnes de s’opposer à leur utilisation ou de leur préférer une voie alternative", déplore-t-elle. Cette catégorie d’usage pourrait aussi aboutir à "collecter de manière généralisée et indifférenciée les données biométriques de chaque personne entrant dans leur champ d’opération, enfants compris". Pour ces raisons, elle appelle à une interdiction de toute technologie de reconnaissance faciale dans l’espace public applicable à l’ensemble des dispositifs (vidéosurveillance, caméras-piétons) comme le législateur l’a d’ores et déjà acté pour les drones. Et si la loi venait à autoriser leur utilisation dans certains domaines, elle demande à ce que les autorisations soient délivrées au compte-gouttes, pour des durées limitées, sous le strict contrôle de la Cnil.

Garder les algorithmes sous contrôle

D’une manière plus générale, la Défenseure des droits souhaite que les alternatives aux solutions biométriques soient systématiquement étudiées. Elle préconise que les analyses d’impact et le contrôle des systèmes biométriques ne se limitent pas aux dimensions cybersécurité et protection des données personnelles mais intègrent l’analyse des biais discriminatoires et le respect des droits des mineurs. Elle recommande que les algorithmes soient régulièrement audités après leur déploiement pour vérifier leurs effets. Elle invite à améliorer la fiabilité des algorithmes en les entrainant sur des bases de données plus variées "à même de refléter la diversité de la population réelle". Elle préconise enfin d’abaisser le seuil d’évaluation des marchés publics informatiques de l’Etat - aujourd’hui contrôlés par la Dinum dès qu’ils dépassent 9 millions d’euros - et d’intégrer à leur contrôle, au-delà des aspects budgétaires, une appréciation des risques de discrimination.