L'IA et les usages sécuritaires parmi les priorités de Marie-Laure Denis, reconduite à la tête de la Cnil
La candidature de Marie-Laure Denis pour se succéder à elle-même à la tête de la Cnil a été validée par l'Assemblée nationale et le Sénat le 17 janvier. Devant les sénateurs, la présidente de la Cnil a fait un bilan de son action et évoqué ses priorités pour les cinq ans à venir. Avec en tête la régulation de l'intelligence artificielle et des usages sécuritaires des technologies.
© Capture vidéo Sénat/ Marie-Laure Denis
Nommée juste avant l'entrée en vigueur du RGPD, la présidente de la Cnil, Marie-Laure Denis, n'aura pas eu de mal à convaincre le Sénat de sa capacité à gérer de gros dossiers. Car outre le nouveau règlement européen, la commission aura eu à accompagner le volet numérique de la crise du Covid (pass sanitaire, application Tousanticovid…) et à produire des avis sur pas moins de 31 textes de loi.
Accompagnement des collectivités sur le RGPD et le cyber
Sur le RGPD, la présidente a fait valoir le dispositif pédagogique mis en place par la Cnil. Le Mooc RGPD dédié aux collectivités territoriales a ainsi été suivi par plus de "40.000 personnes". Un accompagnement sur la protection des données qui a pris un nouvel essor avec "l'explosion des risques cyber", ciblant principalement les PME et les collectivités. La commission a travaillé de concert avec Cybermalveillance pour promouvoir les gestes simples qui permettent d'échapper au pire.
Sur le volet répressif, la Commission a dû adapter ses services pour traiter l'envolée des plaintes (16.000 en 2023). La présidente s'est cependant félicitée qu'en 2023 "pour la première fois depuis plus de 10 ans, la Cnil a traité davantage de plaintes qu'elle n'en a reçu". Le nombre de mises en demeure et de sanctions a par ailleurs "triplé en 5 ans" pour atteindre 168 mises en demeure et 42 sanctions en 2023. Ces sanctions ont atteint au total un demi-milliard d'euros, à comparer avec les "quelques centaines de milliers d'euros" qu'elles représentaient en 2019. Parmi les structures mises en demeure, une vingtaine de collectivités n'ayant pas désigné de délégué à la protection des données (DPO). Mais si les communes pointées du doigt se sont mises en conformité, le sujet est loin d'être clos avec 42% des communes qui n'ont toujours pas de DPO.
La Cnil au défi de l'IA
Pour le mandat à venir, la présidente de la Cnil a affiché plusieurs priorités. La première concerne le développement de l'intelligence artificielle qu'elle souhaite concilier avec les règles du RGPD, et notamment le droit à accéder, modifier ou effacer ses données personnelles. Marie-Laure Denis a cependant reconnu qu'il s'agissait d'un "défi", face à un outil comme Chat GPT qui mobilise "175 milliards de paramètres". Elle a cependant cité le précédent des moteurs de recherche pour lesquels l'Europe a inventé le "droit à l'oubli". La Cnil souhaite également accompagner un "chat GPT" français pour développer un modèle conforme au RGPD. La Cnil accompagne par ailleurs une dizaine d'organismes sur les usages de l'IA dans les services publics, dont Nantes métropole sur un projet IA et consommation d'eau. Le programme devrait déboucher d'ici l'été sur un partage des bonnes pratiques et des recommandations concrètes à destination des administrations.
Un cadre pour la vidéosurveillance augmentée
La seconde priorité de la présidente est d'aider les pouvoirs publics à trouver "un équilibre entre liberté et sécurité" dans le déploiement des technologies à finalité régalienne. "Le dialogue avec les pouvoirs publics doit permettre de garantir un usage de ces technologies efficace et pertinent pour la protection de la vie privée et ainsi de renforcer la confiance des citoyens", a-t-elle affirmé. Elle s'est félicitée de l'expérimentation de la vidéoprotections augmentée dans le cadre des jeux olympiques, que la commission accompagne, qui permettra de "vérifier que les moyens de surveillance sont proportionnés et respectent le droit des personnes". Interpellée par plusieurs sénateurs sur l'affaire Briefcam – le ministère de l'Intérieur et plusieurs collectivités sont soupçonnées d'avoir utilisé illégalement les fonctionnalités de reconnaissance faciale de ce logiciel – la Cnil a rappelé qu'un questionnaire avait été adressé au ministère, à l'issue duquel la Commission pourrait dépêcher des agents enquêteurs. Sept collectivités font par ailleurs l'objet d'investigations sur leur dispositif de vidéoprotection.
La troisième priorité de la présidente sera la protection des enfants et adolescents face aux "effets indésirables du numérique". La Cnil va enrichir son offre de contenus pédagogiques tout en accompagnant les pouvoirs publics dans la sécurisation de l'espace numérique.
Enfin, en termes de méthode, la présidente a assuré que la Cnil voulait "aller au contact du terrain", notamment avec les élus afin "d'enrichir ses interactions", sans toutefois évoquer de régionalisation de la Cnil.
