La Cnil se dote d'un service dédié à l'intelligence artificielle

La Commission nationale de l'informatique et des libertés (Cnil) possède désormais son service consacré à l'intelligence artificielle (IA). Ce service (SIA) réunira cinq personnes, des juristes et des ingénieurs spécialisés, précise la Commission dans un communiqué du 23 janvier 2023. Ses principales missions consisteront à faciliter "au sein de la Cnil la compréhension du fonctionnement des systèmes d’IA", mais aussi "pour les professionnels et les particuliers" ; à "consolider son expertise dans la connaissance et la prévention des risques pour la vie privée liées à la mise en œuvre de ces systèmes" et "à préparer l’entrée en application du règlement européen sur l’IA qui est en cours de discussion au niveau européen".

En écho à une étude du Conseil d'État

Cette évolution de la Cnil fait écho à une étude du Conseil d’État publiée le 30 août 2022 sur l'usage de l’intelligence artificielle dans les administrations (lire notre article du 1er septembre 2022). Elle préconisait de renforcer les moyens de la Cnil et de faire évoluer son rôle pour "qu'elle devienne également une des autorités nationales de contrôle responsables de la régulation des systèmes d’IA". Elle mettait aussi en avant l’importance pour la Cnil de jouer "un rôle d’autorité de coordination et de supervision", en fonction des dispositions du futur règlement européen, et ainsi "d’assurer le maillage d’un vaste réseau d’institutions publiques allant des autorités de surveillance de marché aux régulateurs sectoriels". Dans son communiqué, la Cnil se réjouit que "sans attendre l’évolution du cadre juridique", la création de ce service est venue répondre à "un enjeu de société dont l’importance augmente chaque jour".

Boîte noire

Car si les bénéfices liés à l’usage des algorithmes et de l’IA sont incontestables, la Cnil souligne que leur fonctionnement repose sur le traitement d’un grand nombre de données, très souvent personnelles, et que leur mise en œuvre comporte ainsi des risques pour la vie privée. Par ailleurs, "il existe des enjeux d’information pour les utilisateurs ainsi que de compréhension du fonctionnement précis des systèmes mais également pour les responsables de traitements de données ou encore pour les régulateurs dans le cadre de leurs missions d’audit et de contrôle", détaille encore la Cnil. La création du SIA répond donc à ces enjeux : "Organiser la transparence et la compréhension d’une technologie bien souvent perçue comme une 'boîte noire' afin d’en assurer une régulation équilibrée et permettre aux organismes, aux personnes concernées."

Travaux sur les bases de données d’apprentissage

En parallèle de la présentation du SIA, la Cnil annonce le lancement de travaux sur les bases de données d’apprentissage. En effet, les systèmes d’IA, en particulier ceux reposant sur l’apprentissage automatique, nécessitent très souvent l’utilisation d’importants volumes de données personnelles pour l’entraînement des algorithmes. La Cnil annonce donc la publication d'un programme de travail pour accompagner les professionnels et garantir le respect des droits des personnes. "De nombreux organismes publics souhaitant constituer des bases de données pour l’entraînement et le développement d’IA ont fait part à la Cnil d’interrogations sur la légalité de certains usages", souligne-t-elle.  Les travaux à venir ont donc pour objet de préciser la position de la Cnil sur ce point et de promouvoir des bonnes pratiques, au titre des exigences posées par le RGPD, mais aussi dans la perspective de la proposition de règlement sur l’IA actuellement débattue au niveau européen.