Les députés incitent l'administration à se saisir pleinement de l'intelligence artificielle générative

Face à un sujet aussi vaste que l'intelligence artificielle générative (IAG), Philippe Pradal (Horizons) et Stéphane Rambaud (RN) ont décidé de concentrer leurs travaux sur l'impact de cette technologie sur la protection de la vie privée et des droits d'auteurs. Un "périmètre qui s'est révélé bien restreint", la cinquantaine d'auditions menées ces huit derniers mois par la mission ayant été l'occasion de soulever de multiples questions autour de la souveraineté, de l'emploi ou encore de la culture et de l'éducation. Le premier constat des parlementaires est que le phénomène de l'IAG est "difficile à circonscrire". Si aujourd'hui elle produit surtout des textes et des images, elle pourrait générer à l'avenir "des choses que même les auteurs de science-fiction ne peuvent imaginer". Autre mise au point : l'IAG est capable de créer en quelques secondes une dissertation qui sera bien notée par un professeur, mais ne comprend aujourd'hui pas ce qu'elle énonce… L'IAG repose en effet sur un système "probabiliste" et génère des contenus à partir de bases de connaissances créées par des humains.

Identifier les usages dans les administrations

Les députés constatent ensuite que la percée fulgurante de l'IAG repose avant tout sur des acteurs privés, essentiellement américains. Les députés déplorent "l'attentisme" de beaucoup d'administrations interrogées. La gendarmerie nationale se révèle être une des rares administrations en pointe. L'IAG sert ainsi à vieillir les traits de personnes recherchées. Elle a également développé un logiciel aidant à identifier un "deepfake" ou hypertrucage, vidéos créées par une IAG où des personnes semblent dire ou faire des choses qu'elles n'ont jamais dites ou faites. Le ministère de la Justice utilise pour sa part l'IAG pour établir des liens entre différentes affaires et détecter des fraudes. La mission mentionne aussi Albert, l'IA conçue par la Direction interministérielle du numérique pour faciliter l'accès aux informations et services publics en ligne, l'IAG aidant à personnaliser et enrichir les réponses des agents (notre article du 14 décembre 2023). Ces initiatives restent cependant très isolées et la mission suggère un audit pour identifier les usages pertinents de l'IAG dans les administrations. Ils estiment aussi que la gouvernance actuelle de la stratégie IA de l'Etat est "nébuleuse" et appellent à désigner un coordonnateur national de l'IA. Son objectif serait notamment d'aider à l'émergence de solutions souveraines et d'éviter que les administrations se tournent vers des solutions américaines comme encore récemment (notre article du 7 février 2024).

Compléter le cadre européen

Coté régulation, les députés estiment que le niveau européen est "le seul échelon pertinent" pour fixer les règles. Ce cadre doit "trouver un équilibre entre innovation et régulation", les députés redoutant qu'une régulation trop stricte ne contribue à créer un "paradis des données" aux portes de l'Union européenne. Le contrôle des données d'entraînement des grands modèles, le marquage des contenus générés par l'IAG, la mention des sources utilisées prévue par le l'IA Act européen vont ainsi dans le bon sens, selon la mission. Ils estiment néanmoins que l'IAG nécessite des "adaptations" du droit français, notamment pour ce qui concerne les infractions de plagiat, de diffamation et d'injures. Ils proposent également de créer une infraction pénale spécifique pour les hypertrucages et d'adapter le régime de la preuve car il est très difficile pour un utilisateur de démontrer les failles d'un modèle. L'essentiel de la régulation des plateformes d'IAG relèveraient cependant du "droit souple" avec la mise en place de chartes de bonnes pratiques. Ils estiment enfin nécessaire de faire de la Commission nationale informatique et liberté (Cnil) l'autorité nationale en charge de l'IA. Celle-ci serait chargée de contrôler les règles européennes et assurerait un rôle de coordonnateur avec les autres autorités indépendantes.