Règlement européen sur l'IA : la Défenseure des droits demande des garanties sur la non-discrimination
Alors que le Conseil, la Commission et le Parlement européens ont entamé les ultimes négociations sur le règlement européen sur l'Intelligence artificielle (IA act), la Défenseure des droits a appelé le 28 septembre 2023 à ce que ce texte "permette de garantir le droit de la non-discrimination dans le développement de l'IA à l’échelle européenne". Claire Hédon rappelle que l'IA peut contribuer à renforcer les discriminations citant l’exemple de "biais sexistes" repérés dans plusieurs algorithmes utilisés pour trier des CV ou encore le ciblage des contrôles en matière d’aide sociale sur "certaines personnes en raison de leur lieu de résidence et de leur situation de famille".
La Défenseure des droits promeut plusieurs mesures pour protéger les citoyens. Elle souhaite que les victimes de discriminations liées à l'IA puissent saisir gratuitement et facilement des organismes nationaux tels que le Défenseur des droits. Elle demande par ailleurs "une application harmonisée et cohérente du principe de non-discrimination" avec la mise en place d'une coopération entre les autorités nationales de contrôles prévue par le règlement et les organismes nationaux de promotion de l’égalité. Elle demande enfin une bonne information des personnes affectées par un système d'IA sur leurs droits à être protégées des discriminations.
Au niveau européen, les négociations s'annoncent difficiles en raison de dissensions sur la régulation des IA génératives, la protection des droits d’auteur et l'exclusion du règlement, ou pas, des IA à vocation militaire.
