« Le Parlement européen a aujourd’hui clairement indiqué que les droits humains doivent être placés au cœur même de ce texte en votant pour l’interdiction de plusieurs pratiques basées sur l’IA qui sont incompatibles avec les droits humains, a déclaré en réaction Mher Hakobyan, conseiller en matière de plaidoyer à Amnesty International.
« L’interdiction des systèmes d’identification biométrique à distance en temps réel constitue une avancée majeure. Ce texte n’interdit cependant pas la surveillance de masse a posteriori, se contentant de restreindre son utilisation au domaine de l’application des lois, avec des limites strictes. Le projet de texte interdirait également plusieurs utilisations nuisibles des systèmes d’IA qui discriminent les communautés marginalisées. Il s’agit notamment de technologies qui prétendent « prédire » des infractions, de systèmes de notation sociale qui empêchent certaines personnes d’accéder à des services publics ou privés essentiels, et de technologies de reconnaissance des émotions utilisées par les services d’application des lois et de surveillance des frontières pour "identifier" les personnes suspectes.
« Si le projet de texte vise à limiter les exportations par l’UE de systèmes d’IA considérés comme représentant un danger inacceptable pour les droits humains, il pourrait en revanche permettre à des fournisseurs de contourner la législation dans les cas où leurs technologies à haut risque sont développées uniquement pour l’exportation, ce qui pourrait rendre l’UE complice d’atteintes aux droits humains perpétrées hors de ses frontières. Le projet de texte sur l’IA s’abstient en outre d’interdire les systèmes de profilage discriminatoire qui attirent l’attention sur les personnes en mouvement en les considérant comme « un danger » et les systèmes de prédiction utilisés pour empêcher la migration, malgré les appels lancés par Amnesty International et d’autres membres de la société civile pour que ces technologies soient interdites.
« Il est inquiétant de constater que le projet de texte permet aux fournisseurs de systèmes d’IA utilisés pour l’application des lois, la gestion de la migration, la protection sociale et d’autres domaines d’importance majeure de contourner la législation en leur donnant la possibilité de décider si leurs systèmes représentent ou non un danger élevé pour les droits humains. La loi sur l’IA pourrait de ce fait être réduite à un simple « document d’orientation » pour les technologies d’IA à haut risque, au lieu de constituer une réglementation efficace.
« Amnesty International demande à l’UE de respecter ses engagements au regard du droit international. L’UE doit garantir une véritable transparence et un véritable respect de l’obligation de rendre des comptes sur l’utilisation et l’exportation des systèmes d’IA, ainsi que sur leur impact sur les droits humains, et elle doit veiller à ce que les personnes concernées puissent avoir un accès égal à ces technologies et disposer du droit de demander réparation en cas de préjudice. »
Complément d’information
La Commission européenne a présenté le 21 avril 2021 une proposition de texte [1] régissant l’utilisation de l’intelligence artificielle. Le Conseil de l’UE, qui représente les gouvernements nationaux des pays membres, a déjà adopté sa position [2] en décembre 2022. Le Parlement européen compte finaliser sa position en juin de cette année, à la suite de quoi les trois institutions devront s’accorder sur la teneur d’un texte commun.
Amnesty International a, dans le cadre de la coalition d’organisations de la société civile menée par le Réseau européen des droits numériques (EDRi), demandé l’adoption d’une réglementation européenne respectueuse des droits humains sur les technologies et pratiques en matière d’intelligence artificielle.