« L’UE a l’occasion de faire preuve de leadership international en adoptant cette règlementation robuste et inédite afin de protéger les droits fondamentaux et d’atténuer les multiples risques que posent les technologies de l’IA. L’UE ne doit pas fléchir devant ce dernier obstacle, et ses États membres, comme la France, l’Allemagne et l’Italie, ne doivent pas saper la loi sur l’IA en cédant devant l’industrie technologique qui affirme que son adoption conduirait à une réglementation sévère qui freinerait l’innovation, a déclaré Agnès Callamard, secrétaire générale d’Amnesty International.
« N’oublions pas que l’opposition entre innovation et réglementation est une fausse dichotomie que les entreprises technologiques colportent depuis des années pour se soustraire à leur obligation de rendre des comptes et à une réglementation contraignante. Une nouvelle fois, cela met en évidence la concentration du pouvoir d’une poignée d’entreprises qui cherchent à fixer les termes de la première réglementation mondiale sur l’IA.
« De nombreux éléments attestent que les technologies de l’IA amplifient les préjudices et la discrimination en matière de droits humains lorsqu’elles sont utilisées à des fins de surveillance de masse, de maintien de l’ordre et de répartition de l’aide sociale, ainsi qu’aux frontières. Les groupes marginalisés, notamment les personnes migrantes, réfugiées et demandeuses d’asile, sont particulièrement touchés et ciblés.
« Il est impératif que la France, l’Allemagne et l’Italie cessent de retarder le processus de négociation, et que les législateurs européens s’assurent que les protections cruciales des droits humains soient codifiées dans la loi avant la fin du mandat actuel de l’UE en 2024 »
« Dès à présent, des États utilisent des systèmes d’IA non réglementés pour évaluer les demandes d’aide sociale, surveiller l’espace public ou déterminer la probabilité qu’une personne commette un crime. Les États membres de l’UE ne doivent pas gâcher cette occasion d’obtenir un texte législatif solide qui garantirait les droits humains, notamment en mettant fin à l’utilisation et à l’exportation de technologies de surveillance massive et discriminatoire telles que la reconnaissance faciale, et en soumettant l’utilisation de l’IA par la police, les services de l’immigration et les autorités chargées de la sécurité nationale à des mesures strictes en matière de transparence et d’obligation de rendre des comptes.
« Il est impératif que la France, l’Allemagne et l’Italie cessent de retarder le processus de négociation, et que les législateurs européens s’assurent que les protections cruciales des droits humains soient codifiées dans la loi avant la fin du mandat actuel de l’UE en 2024. »
Complément d’information
Amnesty International, qui fait partie d’une coalition d’organisations de la société civile menée par le Réseau européen des droits numériques (EDRi), a demandé [1] l’adoption d’une réglementation européenne sur l’intelligence artificielle qui protège et promeuve les droits humains, notamment les droits des personnes en mouvement [2].