« Il est honteux que Google choisisse de créer ce dangereux précédent, après avoir reconnu pendant des années que son programme d’IA ne devait pas être employé d’une façon susceptible de contribuer à des violations des droits humains. Amnesty International recense depuis longtemps [1] les violations que l’IA peut entraîner lorsqu’elle est utilisée comme moyen de contrôle sociétal, de surveillance de masse et de discrimination, a déclaré Matt Mahmoudi, chercheur et conseiller sur l’intelligence artificielle et les droits humains à Amnesty International.
« Les technologies basées sur l’IA pourraient alimenter des systèmes de surveillance et d’homicide à grande échelle, risquant d’entraîner des violations massives et de porter atteinte au droit fondamental au respect de la vie privée. La décision de Google de lever son interdiction des armes basées sur l’IA permet à l’entreprise de vendre des produits qui favorisent des technologies telles que la surveillance de masse, les drones développés pour des frappes de signature semi-automatisées et les logiciels de génération de cibles conçus pour accélérer la décision de tuer.
« Google doit annuler sans attendre ces récents changements sur les principes directeurs en matière d’IA et s’engager à nouveau à ne pas développer ni vendre des systèmes susceptibles de favoriser de graves violations des droits humains.
« Il est par ailleurs crucial que les acteurs étatiques établissent des réglementations contraignantes régissant le déploiement de ces technologies, fondées sur les principes des droits humains. Les entreprises technologiques se targuent de s’autoréguler, ce qui ne doit pas nous détourner de la nécessité d’élaborer une législation solide qui permette de protéger les droits fondamentaux. »
Complément d’information
Le 4 février 2025, Google a supprimé de son site Internet [2] l’engagement promettant de ne pas développer de technologies qui « provoquent un préjudice global », notamment des armes et des systèmes de surveillance, ainsi que « les technologies dont l’objectif contrevient aux principes largement acceptés du droit international et des droits humains ».
Google a défendu ce changement [3], faisant valoir que les entreprises et les gouvernements devraient travailler ensemble pour développer une IA qui « renforce la sécurité nationale. »
Dans ses recherches [4], Amnesty International a recueilli des informations sur la façon dont les systèmes de reconnaissance faciale peuvent amplifier les pratiques policières discriminatoires sur le plan racial et menacer le droit de manifester.
En 2019, les recherches d’Amnesty International ont révélé que le modèle économique mis en place par Google, fondé sur la surveillance, est par nature incompatible avec le droit à la vie privée et représente une menace pour tout un éventail d’autres droits, notamment les droits à la liberté d’opinion, d’expression et de pensée, ainsi que les droits à l’égalité et à la non-discrimination.
Turquie, Les autorités doivent acquitter les accusés du parc Gezi et mettre fin à cette série d’injustices