L’intelligence artificielle et le futur des droits humains

Amnesty International a lancé son premier programme structuré de travail sur les technologies et les droits humains il y a environ trois ans, en grande partie en réaction aux révélations d’Edward Snowden sur les programmes de surveillance de masse des États-Unis et du Royaume-Uni.

Nous savions qu’en tant que principale organisation de défense des droits humains dans le monde, nous devions adopter une démarche volontariste et réfléchie concernant l’impact des nouvelles technologies sur les droits fondamentaux. Si nous souhaitions que les libertés que nous tenons pour acquises et que nous chérissons continuent à se développer, non seulement sur Internet mais également en relation avec les autres technologies qui propulsent la quatrième révolution industrielle, alors la société civile devait se montrer à la hauteur.

Tandis qu’Amnesty International entamait un travail sur les relations entre technologies et droits humains, le domaine de l’intelligence artificielle connaissait une incroyable transformation. Les mégadonnées, associées à la puissance accrue du traitement informatique et à l’informatique en nuage, dématérialisée, ont fortement stimulé les techniques d’apprentissage automatique qui existaient déjà depuis des dizaines d’années.


En l’espace de quelques années, l’intelligence artificielle est certainement devenue la technologie influant le plus sur les produits et services destinés aux consommateurs, et de manière croissante, sur les services publics. Il est apparu clairement que l’intelligence artificielle aurait un énorme impact social, présentant de nombreux avantages mais également des inconvénients potentiels considérables.

À Amnesty International, nous avons compris que nous devions anticiper et comprendre l’intelligence artificielle, notamment ses effets positifs et négatifs, et promouvoir le respect des droits humains dans le cadre du développement et de l’utilisation de cette technologie.

En juin dernier, Salil Shetty, notre secrétaire général, a annoncé le lancement de l’initiative Intelligence artificielle et droits humains d’Amnesty International, qui recouvre nos recherches dans ce domaine, notre action et notre travail en matière d’innovation, dans l’objectif d’optimiser les avantages de l’intelligence artificielle pour défendre et promouvoir les droits humains, et de réduire au maximum les risques représentés par le développement et l’utilisation intentionnels mais également fortuits de cette technologie.

L’initiative Intelligence artificielle et droits humains n’en est qu’à ses débuts, mais nous avons clairement fixé et défini des priorités :

En ce qui concerne les utilisations de l’intelligence artificielle en faveur des droits humains, nous procédons actuellement à une expérience pilote en matière d’apprentissage automatique dans le cadre de nos recherches sur les violations de ces droits, et nous travaillons sur un projet enthousiasmant visant à étendre ces méthodes à l’ensemble de nos recherches et actions, en étroite collaboration avec des experts de la question et nos partenaires. Nous soutenons vivement le mouvement AI for Good.

Concernant les impacts négatifs existants et potentiels de l’intelligence artificielle sur les droits humains, nous nous appuyons sur des recherches et études sérieuses, conjuguées à un dialogue constructif avec des entreprises et des décideurs politiques.

Les domaines auxquels nous nous intéressons tout particulièrement sont l’obligation de rendre des comptes, la transparence et la possibilité d’obtenir des recours dans les contextes suivants :

 Le risque de discrimination associé à l’utilisation de l’apprentissage automatique, en particulier dans le cadre du maintien de l’ordre, du système pénal et de l’accès à des services économiques et sociaux essentiels ;

 La possibilité d’un développement de systèmes d’armement autonomes ;

 L’impact de l’automatisation sur la société, notamment sur le droit au travail et à des moyens de subsistance ;

 Les effets de l’intelligence artificielle sur la confidentialité et la fiabilité des informations.

Nous nous intéressons également à des questions en rapport avec la sécurité à long terme de l’intelligence artificielle, en particulier aux risques qu’elle pourrait représenter pour notre existence, même si cette éventualité paraît peu probable. Nous estimons que collectivement, les gouvernements, les entreprises et les acteurs de la société civile actuels ont le devoir, vis-à-vis des générations futures, d’étudier avec soin les possibles menaces graves à la survie de l’humanité, même si ces risques semblent faibles, et de prendre des mesures décisives et réfléchies afin de prévenir les scénarios les plus alarmants.

Un facteur essentiel du succès de notre travail sur l’intelligence artificielle et les droits humains sera l’instauration d’un dialogue constructif avec les divers acteurs participant au développement de cette technologie et présidant à l’élaboration de normes éthiques relatives à son utilisation.

C’est pourquoi Amnesty International a choisi de rejoindre le Partnership on Artificial Intelligence to benefit people and society, pour que l’intelligence artificielle bénéficie aux personnes et à la société. Cette organisation rassemble quelques-uns des plus éminents chercheurs travaillant sur l’intelligence artificielle, des acteurs de l’industrie de la haute technologie, des universitaires et des membres de la société civile. Ce partenariat sur l’intelligence artificielle a pour objectif d’examiner des questions telles que l’équité et l’inclusion, la clarté des explications et la transparence, la sécurité et la protection de la vie privée, les valeurs et l’éthique, mais aussi d’encourager les efforts vers lesquels tendre afin que le développement de l’intelligence artificielle se traduise par des avancées sur le plan social.

Amnesty International a rejoint ce partenariat parce qu’il s’agit d’une plateforme internationale cruciale pour le développement de modes d’utilisation de l’intelligence artificielle qui soient avantageux, et pour l’élaboration des paramètres éthiques de son utilisation. Nous avons la conviction qu’une technologie aussi puissante et complexe que l’intelligence artificielle requiert un dialogue constructif et des collaborations entre intellectuels, entreprises et acteurs de la société civile à ce stade relativement peu avancé, afin d’optimiser les avantages et de limiter au maximum les risques pour les droits humains, maintenant et à l’avenir.

Toutes les infos

Infos liées

Marathon 2017 : SIGNEZ POUR LES DÉFENSEURS DES DROITS HUMAINS

Cette année, les 10 individus en danger du Marathon des lettres sont des défenseurs des droits humains. Ils ont tous besoin de votre aide. Nous vous proposons de signer pour eux, en un seul clic.