The Great Hack : Cambridge Analytica n’est que la partie visible de l’iceberg Par Joe Westby, chercheur d’Amnesty International sur les mégadonnées (Amnesty Tech)

Il s’agit du scandale qui a finalement révélé au grand jour le côté obscur de l’économie des mégadonnées (Big Data) au cœur d’Internet. Les coulisses de l’affaire Cambridge Analytica, ou comment une entreprise s’est servie des données personnelles de Facebook pour cibler de façon extrêmement précise les électeurs indécis lors des élections présidentielles américaines et les manipuler, sont évoqués dans un nouveau documentaire captivant, The Great Hack [1], disponible à partir du mercredi 24 juillet.

Cela dit, comme l’explique l’ancien PDG de la société (qui n’existe plus aujourd’hui) au réalisateur du documentaire : « Il y aura toujours des Cambridge Analytica ». Le documentaire s’emploie en effet à nous ouvrir les yeux sur la façon dont nos vies sont constamment surveillées – et contrôlées – par le biais des technologies numériques. Il révèle à quel point le modèle économique entier de certains géants du numérique pourrait menacer lourdement nos droits humains.

Dans le monde numérique et en ligne, toutes nos actions laissent des traces, générant un « sillage de données » : toutes nos données sont enregistrées, qu’il s’agisse de l’heure à laquelle nous avons fait le plein d’essence ou des sites Web que nous avons consultés. Une fois combinés, des points de données a priori inoffensifs peuvent en apprendre BEAUCOUP sur une personne.

Cambridge Analytica se targuait d’avoir récolté près de 5 000 points de données [2] sur chaque électeur américain. En réalisant une analyse comportementale ou « psychographique » des ensembles de données en sa possession, l’entreprise affirmait être en mesure de déterminer le type de personnalité d’une personne pour ensuite lui envoyer des messages microciblés afin d’influencer son comportement. La principale source de ces données était Facebook. Par l’intermédiaire d’une application tierce, Cambridge Analytica a siphonné les données concernant jusqu’à 87 millions [3] de profils Facebook, y compris les mises à jour de statuts, les mentions J’aime et même des messages privés.

Cette affaire n’est pas une simple exception : c’est une conséquence inévitable d’un système reposant sur la collecte et la monétisation de nos informations – modèle économique surnommé « capitalisme de surveillance » [4] par l’universitaire Shoshana Zuboff. Les principales caractéristiques de ce modèle sont les suivantes : agréger de gros volumes de données sur les gens, les utiliser pour déduire des profils incroyablement détaillés sur leur vie et leurs comportements, et vendre ces prédictions à des tierces parties, par exemple des annonceurs. Cambridge Analytica s’est contentée d’appliquer ce même modèle de base pour cibler des électeurs à la place des consommateurs.

Pivot de l’économie des données, ce modèle sous-tend un écosystème complexe d’entreprises technologiques, de courtiers en données [5], d’annonceurs publicitaires, etc. Ce sont toutefois les pionniers de ce modèle, Google et Facebook, qui jouissent d’un accès sans précédent au suivi et à la monétisation de nos vies, car ils contrôlent les principales portes d’accès (hormis en Chine) au monde numérique (à savoir, la recherche Google, Google Chrome, Android, YouTube, Instagram et WhatsApp).

Si, bien évidemment, Google et Facebook affirment depuis longtemps leur attachement [6] au respect des droits humains, nous sommes de plus en plus contraints de nous demander si le modèle de surveillance d’Internet n’est pas en lui-même incompatible avec nos droits humains.

Google et Facebook ont amassé dans leurs entrepôts de données un volume sans précédent d’informations sur les êtres humains. Ces données ne sont pas limitées à celles que vous choisissez de partager sur leurs plateformes, mais incluent les énormes quantités d’informations de suivi générées dès lors que vous interagissez avec le monde numérique. L’envergure de la surveillance de masse exercée par ces entreprises menace l’essence même du droit au respect de la vie privée. En effet, en 2010, le PDG de Facebook Mark Zuckerberg avait reconnu que les réseaux sociaux avaient déjà fait évoluer la « norme sociale » pour ce qui est du respect de la vie privée.

L’extraction des données n’est cependant que la première partie de l’histoire. L’étape suivante consiste à utiliser des méthodes d’analyse sophistiquées reposant sur l’apprentissage automatique pour construire le profil des gens et ainsi influencer leurs comportements. Alors que l’affaire Cambridge Analytica provoquait un tollé dans l’opinion publique, les propres pratiques de profilage de Facebook ont, dans une large mesure, échappé à tout contrôle. L’entreprise s’est intéressée au profilage psychographique, à la manipulation des émotions [7] et au ciblage des gens en fonction de vulnérabilités psychologiques [8], tels que les sentiments d’infériorité ou d’insécurité. Google a conçu un outil permettant de cibler les annonces publicitaires de façon si précise qu’elles peuvent amener les gens à changer d’opinions ou de comportements par le biais de l’« ingénierie sociale » [9]. Initialement imaginé pour lutter contre l’extrémisme islamique, cet outil est aujourd’hui disponible publiquement, tout le monde pouvant l’utiliser à bon ou mauvais escient.

The Great Hack soulève une question particulièrement urgente et dérangeante : dans quelle mesure sommes-nous sensibles à ce type de manipulation comportementale ? Si les capacités dans ce domaine sont aussi puissantes que l’affirment les entreprises et leurs clients, elles constituent en effet une menace réelle pour notre capacité à prendre des décisions nous concernant en toute indépendance, voire pour notre droit d’avoir nos propres opinions, compromettant ainsi la dignité, valeur fondamentale qui sous-tend l’ensemble des droits humains. La publicité et la propagande ne datent pas d’aujourd’hui, mais jamais les pratiques de ciblage des personnes n’avaient atteint un tel degré d’intimité, ni été déployées à l’échelle de populations entières.

En outre, ce modèle risque d’encourager la discrimination. Les entreprises – et les États – pourraient facilement faire un mauvais usage de l’analyse des données [10] en ciblant des personnes en fonction de leur race, de leur origine ethnique, de leur religion, de leur genre ou d’autres caractéristiques protégées. Les efforts visant à capter l’attention des utilisateurs et à les retenir sur les plateformes peuvent également favoriser la tendance toxique actuelle en faveur des politiques de diabolisation. Les internautes cliquent généralement davantage sur des contenus incendiaires ou jouant sur le sensationnalisme, ce qui signifie que les plateformes privilégient systématiquement les théories du complot [11], la misogynie et le racisme.

Que peut-on faire ? Le problème systémique et structurel que pose le modèle économique fondé sur les données ne sera pas facile à résoudre et nécessite d’associer des solutions politiques et réglementaires. Une partie de la réponse à ce problème est très certainement à chercher dans le renforcement de la protection des données : assurer correctement le respect du Règlement général sur la protection des données de l’Europe, qui a une portée internationale, et s’en servir de modèle dans d’autres pays permettraient de limiter l’ampleur de l’extraction de données et du profilage.

Les appels plus radicaux en faveur du démantèlement des géants du numérique sont désormais monnaie courante [12], et le secteur fait l’objet d’un examen par les autorités en charge de la concurrence dans plusieurs pays. La décision prise récemment par l’Office fédéral de lutte contre les cartels, en Allemagne, de limiter le partage et l’agrégation de données entre Facebook et WhatsApp est un exemple de mesure précise visant à lutter contre la concentration du pouvoir entre les mains des grands acteurs du marché.

Quels que soient les outils de régulation qui sont mis en œuvre, ils doivent absolument reposer sur une analyse des risques que pose le modèle pour les droits humains. Les droits humains fournissent le seul cadre international juridiquement contraignant à même d’appréhender les multiples impacts de ce modèle économique sur nos vies, de définir ce qu’est un être humain, et d’amener les entreprises à rendre des comptes.

Néanmoins, il apparaît nettement que les efforts actuellement déployés ne s’attaquent pas aux causes profondes du problème. Il y a de cela deux semaines, l’autorité de la concurrence américaine a approuvé une amende record d’un montant de 5 milliards de dollars à l’encontre de Facebook [13], à la suite de l’affaire Cambridge Analytica. Or, peu de temps après l’annonce de cette sanction, le cours de l’action de Facebook a augmenté.

Leçon à tirer : l’entreprise et ses investisseurs souhaitent que cette affaire reste un cas isolé. Facebook s’acquittera de l’amende infligée, somme toute peu élevée (5 milliards de dollars équivalent à une goutte d’eau dans l’océan pour une entreprise qui réalise 22 milliards de dollars de bénéfices par an [14]) et apportera quelques améliorations à la protection de la vie privée sur le réseau social, mais reprendra ensuite ses activités comme si de rien n’était.

Nous devons empêcher cela. Le moment est plus que venu de faire face aux répercussions du « capitalisme de surveillance » sur les droits humains.

Toutes les infos

Hong Kong : gazés, agressés et arrêtés pour avoir manifesté

Violences policières lors de manifestations à Hong Kong. Amnesty estime qu’il s’agit de violation du droit international. Signez notre pétition !