Villes intelligentes : un rêve qui pourrait virer au cauchemar Par Lucien Begault, stagiaire en recherche, et Jessika Khazrik, experte et conseillère en technologie à Amnesty Tech

Masdar City [1], Songdo [2], PlanIT Valley [3]. Ces noms ne vous disent rien ? C’est normal, deux de ces projets ne se sont jamais concrétisés. Cependant, ces noms sont bien connus des adeptes des « villes intelligentes » (« smart cities »). Songdo est la seule ville qui soit sortie de terre, mais tous ces prototypes sont le reflet d’utopies imaginées dans le cadre de projets de ville intelligente. Durabilité, interconnectivité et optimisation des services sont les maîtres mots de ces terres promises, mais les villes intelligentes ont-elles un coût en matière de droits humains ?

Cette semaine, Sidewalk Labs, une filiale d’Alphabet, a publié un plan directeur [4] de 1 500 pages, attendu de longue date. Un grand projet de ville intelligente, dans le quartier des quais de Toronto, y est présenté. Il a donné lieu à l’expression des deux points de vue caractéristiques du débat sur les villes intelligentes. D’un côté, l’entreprise promet un « modèle mondial de croissance urbaine inclusive », qui créerait des emplois et aurait un impact positif sur le climat. De l’autre, de nombreuses voix se sont élevées pour dénoncer des risques d’atteintes à la vie privée, depuis des groupes locaux [5] à un ancien directeur général de Blackberry [6], en passant par la femme de lettres Shoshana Zuboff, qui a qualifié le projet de « ligne de front d’un conflit historique entre le capitalisme de surveillance et la démocratie » [7].

Qu’est-ce qu’une ville intellligente ?

Les villes intelligentes sont devenues de plus en plus en vogue dans le domaine de l’aménagement urbain ces 10 à 15 dernières années [8]. Le secteur se développe à un rythme effréné [9] : des solutions de ville intelligente sont mises en œuvre dans le monde entier et de plus en plus sur les marchés émergents [10], souvent avec le soutien de l’ONU par le biais d’initiatives telles que le programme United Smart Cities [11].

Ces villes sont présentées comme « intelligentes » car elles sont capables, grâce à un réseau de dispositifs interconnectés et à de nouvelles infrastructures, de collecter des données sur l’environnement, qu’elles hébergent, surveillent, transmettent, et auxquelles elles réagissent et/ou s’adaptent. Dans les supports marketing de fournisseurs privés tels qu’IBM [12], Oracle [13] et CISCO [14], les termes sont soigneusement choisis pour donner une image idéale de ces villes - Sidewalk Labs décrit ainsi son projet pour Toronto comme « la ville de rêve de demain ».

Au-delà des belles paroles, les villes intelligentes visent fondamentalement à apporter aux problèmes urbains des solutions centrées sur les données. En effet, les villes intelligentes renvoient à l’Internet des objets - un réseau en expansion d’appareils connectés [15] via Internet, des réfrigérateurs intelligents aux systèmes de chauffage intelligents, qui permet à ces appareils de communiquer avec les utilisateurs, les développeurs, les applications et entre eux, en collectant et en échangeant des données à partir de leur environnement surveillé.

Les villes intelligentes reposent sur le suivi et l’analyse de vastes quantités de données, auparavant inexploitées, sur les mouvements et les activités des populations urbaines. De ce fait, les projets de ville intelligente, aussi attrayants soient-ils, restent largement des utopies, et risquent dans la pratique de devenir rapidement des dystopies ou contre-utopies [16]. Les avantages des villes intelligentes ont été salués haut et fort. Mais en réalité, l’introduction de technologies entièrement intégrées et centrées sur les données dans les infrastructures et la gestion des villes présente de graves dangers pour les droits humains.

La vie privée dans l’espace public - une notion révolue ?

L’agrégation de données collectées par le biais de caméras et capteurs urbains intelligents installés sur les poubelles [17], les feux de signalisation, les lampadaires [18] et les plaques d’égout [19], ou recueillies via les dispositifs de vidéosurveillance ou le « wi-fi gratuit » [20], risque de créer un système de surveillance de plus en plus intrusif [21], menaçant pour la vie privée, la liberté d’expression et d’opinion et le droit de réunion pacifique, et propice aux discriminations.

Alors que les villes collectent de plus en plus de données personnelles sur leurs habitants, souvent à leur insu [22] ou sans leur consentement, le droit à la vie privée dans l’espace public, de fait, se réduit. Les smartphones amplifient le phénomène en transmettant, par exemple, des données de géolocalisation et des interactions numériques à des applications mobiles et à des fournisseurs Wi-Fi, qui peuvent à leur tour communiquer ces données à d’autres prestataires de services. Dès lors, en raison de la nature toujours plus interconnectée et numérique des services urbains, le simple fait de se trouver dans un espace public entraîne une transmission de données.

Un tel système peut donner aux services de maintien de l’ordre et de sécurité des États des outils parfaits pour suivre et cibler de manière intrusive les minorités ethniques ou d’autres groupes protégés. En Chine, les villes intelligentes de la région autonome ouïghoure du Xinjiang [23] participent déjà à la surveillance et à la répression systématiques que les autorités de l’État exercent sur les groupes ethniques musulmans de la région. La reconnaissance faciale et la reconnaissance de la démarche fondées sur les nouvelles technologies d’intelligence artificielle et d’analyse, associées à la vidéosurveillance autour des mosquées, ont permis aux autorités de faire de cette région un « État policier numérique » [24].

Il existe également des perspectives tentantes pour les entreprises privées intéressées par l’exploitation des données à des fins commerciales. Dans un article [25] consacré au monde des courtiers en données et à la façon dont les données des consommateurs américains pourraient être utilisées pour identifier les musulmans, Amnesty Tech a montré les dangers potentiels d’une commercialisation accrue des données par le biais des solutions de ville intelligente. Comme l’explique l’article, « à chaque fois que vous utilisez votre carte de crédit ou de débit, que vous activez le Wi-Fi sur votre téléphone portable, lisez des actualités sur Internet, cochez la case d’acceptation des « Conditions d’utilisation » ou autorisez une application à accéder à vos comptes de réseaux sociaux [...], il est probable qu’une entreprise (voire plusieurs) s’intéresse à vos données. »

Il est inévitable que les courtiers en données fassent des offres pour les données collectées par le biais de capteurs urbains, compte tenu notamment du caractère personnalisé et détaillé de ces données. Au-delà de la menace évidente qu’elle représente pour la vie privée, la commercialisation des données des villes intelligentes pourrait également permettre un profilage discriminatoire.

De manière déterminante, de la même manière que Facebook a des droits de propriété sur les données de ses utilisateurs [26], les fournisseurs de villes intelligentes sont souvent propriétaires des données recueillies via leurs capteurs. À Toronto, Sidewalk Labs a cherché à calmer les protestations grandissantes contre le projet en assurant que la vaste quantité de données générées ne serait pas sous son contrôle mais serait gérée par une entité indépendante, l’Urban Data Trust. Mais beaucoup continuent à douter [27] que l’on puisse confier un ensemble aussi précieux de données sur les citoyens à une entreprise qui a la même maison-mère que Google.

Ann Cavoukian, experte en protection de la vie privée, qui a démissionné l’année dernière de son poste de conseillère auprès de Sidewalk Labs pour protester contre les risques de surveillance, indique que le plan directeur comporte toujours des lacunes fondamentales [28] en ce qui concerne la désidentification (ou anonymisation) des données, ce processus visant à faire en sorte que les données collectées ne puissent pas permettre de remonter à des personnes en particulier. C’est une question vitale, car sans protections strictes, il est étonnamment facile [29] de « réidentifier » [30] des données anonymisées - or, même des données apparemment anodines peuvent permettre de déduire des informations très personnelles sur quelqu’un.

Mais avant même d’aborder le débat sur les pratiques en matière de gestion des données, il reste une question plus fondamentale : devons-nous tout simplement accepter la tendance au suivi, à l’analyse et à la monétisation de données toujours plus nombreuses sur nos activités, dont les villes intelligentes sont l’incarnation ? Cela nous emmène au cœur du modèle économique d’entreprises telles que Google et Facebook, connu sous le nom de « capitalisme de surveillance » [31].

Les enjeux du privé dans le public

Le développement d’innovations en matière de villes intelligentes est essentiellement le fait du secteur privé [32]. La plupart des municipalités, dans un premier temps tout du moins, font appel à des sociétés privées pour l’élaboration et la mise en œuvre de projets de ville intelligente. En tant que tels, ces projets sont généralement conçus pour servir les intérêts du « capitalisme de surveillance », à savoir amasser d’immenses quantités de données sur les activités des personnes et extraire les données pour prédire - et influencer - les comportements, afin au bout du compte de générer des profits par le biais de la publicité.

Comme l’explique Sara Degli-Esposti, chercheuse honoraire à l’université de Coventry, « nous ne pouvons pas comprendre les villes intelligentes sans parler des modèles économiques des géants du numérique (par exemple Google, Amazon et les société chinoises Baidu, Alibaba et Tencent). Ces sociétés sont déjà des entités mondiales qui échappent largement au contrôle des gouvernements. À quel point les gouvernements locaux pensent-ils pouvoir contrôler ces acteurs ? »

En réalité, le contrôle exercé par les gouvernements sur ces géants de la technologie est très limité. Alors que la technologie progresse et que les infrastructures de données s’imposent en matière de gestion urbaine, le risque est d’aboutir à un transfert complet des services publics aux géants de la technologie. « Tout cela parce que », comme le dit Sara Degli-Esposti, « un gouvernement local aurait perdu ses droits de propriété sur les obscurs systèmes de données à multiples niveaux développés au fil des ans et serait incapable de les faire fonctionner ». Le fait que des données aussi détaillées soient aux mains des autorités locales pourrait également constituer un danger pour les droits humains ; toutefois, ces questions de droits de propriété créent des risques qui pourraient réduire le contrôle des autorités publiques sur la manière dont leurs propres villes sont gérées et gouvernées.

Les partenariats public-privé sont souvent liés [33] par des accords de confidentialité imposés pour des raisons tenant au caractère exclusif de la technologie. Il est donc difficile pour les citoyens d’examiner de près les systèmes dont on équipe leurs villes et qui sont utilisés par et sur eux. L’illisibilité de ces modèles propriétaires ou de source fermée soulève de graves inquiétudes quant à la transparence et à l’obligation de rendre des comptes en ce qui concerne l’utilisation de ces technologies.

De même, le problème de la « boîte noire » [34] de l’intelligence artificielle - le fait que le processus décisionnel qui sous-tend les nouvelles technologies algorithmiques ne sera généralement pas traçable par et pour les personnes chargées du déploiement, ni par les personnes affectées - rend encore plus obscures les « solutions de ville intelligente » et est à l’origine d’un manque de confiance.

Le modèle économique du capitalisme de surveillance lui-même - le niveau sans précédent de collecte de données et la concentration du pouvoir entre les mains d’un petit nombre de sociétés échappant à l’obligation de rendre des comptes - est de plus en plus remis en cause car il est, fondamentalement, peu compatible avec les droits humains. Avant toute chose, nous devons nous demander si une telle masse de données doit être recueillie.

Une approche fondée sur les droits humains

Les droits humains doivent être au coeur des projets de développement de villes intelligentes. Les fonctionnaires doivent avoir une solide compréhension des technologies pour lesquelles ils passent des contrats, et utiliser, pour la passation des marchés publics, des cahiers des charges à même d’apporter des protections contre une utilisation abusive ou frauduleuse de ces technologies. La technologie doit s’accompagner de garanties pour que son utilisation soit conforme aux normes relatives aux droits humains. Enfin, les personnes dont les droits seront affectés par ces technologies doivent avoir leur mot à dire sur le recours éventuel à ces nouvelles technologies et sur l’utilisation qui en est faite, par le biais d’un suivi, de consultations et d’un contrôle publics véritables.

Le cas assez particulier de Barcelone [35]montre à quel point une ville intelligente démocratisée et axée sur les citoyens peut être un projet fort. Le modèle adopté par Barcelone associe la participation citoyenne à de nouvelles infrastructures gouvernementales et aux technologies émergentes. La ville intelligente de Barcelone repose sur trois composantes : Sentilo, une plateforme de collecte de données et de capteurs open source, CityOS, une autre plateforme open source qui traite et analyse les données, et un niveau d’interface utilisateur des applications de service pour faciliter l’accès à toutes les données.

Toute l’infrastructure numérique du modèle de la ville de Barcelone est donc en open source, ce qui contribue à réduire les risques, évoqués plus haut, de privatisation motivée par le profit et de logiciels propriétaires de source fermée, tout en permettant aux citoyens de revendiquer la propriété collective de leurs données. Toutes les données produites sont à la disposition des citoyens, des entreprises privées et des parties intéressées. Cependant, la ville et ses habitants décident ensemble des paramètres d’accès appropriés pour préserver la vie privée et conserver ainsi, au bout du compte, la propriété collective des données sur la ville.

Il reste à voir si ce modèle offrira une protection efficace contre les risques en matière de droits humains. De plus, le modèle de Barcelone est une exception, et non la règle. Les entreprises privées, la plupart du temps, gardent la main sur les conditions contractuelles et continuent à dicter les processus de réglementation, et les fonctionnaires manquent souvent des connaissances et de l’expertise nécessaires pour les remettre en cause. À Toronto, il appartient maintenant aux autorités municipales de décider de faire confiance ou non à la vision de Sidewalk Labs pour l’avenir.

En définitive, la seule solution pour que les villes intelligentes tiennent leurs promesses utopiques est qu’elles soient conçues dès le départ de façon à renforcer les droits et les libertés. Tant que ces projets alimenteront la répression d’État ou suivront la marche forcée vers le capitalisme de surveillance, ils ne serviront qu’à accroître le pouvoir des grandes sociétés technologiques et des gouvernements aux dépens des villes et des droits fondamentaux des citoyens.

Toutes les infos

Ahmed H. doit être autorisé à rentrer chez lui

Ahmed H., incarcéré à tort pour « complicité d’acte terroriste », n’a plus vu sa femme et ses filles depuis 4ans. Chypre doit l’autoriser à rentrer chez lui, auprès de sa famille. Il risque d’être renvoyé en Syrie.