Par Steven Feldstein

Un nouveau rapport de la Fondation Carnegie pour la paix internationale révèle qu’au moins 75 pays utilisent la reconnaissance faciale et d’autres formes d’intelligence artificielle afin de surveiller massivement la population.

Un nombre croissant d’États déploient des outils avancés de surveillance par IA pour contrôler, suivre et surveiller les citoyens. Le nouveau classement de Carnegie explore comment les différents pays procèdent dans ce domaine.

La technologie de l’intelligence artificielle (IA) prolifère rapidement dans le monde entier. Des développements surprenants ne cessent d’émerger, depuis l’apparition de vidéos truquées qui brouillent la frontière entre vérité et mensonge, jusqu’aux algorithmes avancés qui peuvent battre au poker les meilleurs joueurs du monde. Les entreprises exploitent les capacités de l’intelligence artificielle pour améliorer le traitement analytique ; les responsables municipaux utilisent l’intelligence artificielle pour surveiller les embouteillages et superviser les systèmes de gestion intelligente de l’énergie. Mais un nombre croissant d’États déploient des outils d’IA avancés pour contrôler, suivre et surveiller les citoyens afin d’atteindre une panoplie d’objectifs politiques – certains sont légaux, d’autres violent les droits humains, et beaucoup sont dans la zone d’ombre intermédiaire.

Afin d’aborder de manière appropriée les effets de cette technologie, il est important de comprendre d’abord où ces outils sont déployés et comment ils sont utilisés. Malheureusement, ces informations sont rares. Pour plus de clarté, ce document présente un classement de surveillance mondial de l’IA (AIGS), fruit de l’un des premiers efforts de recherche de ce type. Le classement compile des données empiriques sur l’utilisation de la surveillance par IA dans 176 pays à travers le monde. Il ne fait pas de distinction entre les utilisations légitimes et illégales de la surveillance par IA. Le but de la recherche est plutôt de montrer comment les nouvelles capacités de surveillance transforment la capacité des gouvernements à surveiller et à suivre les individus ou les systèmes. Il pose des questions précises :

  • Quels sont les pays qui adoptent la technologie de surveillance par IA ?
  • Quels types spécifiques de surveillance par IA les gouvernements déploient-ils ?
  • Quels sont les pays et les entreprises qui fournissent cette technologie ?

Principales constatations

  • La technologie de surveillance par IA se répand à un rythme plus rapide dans un plus grand nombre de pays que ce que les experts ont le plus souvent supposé. Au moins soixante-quinze des 176 pays du monde utilisent activement les technologies de l’IA à des fins de surveillance. Cela inclut : les plates-formes de villes intelligentes et sûres (cinquante-six pays), les systèmes de reconnaissance faciale (soixante-quatre pays) et les services de police intelligents (cinquante-deux pays).
  • La Chine est l’un des principaux moteurs de la surveillance par IA dans le monde. Les entreprises chinoises – en particulier Huawei, Hikvision, Dahua et ZTE – fournissent la technologie de surveillance par IA dans soixante-trois pays, dont trente-six ont signé l’Initiative Routes et Ceintures de la Chine. Huawei est lui seul responsable de la fourniture de la technologie de surveillance par IA à au moins cinquante pays dans le monde. Aucune autre entreprise ne s’en approche. Le deuxième plus grand fournisseur non chinois de technologie de surveillance par IA est la société NEC du Japon (quatorze pays).
  • Les offres de produits chinois sont souvent accompagnées de prêts avantageux pour encourager les gouvernements à acheter les équipements. Ces tactiques sont particulièrement efficaces dans des pays comme le Kenya, le Laos, la Mongolie, l’Ouganda et l’Ouzbékistan, qui autrement n’auraient peut-être pas accès à cette technologie. Cela soulève des questions troublantes sur dans quelle mesure le gouvernement chinois subventionne l’achat de technologies répressives avancées.
  • Mais la Chine n’est pas le seul pays à fournir des technologies de surveillance avancées à travers le monde. Des entreprises états-unienne sont également actives dans ce domaine. La technologie de surveillance par IA fournie par des entreprises des États-Unis est présente dans trente-deux pays. Les entreprises les plus importantes sont IBM (onze pays), Palantir (neuf pays) et Cisco (six pays). D’autres entreprises basées dans des démocraties libérales – France, Allemagne, Israël, Japon – jouent également un rôle important dans la prolifération de cette technologie. Les démocraties ne prennent pas les mesures adéquates pour encadrer et contrôler la diffusion de technologies sophistiquées liées à un éventail de violations.
  • Les démocraties libérales sont de grands utilisateurs de la surveillance par IA. Le classement montre que 51 % des démocraties avancées déploient des systèmes de surveillance par IA. En revanche, 37 % des États autocrates fermés, 41 % des États autocrates de type électoral / autocrates concurrentiels, et 41 % des démocraties de type électoral / démocraties non libérales déploient des technologies de surveillance par IA. Les gouvernements des démocraties avancées déploient une variété de technologies de surveillance, allant des plateformes urbaines sures aux caméras de reconnaissance faciale. Cela ne signifie pas nécessairement que les démocraties abusent de ces systèmes. Le facteur le plus important qui détermine si les gouvernements vont déployer cette technologie à des fins répressives est la qualité de leur gouvernance.
  • Les gouvernements des pays autocrates et semi-autocrates sont plus enclins à abuser de la surveillance par IA que les gouvernements des démocraties libérales. Certains gouvernements autocrates – par exemple, la Chine, la Russie, l’Arabie Saoudite – exploitent la technologie de l’IA à des fins de surveillance de masse. D’autres gouvernements avec un triste bilan en matière de droits humains exploitent la surveillance par IA de façon plus limitée pour renforcer la répression. Pourtant, tous les systèmes politiques prennent le risque d’exploiter illégalement la technologie de surveillance par IA pour atteindre certains objectifs politiques.
  • Il existe un lien étroit entre les dépenses militaires d’un pays et l’utilisation par un gouvernement de systèmes de surveillance par IA : quarante des cinquante pays qui dépensent le plus dans le domaine militaire (en se basant sur les dépenses militaires cumulées) utilisent aussi les technologies de surveillance par IA.
  • Le rapport « Liberté sur le Net 2018 » a identifié dix-huit pays sur soixante-cinq qui avaient accédé à la technologie de surveillance par IA développée par des entreprises chinoises. Le classement AIGS montre que le nombre de ces pays ayant accès à la technologie chinoise de surveillance par IA est passé à quarante-sept pays sur soixante-cinq en 2019.

NOTES

  • Le classement AIGS présente un instantané pays par pays de la surveillance technologique par IA, la majorité des sources se situant entre 2017 et 2019. Compte tenu de l’opacité de l’utilisation de la surveillance gouvernementale, il est presque impossible de déterminer, pour une année précise, les plateformes ou systèmes d’IA en vigueur.
  • Le classement AIGS utilise la même liste d’États indépendants que le projet Variétés de la démocratie (V-Dem), à deux exceptions près, soit un total de 176. La liste des pays du V-Dem comprend tous les états indépendants dans le monde, mais exclut les micro-États comptant moins de 250 000 habitants.
  • Le classement AIGS ne présente pas une liste complète des sociétés de surveillance par IA opérant dans certains pays. Le document s’appuie sur des sources libres de rapports et d’analyses pour en tirer ses conclusions. Par conséquent, il y a certaines limites intrinsèques. Certaines entreprises, comme Huawei, peuvent être incitées à mettre en avant de nouvelles capacités dans ce domaine. D’autres entreprises ont choisi de minimiser leur implication dans la technologie de surveillance et ont délibérément écarté des documents du domaine public.

Une version complète de ce rapport peut être consultée en ligne ici : https://carnegieendowment.org/files/AI_Global_Surveillance_Index1.pdf
Une carte interactive associée au rapport qui illustre visuellement la diffusion mondiale de la technologie de surveillance par IA est accessible ici : https://carnegieendowment.org/publications/interactive/ai-surveillance
Tous les documents de référence utilisés pour construire le rapport ont été compilés dans une bibliothèque ouverte Zotero. Elle est disponible ici : https://www.zotero.org/groups/2347403/global_ai_surveillance/items

L’article original est accessible ici