Por Steven Feldstein
Un nuevo informe de The Carnegie Endowment for International Peace revela que al menos 75 países están utilizando el reconocimiento facial y otras formas de inteligencia artificial para vigilar a un gran número de personas.
Un número creciente de estados están desplegando herramientas avanzadas de vigilancia de IA para monitorear, rastrear y vigilar a los ciudadanos. El nuevo índice de Carnegie explora cómo los diferentes países están haciendo esto.
La tecnología de inteligencia artificial (IA) está proliferando rápidamente en todo el mundo. Siguen surgiendo desarrollos sorprendentes, desde la aparición de vídeos de imitación profundos que desdibujan la línea entre la verdad y la falsedad, hasta algoritmos avanzados que pueden vencer a los mejores jugadores del mundo en el póquer. Las empresas aprovechan las capacidades de IA para mejorar el procesamiento analítico; los funcionarios públicos aprovechan la IA para controlar la congestión del tráfico y supervisar la medición inteligente de la energía. Sin embargo, un número cada vez mayor de estados está utilizando herramientas avanzadas de vigilancia de IA para monitorear, rastrear y vigilar a los ciudadanos con el fin de lograr una serie de objetivos políticos -algunos legales, otros que violan los derechos humanos, y muchos de los cuales caen en un oscuro terreno intermedio.
A fin de abordar adecuadamente los efectos de esta tecnología, es importante comprender primero dónde se están desplegando estas herramientas y cómo se están utilizando. Lamentablemente, esa información es escasa. Para mayor claridad, este documento presenta un Índice de Vigilancia Global de IA (AIGS), que representa uno de los primeros esfuerzos de investigación de este tipo. El índice recopila datos empíricos sobre el uso de la vigilancia de la gripe aviar en 176 países de todo el mundo. No distingue entre los usos legítimos e ilícitos de vigilancia de la gripe aviar. Más bien, el propósito de la investigación es mostrar cómo las nuevas capacidades de vigilancia están transformando la capacidad de los gobiernos para monitorear y rastrear a individuos o sistemas. Pregunta específicamente:
¿Qué países están adoptando la tecnología de vigilancia de la gripe aviar?
¿Qué tipos específicos de vigilancia de IA están desplegando los gobiernos?
¿Qué países y empresas suministran esta tecnología?
Hallazgos claves:
La tecnología de vigilancia de IA se está extendiendo a un ritmo más rápido a una gama más amplia de países de lo que los expertos han imaginado. Al menos setenta y cinco de los 176 países del mundo utilizan activamente las tecnologías de inteligencia artificial con fines de vigilancia. Esto incluye: plataformas de ciudades inteligentes/ciudades seguras (cincuenta y seis países), sistemas de reconocimiento facial (sesenta y cuatro países) y policía inteligente (cincuenta y dos países).
China es uno de los principales impulsores de la vigilancia de la IA en todo el mundo. La tecnología vinculada a empresas chinas, en particular Huawei, Hikvision, Dahua y ZTE, suministra tecnología de vigilancia de IA en sesenta y tres países, de los cuales treinta y seis han firmado la Iniciativa del Cinturón y la Carretera de China (BRI). Huawei es el único responsable de proporcionar tecnología de vigilancia de IA a por lo menos cincuenta países en todo el mundo. Ninguna otra compañía se le aproxima. El siguiente mayor proveedor no chino de tecnología de vigilancia de IA es NEC Corporation de Japón (catorce países).
Las ofertas de productos chinos suelen ir acompañadas de préstamos blandos para animar a los gobiernos a comprar sus equipos. Estas tácticas son particularmente relevantes en países como Kenia, Laos, Mongolia, Uganda y Uzbekistán, que de otro modo no tendrían acceso a esta tecnología. Esto plantea interrogantes preocupantes sobre el grado en que el gobierno chino está subvencionando la compra de tecnología represiva avanzada.
Pero China no es el único país que suministra tecnología de vigilancia avanzada en todo el mundo. Las empresas estadounidenses también están activas en este campo. La tecnología de vigilancia de IA suministrada por empresas estadounidenses está presente en treinta y dos países. Las empresas estadounidenses más importantes son IBM (once países), Palantir (nueve países) y Cisco (seis países). Otras compañías basadas en democracias liberales -Francia, Alemania, Israel, Japón- también están desempeñando un papel importante en la proliferación de esta tecnología. Las democracias no están tomando las medidas adecuadas para vigilar y controlar la difusión de tecnologías sofisticadas vinculadas a una serie de violaciones.
Las democracias liberales son los principales usuarios de la vigilancia de IA. El índice muestra que el 51 por ciento de las democracias avanzadas utilizan sistemas de vigilancia de IA. En contraste, el 37 por ciento de los estados autocráticos cerrados, el 41 por ciento de los estados autocráticos electorales autocráticos/competitivos, y el 41 por ciento de las democracias electorales/democracias liberales utilizan tecnología de vigilancia de inteligencia artificial.1 Los gobiernos en democracias plenas están desplegando una gama de tecnología de vigilancia, desde plataformas urbanas seguras hasta cámaras de reconocimiento facial. Esto no significa inevitablemente que las democracias estén abusando de estos sistemas. El factor más importante que determina si los gobiernos desplegarán esta tecnología con fines represivos es la calidad de su gobernanza.
Los gobiernos de los países autocráticos y semiautocráticos son más propensos a abusar de la vigilancia de IA que los gobiernos de las democracias liberales. Algunos gobiernos autocráticos -por ejemplo, China, Rusia, Arabia Saudí- están explotando la tecnología de IA con fines de vigilancia masiva.
Otros gobiernos con un historial funesto en materia de derechos humanos están explotando la vigilancia de IA de manera más limitada para reforzar la represión. Sin embargo, todos los contextos políticos corren el riesgo de explotar ilegalmente la tecnología de vigilancia de IA para obtener ciertos objetivos políticos.
Existe una fuerte relación entre los gastos militares de un país y el uso de los sistemas de vigilancia de IA por parte de un gobierno: cuarenta de los cincuenta países con mayores gastos militares del mundo (basados en gastos militares acumulativos) también utilizan tecnología de vigilancia de IA.2
El informe «Freedom on the Net 2018» identificó dieciocho de los sesenta y cinco países que habían accedido a la tecnología de vigilancia de la IA desarrollada por empresas chinas.3 El Índice AIGS muestra que el número de países que acceden a la tecnología china de vigilancia de IA ha aumentado a cuarenta y siete de los sesenta y cinco países en 2019.
Notas
El Índice AIGS presenta una imagen instantánea de país por país respecto de la vigilancia tecnológica de IA, y la mayoría de las fuentes se encuentran entre 2017 y 2019. Dada la opacidad del uso de la vigilancia gubernamental, es casi imposible precisar por año específico qué plataformas o sistemas de IA están actualmente en uso.
El Índice AIGS utiliza la misma lista de estados independientes incluidos en el proyecto Varieties of Democracy (V-Dem) con dos excepciones, con un total de 176.4 La lista de países V-Dem incluye todas las políticas independientes del mundo, pero excluye los microestados con poblaciones inferiores a 250.000 habitantes.
El Índice AIGS no presenta una lista completa de las empresas de vigilancia de la gripe aviar que operan en determinados países. El documento utiliza informes de código abierto y análisis de contenido para obtener sus conclusiones. Por consiguiente, hay ciertas limitaciones incorporadas. Algunas compañías, como Huawei, pueden tener un incentivo para destacar nuevas capacidades en este campo. Otras empresas han optado por minimizar su asociación con la tecnología de vigilancia y han mantenido deliberadamente los documentos fuera del dominio público.
Una versión completa del índice puede consultarse en línea aquí: https://carnegieendowment.org/files/AI_Global_Surveillance_Index1.pdf Puede accederse a un mapa interactivo con la clave del índice que muestra visualmente la difusión global de la tecnología de vigilancia de IA aquí: https://carnegieendowment.org/publications/interactive/ai-surveillance
Todo el material de referencia utilizado para construir el índice ha sido compilado en una biblioteca abierta de Zotero. Está disponible aquí: https://www.zotero.org/groups/2347403/global_ai_surveillance/items
