Por Sally Burch (ALAI)
Internet Ciudadana entrevistó a Anita Gurumurthy y Nandini Chami, de IT for Change, India, sobre los retos a los que se enfrenta el mundo, y en particular el Sur Global, con la revolución de la inteligencia artificial. IT for Change ha elaborado varios estudios sobre tecnologías digitales, en los que, entre otras cosas, proponen el término «inteligencia digital» como concepción más amplia de este fenómeno en desarrollo. Es también la secretaría de la coalición mundial Just Net. Entrevista realizada por Sally Burch (ALAI).
1) ¿Cuál es la diferencia entre «inteligencia artificial» e «inteligencia digital»? ¿De qué manera nos ayuda el término «inteligencia digital» a comprender mejor la nueva era tecnológica?
El término inteligencia artificial desconoce los orígenes sociales de la inteligencia que produce una determinada tecnología. Mistifica la máquina. Pero el término inteligencia digital está más orientado a los sistemas. Pone de relieve la interacción entre los sistemas humanos y digitales en la resolución de problemas y la toma de decisiones, algo cada vez más habitual en el mundo de la Cuarta Revolución Industrial (4RI). El término inteligencia digital también parece tener más fundamento histórico: no implica un fetiche por las máquinas; parece reconocer la revolución de la IA como parte de una evolución más larga de las tecnologías de computación, Internet y Big Data. Esta lógica sistémica –en la que la inteligencia está integrada en las relaciones tecnosociales que componen el sistema– nos ayuda a no perder nunca de vista que el conocimiento social y el trabajo humano son la materia prima de la revolución de la inteligencia que posibilitan las nuevas facultades de la tecnología digital, en particular las tecnologías de IA.
2) Está en curso un debate internacional sobre las implicaciones de la IA, especialmente desde que se lanzó el Chat GPT4. En su opinión, ¿cuáles son las principales amenazas (y/o ventajas) de este tipo de tecnología, y qué podemos hacer al respecto, desde una perspectiva de justicia digital y comunidad?
Los milagros de la IA –incluido el fenómeno del Chat GPT– son, en efecto, trascendentales. Se trata de una coyuntura histórica muy parecida al momento Gutenberg, cuando la producción masiva de libros a través de la imprenta coadyuvó a cambios en las instituciones de la civilización. La IA puede aumentar la creatividad humana y cambiar la división social del trabajo para potenciar y transformar. Puede ser para la emancipación individual o para hacer realidad el sueño keynesiano de una vida mejor para todos. Sin embargo, el statu quo no se orienta en absoluto hacia este potencial. Hoy en día, la IA está firmemente arraigada en la lógica de la financiarización con esteroides, basada en el desprecio descarado de la dignidad humana y el bienestar de la sociedad.
La mayor amenaza que plantean las actuales trayectorias de desarrollo de la IA es la exacerbación de la crisis medioambiental. Hay nuevas evidencias que parecen indicar que la IA puede ser más un problema que una solución a nuestra lucha contra el cambio climático, la escasez de agua y el elevado consumo de energía. Algunas estimaciones sugieren que el consumo de agua para entrenar el gran modelo lingüístico GPT 3 de Open AI fue equivalente a la cantidad necesaria para llenar la torre de refrigeración de un reactor nuclear. Incluso a las start-ups y los desarrolladores de tecnología que trabajan por una industria de IA más ética y transparente les cuesta abordar el reto de la sostenibilidad. La start up HuggingFace consiguió entrenar su propio modelo lingüístico de gran tamaño BLOOM en un superordenador francés alimentado con energía nuclear, produciendo una huella de emisiones inferior a la de la mayoría de modelos de tamaño similar; pero una vez completado el entrenamiento, en la fase previa al despliegue, BLOOM emitió una huella de carbono equivalente a la de 60 vuelos entre Londres y París.
El bucle tecnológico de la IA generativa1 también ha abierto la caja de Pandora de explotación laboral. Como demostró la polémica de Sama en Kenia, los modelos lingüísticos y las herramientas de moderación de contenidos sólo pueden perfeccionarse gracias al trabajo de innumerables trabajadores de contenidos que se adentran en la basura tóxica de contenidos odiosos y violentos que provocan traumas psicológicos. El bienestar y la salud mental de los trabajadores son víctimas de la lamentable ausencia de protecciones en la cadena de valor de la inteligencia artificial para realizar trabajos de tan alto riesgo.
Una tercera preocupación que ha cobrado protagonismo en los meses posteriores a que ChatGPT tomara el mundo por asalto es el impacto a largo plazo de la revolución de la IA en el futuro del trabajo. Estudios realizados en los últimos meses por la OCDE y la OIT sugieren que la mano de obra de los países desarrollados corre un mayor riesgo inmediato de perder puestos de trabajo a causa de la automatización que permite la IA generativa; pero a largo plazo, se espera que este salto conduzca a una mayor productividad y a un aumento del PIB. La mano de obra del Sur global no se verá afectada de inmediato, pero esto no significa buenas noticias para sus perspectivas de subsistencia y bienestar a largo plazo. Si sus países quedan al margen de la IA Generativa y otros saltos tecnológicos de la IA, y se quedan atrapados en los segmentos de bajo valor de la economía –y se convierten en trabajadores temporales o soldados de a pie en la nueva 4RI, como los agricultores que cultivaban índigo en la revolución industrial británica–, lo que nos espera es un futuro económico neo-colonial que limita las opciones de la mayor parte del mundo.
El extractivismo de datos provenientes de esta mayoría mundial es lo que potencia la revolución de la IA. Y del mismo modo que el patrimonio público de la Web 2.0 fue canibalizado para el beneficio empresarial en la plataformización de Internet, frustrando la producción de conocimiento compartido y las posibilidades de puesta en común entre iguales, nos encontramos en otro momento similar en la revolución digital. La IA Generativa, en particular, amenaza con cooptar los bienes comunes del conocimiento público sin ninguna obligación de licencia para compartir/devolver a la sociedad. ¡Imaginemos una situación en la que los registros sanitarios del gobierno –datos abiertos gubernamentales– están siendo utilizados por las farmacéuticas para investigaciones patentadas sobre predicciones epidemiológicas que el gobierno se ve obligado a comprar/alquilar en una crisis sanitaria!
Los monopolios de patentes de las grandes farmacéuticas que impidieron la lucha contra el Covid deberían demostrarnos que se trata de una posibilidad muy real.
También deberíamos volver a centrarnos en la IA fundacional en lugar de en la generativa. La mayoría de la población mundial dedicada a la agricultura, la ganadería y los medios de vida relacionados con la agricultura, que dependen de los bosques y de los recursos naturales comunes, ¿puede recibir ayuda para prosperar en la era de la IA, especialmente en sus necesidades de adaptación y mitigación del cambio climático? ¿Cómo podemos habilitar modelos localizados de diagnóstico y predicción para activar alertas y estrategias a largo plazo? ¿Por qué nos limitamos a impulsar la compartición de más y más datos en direcciones que sólo parecen ayudar a las grandes empresas agrícolas y tecnológicas a integrar a la gente en condiciones extremadamente adversas en el mercado hipercapitalista de la IA? Los países en desarrollo tienen que encontrar la forma de aprovechar sus recursos de datos para su desarrollo autónomo en la revolución de la inteligencia, de forma similar a como un país como Tailandia, en Asia, se recuperó tras la crisis de los años 90 y reconstruyó su economía.
Anita Gurumurthy
Directora ejecutiva de IT for Change
3) Existe una gran preocupación por el robo de propiedad intelectual por parte de la IA, que arrastra y reutiliza datos, como la obra de artistas, sin reconocer la fuente. ¿Cómo proponen que enmarquemos este debate?
Ciertamente la IA generativa, capaz de desarrollar textos e imágenes visuales y de clonar voces, ha puesto en primer plano la cuestión del robo de la propiedad intelectual. Los responsables políticos lo abordan de diferentes maneras: China quiere controlar los flujos de información hacia la IA generativa; mientras que Japón primero quiso eliminar las solicitudes de derechos de autor en los conjuntos de datos utilizados para la IA generativa y posteriormente dio marcha atrás en su postura; la política de la UE y EE.UU. tiene ambivalencias sobre cuándo el uso legítimo cubre el entrenamiento de IA generativa. El equilibrio entre los derechos de los creadores y el uso de los recursos públicos del procomún del conocimiento para el desarrollo tecnológico sigue evolucionando.
Pasemos ahora a la perspectiva del creador. Los autores se encuentran viviendo la pesadilla de la ficción del «Gran Grammatizador Automático» de Roald Dahl, cuando la máquina de imitación imita sus estilos y voces mejor que ellos y la creación se convierte en una cadena de montaje de producción. Los derechos morales del autor o del intérprete creativo están en peligro cuando sus obras se canibalizan para entrenar a la IA generativa. También hay cuestiones de apropiación cultural, como el arte Warli indio que se subasta en Sotheby’s sin reconocer el contexto cultural de su producción por las tribus del bosque; preocupaciones que la comunidad maorí de Nueva Zelanda ha planteado e intentado abordar en el uso de su lengua y recursos lingüísticos para el desarrollo de modelos de formación. La concesión colectiva de licencias –el reconocimiento de los bienes culturales comunes de la literatura, el arte y el patrimonio cultural humano– parece importante. Podría crearse un mecanismo fiduciario para impedir la canibalización o la reutilización en violación de los bienes culturales comunes. En cuanto a la literatura y el arte, también hay que mantener el equilibrio entre los bienes comunes intelectuales como patrimonio público y común de toda la humanidad, y los derechos morales del autor. La propuesta de licencia colectiva del Gremio de Autores parece útil a este respecto. Esta propuesta dice: «El Gremio de Autores propone crear una licencia colectiva por la que una organización de gestión colectiva (OGC) concedería licencias de derechos en nombre de los autores, negociaría las tarifas con las empresas de IA y luego distribuiría el pago a los autores que se registraran en la OGC. Estas licencias podrían cubrir usos anteriores de libros, artículos y otras obras en sistemas de IA, así como usos futuros. Estos últimos no se licenciarían sin una autorización específica del autor o de otros titulares de derechos».
Nandini Chami
Directora adjunta de IT for Change
4) ¿Cuáles considera que son las principales problemáticas y propuestas relacionadas con la IA que deberían abordarse en espacios multilaterales como las Naciones Unidas, con el fin de promover la justicia digital y contrarrestar el excesivo poder de las grandes corporaciones digitales?
Hay un debate en curso, incluso en la India, sobre si la gobernanza de la IA se puede abordar adecuadamente en la escena mundial o si necesitamos respuestas a nivel nacional. Las democracias occidentales y el mundo mayoritario tienen formas diferentes de calibrar el equilibrio entre los derechos individuales y el bien social; esto se reconoce incluso en el debate sobre los derechos humanos, ya que la interpretación contextual de los derechos es extremadamente importante. Como demuestra un reciente estudio de la UNCTAD sobre los países del G20, lo que se entiende por datos personales sensibles se define de forma diferente en las distintas sociedades. Ideas de innovación centrada en el ser humano, transparencia y rendición de cuentas del mercado, trayectorias deseadas de desarrollo de la IA: necesitamos un modelo de gobernanza multiescalar en el que los derechos de las personas que se encuentran en los márgenes estén protegidos por algunas protecciones de derechos básicos y, al mismo tiempo, cada comunidad nacional pueda llegar a un proceso deliberativo para determinar cómo debe aprovechar la revolución de la IA e integrarse en la economía global respaldada por una legislación del desarrollo de la IA basada en los derechos humanos que sea justiciable. Es posible que una hiperliberalización de los mercados de servicios de datos no funcione en todos los países, ya que algunos podrían incluso beneficiarse al limitar su integración en la economía digital mundial.
(1) La IA generativa es una rama de la inteligencia artificial que se enfoca en la generación de contenido original a partir de datos existentes y en respuesta a indicaciones. (Wikipedia)
* Anita Gurumurthy es miembro fundador y directora ejecutiva de IT for Change, donde dirige proyectos y colaboraciones de investigación con la sociedad en red, centrándose en la gobernanza, la democracia y la justicia de género, la democracia y la justicia de género.
* Nandini Chami es directora adjunta de IT for Change. Su trabajo se centra principalmente en la investigación y la promoción de políticas en los ámbitos de los derechos digitales y el desarrollo, y la economía política de los derechos de las mujeres en la sociedad de la información. Forma parte de los esfuerzos de promoción de la organización en torno a la Agenda 2030 para el Desarrollo en cuestiones de «datos para el desarrollo» y tecnologías digitales y justicia de género.
* Sally Burch es periodista angloecuatoriana. Directora Ejecutiva de ALAI. Es licenciada en Literatura por la Universidad de Warwick (Gran Bretaña) y diplomada en Periodismo por la Universidad de Concordia (Montreal, Canadá). Publica regularmente artículos sobre la mujer y la comunicación, el derecho a la información y los movimientos sociales.
Esta nota está incluida en la Revista digital Internet Ciudadana N° 10 – Octubre 2023 – ¡Otro mundo digital es posible!
