La sociedad algorítmica: agentes inteligentes invisibles

Es muy común encontrar notas periodísticas que hacen referencia a los algoritmos. Ya sea en la sección de economía, tecnología o estilos de vida, estos procesos matemáticos se han convertido en poco tiempo en una pieza fija de nuestra cotidianidad informativa.

A medida que los algoritmos son los “agentes inteligentes” invisibles en la redefinición del mundo digital, es urgente hablar de cómo alertar a los ciudadanos de los impactos de sistemas de datos que toman decisiones sobre nuestras oportunidades, derechos y posibilidades vitales. Si un día te niegan la prestación de un empleo, la atención médica, el ingreso al sistema bancario, el acceso a becas de estudio o contratos de tu vida laboral porque lo dicta un algoritmo, ¿a quién podemos acudir?

Un algoritmo al igual que los datos con los que se entrena, pueden estar sesgados desde su propia conceptualización. ¿La sociedad algorítmica reproduce los conceptos del modelo de distribución de la riqueza y la desigualdad en el acceso a los conocimientos?

Varios autores, como Cathy O’ Neil en su libro “Armas de destrucción Matemática”, han denunciado que los desarrollos de estos modelos embebidos en el software no cuentan con regulación de los Estados. Así, van creando una sociedad dual en la que los ricos cuentan con el privilegio de una atención personalizada, humana y regulada mientras que a los grupos vulnerables se les condena a los resultados de “máquinas inteligentes”, en el que no existe transparencia, derechos ni procedimientos claros para apelar las decisiones algorítmicas.

Muchas de estas cuestiones merecen una reflexión social profunda y la articulación de consensos tecno políticos y sociales sobre qué es y qué no es aceptable y deseable. Pero para empezar a articular estos consensos hacen falta herramientas que nos ayuden a entender qué es lo que está ocurriendo. ¿Contar con visibilidad pública sobre los algoritmos y los datos de entrenamiento puede ser esa herramienta?

La redefinición del mundo digital

Comprender los alcances de los algoritmos y sus contextos de aplicación, nos ayudará a comprender cómo la digitalización de la vida cotidiana y nuestra relación con las plataformas y servicios digitales está orientada por una infraestructura de cómputos que conforman el proceso de los algoritmos. Por ello, se hace necesario comprender, discutir y criticar la manera como los algoritmos, que no conocemos, marcan nuestros días.

Se define algoritmo como «un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema. Estas acciones se entrenan con datos para obtener conclusiones y conocimientos.

La expansión de los métodos de cálculos expresados como algoritmos, algunos disponibles desde 1950, se debe en gran parte al encuentro con el software (aplicaciones APP), las capacidades de procesamiento a gran escala y el ancho de banda creciente de internet hoy configuran el territorio del Big Data.

Los cálculos penetran tan íntimamente en nuestras vidas, que no logramos percibir con claridad cómo conducen nuestros datos a infraestructuras estadísticas ubicadas en lejanos servidores. Así, un número creciente de dominios de conocimientos como la cultura, el conocer y la información, la salud, la ciudad, el trasporte, el trabajo, las finanzas e incluso el amor y el sexo son mediados por algoritmos.

La primer gran expansión de Facebook coincidió con la primera crisis económica del año 2007, que potenció el desarrollo de servicios de plataformas digitales orientados a la individualización, orientación y guía de cada navegante de internet. En el 2015 Facebook tenía 1.350 millones de usuarios registrados, que se comunicaban en 70 idiomas y utilizaban 50.000 servidores (computadoras de alta capacidades de procesamiento y almacenamiento). Facebook se ha constituido así en uno de los “dueños de Internet” controlando Instagram desde el 2012 y Whatsapp desde el 2014; un enorme negocio que representa más de 25.000 millones de dólares anuales y un volumen de datos muchísimo mayores a los millones de dólares estimados.

El valor político del flujo de datos permanente de esta plataforma digital, fue visible en el 2013 cuando la Agencia de Seguridad Nacional de USA reconoció la utilización de Facebook para el seguimiento de ciudadanos que aportaban sus datos “inocentemente”, información que durante años había sido un objetivo de los trabajos de inteligencia.

Algo similar sucede con los buscadores como Google que llevan invisibles cookies (pequeños softwares con algoritmos) que permite identificar al usuario y trazar un mapa de su navegación por las webs y profundidad de penetración en cada una, estos datos configuran nuevos productos del negocio digital.

Dos dinámicas avanzan para hacernos entrar en una “sociedad del algoritmo”. La primera es la digitalización de la sociedad con demanda creciente de los ciudadanos de ser incluidos; la segunda el desarrollo de los procesos. Estos últimos entregan a las computadoras mediante softwares las instrucciones matemáticas para clasificar, ordenar, agrupar, predecir, tratar, agregar y representar la información por medio de datos cada vez más desapercibidos. Los desplazamientos de personas, los tickets de compras, los clics en Internet, el consumo online, el tiempo de lectura de un libro digital, el tiempo de escucha de música y permanencia en video por demanda; son cifrados por algoritmos, algoritmos que clasifican y predicen nuestro consumo presente y futuro.

Omnipresentes en nuestras vidas, los algoritmos son presentados como “misteriosos” a nuestros conocimientos por no saber de su existencia y funcionalidad. Una nueva religión con nuevos actos de fe. Raramente nos cuestionamos cómo estos procesos de lógica y cálculo se producen y la visión de mundo que conllevan.

La sociedad digital nos ubicó a los ciudadanos en el lugar del consumidor digital, sabemos operar dispositivos y consumimos los contenidos a través de las aplicaciones. No conocemos los procesos y los procedimientos que regulan la sociedad digital. Por ejemplo, que los algoritmos usados por los gigantes tecnológicos, conocidos como GAFAM (Google, Amazon, Facebook, Apple y Microsoft), no sean siempre justos en las decisiones que toman.

Los algoritmos operan dentro de «cajas negras», no conocemos sus funcionalidades. El valor que mueve el cálculo algorítmico no es otro que el de la personalización, el del individualismo. Este sesgo en la confección del software que implementa el algoritmo responde a modelos políticos y culturales de relaciones sociales y distribución del conocimiento y la riqueza. Esos sesgos también pueden afectar a decisiones como el seguro médico u obra social o prepaga, la escolaridad o el registro criminal, la aceptación a una candidatura laboral. Los datos no hablan más que en función de los cuestionamientos e intereses de quienes los interrogan.

En la cultura actual, los cálculos algorítmicos atrapan deseos de libertades y servicios personales; donde los individuos por medio de sus representaciones, ambiciones y proyectos, se piensan como sujetos autónomos, por fuera de modelos políticos incluyentes o excluyentes.

Es necesario construir otras políticas públicas para la sociedad de los algoritmos. Los procesos y sesgos deben estar explicitados para los ciudadanos, como alertas en el mundo de internet y en la Estadística Estatal. El Estado tiene que garantizar a los ciudadanos la visibilidad de los algoritmos y los datos de entrenamiento.

Es necesario conocer la visión política y cultural que se implementa en los procesos algorítmicos y el sesgo de los datos que arrojan resultados como verdades. Hay que instalar una mirada crítica al funcionamiento de los cálculos ocultos. Es necesario conocer qué sentido y objetivo implementan los algoritmos. Estos sentidos configuran un posible mundo donde el reconocimiento de los méritos no encuentra trabas; donde la autoridad se obtiene únicamente en torno a la calidad y a la resiliencia.

Las GAFAM persiguen instalar un ambiente tecnológico invisible que permita a las personas orientarse, sin contrariarlos. Gran parte de nuestras elecciones diarias, son efectuadas por una infraestructura socio-técnica; comprar un pasaje de avión, traducción automática de lenguajes, encontrar el mejor restaurante, conseguir una cita personal, llenar la heladera o cargar la SUBE (tarjeta digital para utilizar transporte público en Argentina).

Con el GPS hemos perdido el paisaje. Los algoritmos guían nuestras preferencias y atan nuestras elecciones. Vuelven realidad el sueño liberal de la elección sin ataduras, pero este sueño esconde también su contracara. Una libertad algorítmicamente pautada.

Alfredo Moreno – Profesor TIC en Universidad Nacional de Moreno

Ingeniero TIC en ARSAT – Integrante de ticdata.com.ar

@ticdata2