El mundo del futuro será, sin duda, radicalmente diferente de lo que sabemos, así como el presente es radicalmente diferente del de mi infancia. La diferencia radica en que el ritmo de la innovación es cada vez más apremiante y espasmódico, alimentado por mecanismos drogados, que conducen a necesidades innecesarias y nuevos productos obsoletos artificialmente, a menudo inútiles después de unos años (adolescencia programada), y conducen a la sustitución creciente de los valores humanos y sociales por la posesión de bienes materiales o símbolos de estatus.
El mundo del futuro puede ser más o menos placentero, pero parece cierto que las innovaciones incluirán unas aterradoras y extremadamente peligrosas en el campo de la guerra y el armamento, así como un control social cada vez más generalizado. Hay tantas cuestiones y aspectos preocupantes que conciernen a los desarrollos de la inteligencia artificial y la automatización y su control (si esto no es una ilusión), pero entre ellos hay que incluir también la guerra y la forma en que estas tecnologías podrían (o podrán, si no son detenidas) encajar en la guerra del futuro, flanqueándose e incluso sustituyéndose por muchas funciones, los seres humanos. De hecho, la creciente automatización afectará también a los armamentos, ya que se están preparando los denominados armamentos autónomos (armas totalmente autónomas), a veces denominados «robots asesinos», armamentos que pueden seleccionar y atacar objetivos sin más intervención de un operador humano.
El imaginario atraviesa escenarios de ciencia ficción, como Star Wars, pero aunque la ciencia ficción intenta imaginar el futuro más impensable, es evidente que esto no es predecible y puede ser completamente diferente.
El debate sobre la innovación tecnológica ha sido siempre muy animado (al menos desde la época de los ludistas): siempre ha estado presente, y al final ha prevalecido (en forma activa o, a menudo, pasiva) una corriente que ha acogido favorablemente todas las innovaciones, afirmando que el problema no es detener el «progreso» sino controlarlo. Mi opinión personal es que esta idea del «control de la tecnología y las innovaciones» ha demostrado ser una cobertura ideológica y rara vez ha funcionado para evitar los efectos negativos de las innovaciones. A continuación les pongo un ejemplo: ¿Hemos conseguido controlar la innovación del coche que existe desde hace más de un siglo, para valorar sólo los aspectos positivos? Me parece que el desarrollo descontrolado de los automóviles se ha convertido en la asfixia de las ciudades, la parálisis frecuente del tráfico, en una fuente mortal de contaminación ambiental terrible [creo que todo el mundo conoce las estimaciones autorizadas y espantosas de 9 millones de muertes prematuras al año: ¿pero esta noticia ha conducido a una reducción del uso de los coches privados? Por otra parte, los automóviles autónomos están entrando ahora en el mercado comercial (una vez superadas las barreras reglamentarias, culturales y económicas)].
Cuanto más mortífero es el riesgo de un desarrollo incontrolado de armas autónomas, especialmente su uso irresponsable e incontrolado (pero, ¿nunca ha habido un desarrollo responsable de armamentos?). Históricamente, siempre ha sido el caso de que el desarrollo de armas innovadoras nunca se ha detenido, se ha adoptado (a menudo con la ilusión o el pretexto de obtener una ventaja insalvable sobre los adversarios durante mucho tiempo) y ha revolucionado permanentemente la naturaleza misma de la guerra: tuvo lugar para el fusil y el cañón, hasta la bomba atómica y sus sucesivos desarrollos (bomba termonuclear, misiles, defensas antimisiles, etc.), salvo luego de ir cerrando el cerco prohibiendo rápidamente las armas más espantosas (químicas, biológicas, minas antipersonales, bombas de racimo: para las armas nucleares estamos al principio).
Las armas autónomas ya están comenzando a convertirse en una realidad y no sólo en un escenario potencial, pero todavía no están reguladas. En cualquier caso, en estos momentos ya plantea problemas éticos y jurídicos fundamentales.
Afortunadamente, parece que se está desarrollando una sana preocupación y reacción, pero no corresponde a una información adecuada y no provoca la toma de conciencia y la racionalidad de la opinión pública que daría lugar a su radical repudio. Una vez abierto esta caja de Pandora, que dará lugar a los desarrollos y aplicaciones más impensables, ¿cómo se puede volver atrás?
Las principales autoridades mundiales en el campo de la inteligencia artificial y la robótica -entre ellas Elon Musk y Mustafa Suleyman, Google DeepMind- se han acercado a las Naciones Unidas para promover la prohibición de las armas autónomas. Señalan que, gracias a los avances tecnológicos de los últimos años, el desarrollo de estas armas podría desencadenar una tercera revolución en las ciencias de la guerra, después de las vinculadas a la invención de la pólvora y las armas nucleares (obviamente, la clasificación de las revoluciones militares se presta a la arbitrariedad, pero lo que importa es el concepto):
«Una vez que las armas autónomas se hayan desarrollado, permitirán conflictos armados a una escala mucho más amplia de lo que son hoy en día, y a un ritmo más rápido de lo que la humanidad puede entender… Pueden ser armas de terror, armas que déspotas y terroristas usarán contra poblaciones inocentes, y armas que pueden ser manipuladas para comportarse de manera indeseable».
La carta está firmada por 116 líderes de empresas que trabajan con Inteligencia Artificial de 26 países diferentes. Su objetivo es sensibilizar a las Naciones Unidas sobre la necesidad de diálogo para proponer una prohibición global del desarrollo de armas autónomas. Tal vez merezca la pena expresar algunas dudas sobre si hay representantes de las empresas del sector. Pero existe una necesidad urgente de concienciar y movilizar a la opinión pública. Los medios de comunicación e instituciones del mundo parecen silenciosos, pero incapaces de afrontar los desafíos que surgen en las nuevas fronteras del conocimiento, la ciencia y la tecnología, para gobernar e integrar en un desarrollo equilibrado, compatible y sostenible los avances cognitivos más delicados y sus potenciales recaídas. Mientras que el mundo está dominado por el paradigma (o mito) de la comunicación y al mismo tiempo huérfano por un orden en la comunicación.
Las principales potencias militares que están desarrollando este tipo de tecnología son Estados Unidos, China, Rusia e Israel. Algunos sistemas ya se han utilizado en el campo, como las torretas fronterizas autónomas desarrolladas por los sistemas surcoreanos Dodaam Systems, que adoptan ametralladoras capaces de identificar y disparar objetivos sin intervención humana (sólo con autorización para desencadenar el golpe mortal).
Como siempre, también hay voces opositoras que afirman que estas tecnologías son capaces de reducir las muertes en el campo de batalla, con la posibilidad de identificar soldados y combatientes más precisamente que a seres humanos. ¿Cómo no recordar que los bombardeos nucleares de Hiroshima y Nagasaki fueron «justificados» subrepticiamente para salvar víctimas entre los soldados norteamericanos en una invasión a Japón?
