Il mondo del futuro sarà senza alcun dubbio radicalmente diverso da quello che conosciamo: così come quello attuale è radicalmente diverso da quello nel quale io sono cresciuto. Con la differenza che il ritmo delle innovazioni è sempre più incalzante e spasmodico, alimentato da meccanismi drogati, che inducono bisogni non necessari e rendono artificiosamente obsoleti i nuovi prodotti, spesso inservibili dopo pochi anni (obsolescenza programmata), e portano alla crescente sostituzione dei valori umani e sociali con il possesso di beni materiali o status symbol.
Il mondo del futuro potrà più o meno piacere, ma sembra indubbio che tra le innovazioni ve ne saranno anche di terrificanti ed estremamente pericolose nel campo della guerra e degli armamenti, nonché del controllo sociale sempre più pervasivo. Sono tanti gli interrogativi e gli aspetti inquietanti che riguardano gli sviluppi dell’intelligenza artificiale e dell’automazione e il loro controllo (se questo non è un’illusione), ma tra questi occorre includere anche la guerra e il modo in cui queste tecnologie potrebbero (o potranno, se non verranno arrestati) inserirsi nei conflitti bellici del futuro, affiancandosi, se non addirittura sostituendosi per molte funzioni, agli esseri umani. L’automazione crescente interesserà infatti anche gli armamenti perché si stanno approntando le cosiddette armi autonome (fully autonomous weapons), chiamate a volte “killer robot“, armamenti che possono selezionare e ingaggiare bersagli senza ulteriore intervento di un operatore umano.
L’immaginario corre agli scenari della fantascienza, come Guerre Stellari, ma per quanto la fantascienza cerchi di immaginare il futuro più impensabile questo non è evidentemente prevedibile e potrà essere completamente diverso.
Il dibattito sull’innovazione tecnologica è sempre stato molto vivo (risalendo per lo meno dal tempo dei luddisti): è sempre stata presente, e alla fine prevalente (in modo attivo o, spesso, passivo) una corrente che ha salutato con favore tutte le innovazioni, affermando che il problema non è fermare il “progresso” ma controllarlo. Il mio personale parere è che questa idea di “controllo della tecnologia e delle innovazioni” si è rivelata una copertura ideologica e raramente ha funzionato per evitare le ricadute negative delle innovazioni: porto spesso un esempio, siamo riusciti a controllare l’innovazione dell’automobile che esiste da più di un secolo, a valorizzarne solo gli (indubbi) aspetti positivi? A me sembra che lo sviluppo incontrollato dell’automobile si sia tramutato nel soffocamento delle città, in frequenti paralisi della circolazione, in una fonte micidiale di inquinamento ambientale terribilmente nocivo [penso che tutti conoscano le autorevoli e spaventose valutazioni di 9 milioni di decessi prematuri all’anno: ma questa notizia ha forse indotto una riduzione dell’uso dell’auto privata? D’altra parte le automobili autonome (self-driving cars) sono ormai una realtà in via di inserimento nel mercato commerciale (una volta superate le barriere normative, culturali ed economiche)].
Tanto più micidiale è il rischio di uno sviluppo incontrollato delle armi autonome, soprattutto di un loro utilizzo incontrollabile e irresponsabile (ma è mai esistito uno sviluppo responsabile degli armamenti?). Storicamente è sempre avvenuto che lo sviluppo di armi innovative non sia mai stato arrestato, sia stato adottato (spesso con l’illusione, o il pretesto, di acquisire un vantaggio per molto tempo incolmabile sugli avversari) ed abbia rivoluzionato in modo duraturo la natura stessa della guerra: è avvenuto per il fucile e il cannone, fino alla bomba atomica e i suoi sviluppi successivi (bomba termonucleare, missili, difese antimissile, ecc.): salvo poi chiudere la stalla successivamente, mettendo affannosamente al bando le armi più spaventose (chimiche, biologiche, mine anti-uomo, bombe a grappolo: per le armi nucleari siamo all’inizio).
Le armi autonome cominciano già ora ad essere una realtà e non solo uno scenario potenziale, ma non ancora regolamentato. Esso pone in ogni caso già da ora dei problemi etici e legali fondamentali.
Per fortuna sembra che stia maturando una sana preoccupazione e reazione, che però non trova corrispondenza in un’adeguata informazione e non provoca quella presa di coscienza e quella razione dell’opinione pubblica che ne determinerebbe il radicale ripudio. Una volta aperto questo vaso di Pandora, che darà origine agli sviluppi e applicazioni più impensabili, come si potrà tornare indietro?
Le maggiori autorità mondiali dell’intelligenza artificiale e della robotica – fra cui spiccano i nomi di Elon Musk e Mustafa Suleyman, di Google DeepMind – si sono rivolte alle Nazioni Unite per promuovere il bando delle armi autonome. Essi sottolineano che grazie alle evoluzioni tecnologie degli ultimi anni lo sviluppo di queste armi potrebbe scatenare una terza rivoluzione nelle scienze belliche, dopo quelle legate all’invenzione della polvere da sparo e a quella delle armi nucleari (ovviamente la classificazione delle rivoluzioni militari si presta ad arbitrarietà, ma quello che conta è il concetto):
“Una volta sviluppate le armi autonome permetteranno conflitti armati di scala ben più ampia rispetto ad oggi, e con velocità più superiore a quelle che l’uomo può comprendere …Possono essere armi di terrore, armi che despoti e terroristi utilizzeranno contro le popolazioni innocenti, e armi che possono essere manipolate per comportarsi in modalità poco desiderabili”.
La lettera è firmata da 116 leader di società che si occupano di Intelligenza Artificiale provenienti da 26 nazioni differenti. Il suo obiettivo è di sensibilizzare l’Onu affinché venga avviato un dialogo per proporre un divieto globale sullo sviluppo delle armi autonome. È forse il caso di esprimere qualche perplessità sul fatto che a muoversi siano esponenti di imprese del settore. Ma la necessità di sensibilizzare e mobilitare l’opinione pubblica è senz’altro urgente. I media e le istituzioni mondiali sembrano muti, e comunque incapaci di affrontare le sfide che sorgono alle nuove frontiere di conoscenza, scienza e tecnologia, di governare e integrare in uno sviluppo equilibrato, compatibile e sostenibile i più delicati avanzamenti conoscitivi e le loro potenziali ricadute. Mentre il mondo è dominato dal paradigma (o il mito) della comunicazione e allo stesso tempo orfano di un ordine nel comunicare.
Le principali potenze militari che stanno sviluppando questo tipo di tecnologie sono USA, Cina, Russia e Israele. Alcuni sistemi sono già stati utilizzati sul campo, come le torrette di confine autonome sviluppate dalla sudcoreana Dodaam Systems, che adottano dei mitragliatori capaci di identificare e sparare su bersagli senza alcun intervento umano (necessitano solo dell’ok per sferrare il colpo letale).
Come sempre accade vi sono anche voci opposte, che sostengono che queste tecnologie siano in grado di ridurre le morti sul campo di battaglia, con la possibilità di individuare soldati e combattenti in maniera più precisa rispetto agli esseri umani: come non ricordare che i bombardamenti nucleari di Hiroshima e Nagasaki furono surrettiziamente “giustificati” per risparmiare vittime fra i soldati americani in una invasione del Giappone?
