Digitalizzazione, spazio informatico: quante le delizie… e quante le croci, e i rischi?

Cyberspace, cyber-attacks, hacker. Il grosso degli italiani sa realmente di cosa si sta parlando? Non sono certo la persona più adatta per trattarne perché non ne sono affatto un conoscitore, ma credo di poter proporre qualche considerazione generale che mi sembra riceva scarsa o discontinua attenzione, e invece sono estremamente rilevanti, per la nostra vita, e anche per la nostra sicurezza. Intanto, come faccio in molte occasioni, detesto l’abitudine italiana a usare termini anglosassoni dei quali la maggioranza delle persone non sa neanche il significato: forse la più recente è hub per le vaccinazioni quando averemmo il chiarissimo termine italiano “centro”; altre volte ho osservato il non-sense di acronimi dall’inglese come AIDS e NATO, che in tutti i paesi di lingua latina chiamano SIDA e OTAN. Nel nostro caso, se parlassimo di spazio digitale, attacchi informatici, pirati informatici ci si intenderebbe in modo più immediato con tutti: la “molestia o intimidazione di una persona tramite internet” non sarebbe più chiara per tutti anziché cyber-stalking?

Ma tant’è, non sarò certo io a cambiare le abitudini linguistiche (che tuttavia sono un indice della nostra subalternità, non solo culturale), e forse non è neanche il problema più grave.

Vengo dunque al sodo, che presenta aspetti molto diversi da quella che si definisce “realtà (!) virtuale”.

Del resto si comincia a parlare molto di una nuova forma di dipendenza, una forma di droga immateriale, la “dipendenza da internet” (smartphone, computer, tablet), che si riferisce all’uso eccessivo di internet associato a comportamento irritabile e umore negativo quando se ne è deprivati, in astinenza. Si sta diffondendo il fenomeno “hikikomori” che affligge ragazzi giovani che decidono di isolarsi nella loro stanza, chiudendo ogni rapporto con il mondo esterno, si ritirano socialmente arrivando a sostituire la vita reale con quella virtuale, passano il loro tempo davanti al computer navigando in internet.

L’insostenibile materialità dell’immateriale

Partirei da un primo aspetto di grande attualità, sul quale però mi sembra che gravino profondi malintesi. Oggi nei progetti di ripresa e di rilancio dell’economia, nei quali non può mancare la parola svolta verde, transizione ecologica, domina una parola d’ordine, digitalizzazione, come fosse un termine magico: ma quanti sono consapevoli che ogni volta che pigiamo un tasto sulla tastiera attiviamo un server che consuma energia e corrispondentemente emette gas climalteranti?

È stata molto opportuna la pubblicazione all’inserto L’Extraterrestre del Manifesto del 17 giugno 2021, con una serie di articoli molto chiari: “Dopo Cina, Usa e India qual è il paese che consuma più energia? La Rete, quell’universo digitale che ormai ha sconvolto anche la nostra vita”¹. E non si tratta solo di consumo di energia, i server consumano anche enormi quantità di acqua, potabile!² Insomma, la digitalizzazione non è la soluzione taumaturgica ma è parte del problema, e deve essere profondamente trasformata, a fronte delle previsioni di enorme crescita futura: la quantità di emissioni di CO2 della Information and Communication Technology potrebbe crescere dall’attuale 3,6% al 14% di quelle globali.

Come stupirsi che i giganti del Big Tech costruiscano i nuovi data-center in Scandinavia, oltre il Circolo Polare Artico? Facebook ha costruito il suo nuovo data-center nella città costiera di Luleå, nell’estremo nord della Svezia: “… la fredda regione di Norrbotten offre alla compagnia di Mark Zuckerberg uno scenario perfetto per combinare risparmio, fiscalità agevolata e sostenibilità, parola chiave anche per i giganti della tecnologia … il centro di archiviazione, elaborazione e distribuzione di dati e servizi ospita le centinaia di server per gli oltre 420 milioni di utenti Facebook europei e che insieme reggono il cloud del social media statunitense. … Ma nonostante le più grandi aziende di cloud si stiano impegnando a ridurre le loro emissioni di carbonio, gli sforzi sono insufficienti. Con la crescente adozione di servizi cloud, un’economia sempre più digitalizzata e l’enorme potenza di calcolo richiesta dai programmi di intelligenza artificiale e di apprendimento automatico, l’impronta ambientale dei big tech è destinata a crescere. Le emissioni di carbonio delle infrastrutture tecnologiche e dei servizi cloud oggi superano quelle dei viaggi aerei pre-Covid. E il consumo annuale di elettricità di soli cinque gruppi tecnologici, Amazon, Google, Microsoft, Facebook e Apple, raggiunge circa i 45 terawatt l’ora, pari a quello dell’intera Nuova Zelanda“³.

La parola d’ordine della digitalizzazione non nasconderà tranelli simili, ad esempio, alla differenza, sostanziale, fra l’idrogeno green e l’idrogeno blu?

Ma gli attacchi informatici hanno conseguenze molto materiali!

Ormai, e da molti anni, si susseguono attacchi informatici devastanti a siti di aziende e anche nazionali, che bloccano attività vitali: alcuni passano sugli organi d’informazione ma dubito che il grosso dell’opinione pubblica riesca ad avene una visione generale. Può trattarsi anche di veri attacchi militari non meno devastanti di un bombardamento: basti ricordarne uno, lo Stuntnex che nel 2008 disabilitò centrifughe dell’impianto di arricchimento dell’uranio dell’Iran⁴.

Per richiamare solo i più recenti, dal marzo del 2020 un agente incognito (probabilmente russo, ma chi lo sa) ha condotto un sofisticatissimo attacco informatico al software Orion dell’azienda texana SolarWinds: ben 18.000 siti americani sono stati infiltrati per almeno sei mesi, in gran parte agenzie amministrative, industriali, ma anche militari. Steven J. Vaughan-Nichols definisce l’attacco SolarWinds una Pearl Harbour informatica⁵. Il Presidente di Microsoft lo definisce “il più grande e più sofisticato attacco” da sempre⁶: “ll cyber-attacco a SolarWinds appare come l’attacco più pesante che gli Stati Uniti abbiano subito, e ha colpito sistemi critici di agenzie governative e di imprese private. Non è ancora chiara l’estensione di questa interferenza, che potrebbe riguardare anche centrali nucleari, impianti idroelettrici, sistemi di controllo del traffico e del ciclo industriale. […] La possibilità di controllare questi sistemi permette a chi compie l’attacco di provocare il caos in qualunque momento. Per di più questi cyber-attacchi ai sistemi governativi possono eliminare la capacità di comando, controllo e comunicazione…”.

Ma vengo ora a implicazioni più direttamente militari.

Intelligenza Artificiale e Armi Autonome: scenari inquietanti

Mi riferirò a un articolo molto eloquente del Bulletin of the Atomic Scientists dell’aprile di quest’anno⁷. Gli autori rovesciano il concetto tradizionale del controllo umano sugli armamenti, esaminando piuttosto come “gli armamenti hanno plasmato il ruolo degli operatori umani”: “Sempre più funzioni cognitive sono state ‘delegate’ a macchine, e gli operatori umani affrontano difficoltà incredibili a capire come i sistemi informatici complessi prendono le decisioni sugli obiettivi (targeting decisions)”. Si pongono sfide radicalmente nuove e imprevedibili.

In primo luogo, le targeting decisions sono opache: nei casi esaminati relativi alle difese antimissile, gli addetti che le operano “già hanno problemi a capire come i sistemi automatizzati e autonomi che essi controllano prendono le decisioni, incluso come essi generano i profili e le valutazioni del bersaglio. … Ma errori rilevanti dei sistemi di difesa aerea suggeriscono anche che gli operatori umani non sempre sono consapevoli di carenze note del sistema.” Essi possono essere talmente fiduciosi dell’affidabilità e dell’accuratezza delle informazioni che vedono sui loro schermi da non mettere in discussione i parametri algoritmici di individuazione del bersaglio forniti dalla macchina.

Inoltre “Gli operatori possono perdere la percezione della situazione … gli elementi del contesto … la comprensione del loro significato, e la proiezione della loro evoluzione successiva.” Soprattutto in situazioni di combattimento il forte stress può rendere praticamente impossibile mettere in dubbio i dati del sistema e prendere decisioni ponderate sulla correttezza di certi bersagli. I progressi nella velocità a manovrabilità degli armamenti riducono continuamente i tempi che gli operatori hanno per decidere se autorizzare l’uso della forza.

“Gli errori dei sistemi di difesa avvengono tipicamente per le complessità inerenti all’interazione uomo-macchina”: il caso dell’errore che ha portato l’8 gennaio 2020 all’abbattimento del jet iraniano è emblematico. “Ma quando le cose vanno male, spesso vengono attribuite agli operatori umani in fondo alla catena di comando responsabilità che in realtà sono dovute a carenze strutturali. Focalizzarsi sull”errore umano’ devia l’attenzione da un esame più rigoroso di come l’uso di tecnologie automatizzate e autonome struttura l’uso della forza.”

A proposito della competizione frenetica ad automatizzare tutti i sistemi d’arma un articolo su Nature del maggio 2021 denuncia la “corsa a militarizzare l’IA”⁸: “la proliferazione dell’IA militare renderà il mondo meno sicuro”.

Drammaticamente attuale dopo i brutali attacchi di Israele a Gaza del maggio 2021 è la notizia della sperimentazione sul campo (com’è costume di Israele) di una tecnica aggressiva altamente innovativa: sciami di droni: “primo al mondo, Israele ha usato un vero sciame di droni in combattimento durante il conflitto di maggio con Hamas a Gaza.”⁹

(In)sicurezza informatica e armi nucleari

Nei decenni passati non si contano le volte (quelle conosciute) in cui lo scoppio di una guerra nucleare è stato evitato perché ufficiali che controllavano i sistemi di rilevamento non hanno creduto ad allarmi dei sistemi satellitari di un attacco missilistico avversario e si sono assunti la responsabilità personale di non impartire l’ordine di una ritorsione nucleare che avrebbe scatenato la guerra nucleare (a volte subendo per questo provvedimenti disciplinari): Noam Chomsky dice, “Se siamo vivi è per miracolo”. La fallibilità degli operatori umani ha alimentato lo sviluppo esasperato di sistemi di controllo automatizzato: il problema però è che tutte le macchine sono soggette a malfunzionamenti, con l’aggravante che la macchina non è suscettibile di riflessione critica e di ravvedimento, e questo può condurre al disastro.

Una recente analisi di Diego Latella esamina espressamente l’aspetto della presunta sicurezza informatica relativo alle armi nucleari¹⁰:

“In effetti, quando si parla di sicurezza informatica, sarebbe più opportuno parlare di insicurezza informatica. Infatti, il problema che sta a monte di tutte le questioni relative alla cybersecurity e cyberwar risiede nel fatto che i sistemi digitali quando superano un certo livello di complessità – piuttosto basso, se confrontato con quello dei dispositivi odierni – possono essere, e di solito sono, non sicuri, nel senso che presentano delle vulnerabilità a causa delle quali spesso non è possibile garantirne il corretto funzionamento.”

Dopo avere esaminato vari casi concreti, Latella riporta un brano di A. Futter¹¹:

“[Una] dipendenza crescente da computer e software complessi, e da sempre più linee di codice, in combinazione con una sofisticata tecnologia dell’hardware e dei sensori, in tutta l’impresa nucleare, sta facendo aumentare le probabilità di normal nuclear accidents, errori e malintesi – cioè problemi indotti dai computer che potrebbero causare confusione che porta a conseguenze nucleari ingiustificate, non pianificate e non volute, e persino all’uso [delle armi] nuclear[i].”

E aggiunge il commento:

“l’aggettivo ‘normal’… sta a sottolineare che questi incidenti sono inevitabili, “normali”: prima o poi accadono e quindi, il loro aver luogo non deve sorprenderci.”

In sostanza, a una minaccia informatica può seguire una risposta non necessariamente confinata nel dominio cyber.

“Questo porta a una maggiore probabilità di uso di armi nucleari accidentale, o per errore, o comunque non autorizzato, a causa del più alto stato di allerta, della maggiore complessità dei sistemi e della loro vulnerabilità, cui va aggiunta, ovviamente, la sempre presente possibilità di guasti accidentali … A complicare la situazione, va ricordato che è in atto un processo di modernizzazione dei sistemi d’arma nucleari, processo che richiederà certamente anche l’aggiornamento dei sistemi informatici ad essi collegati.¹² … la creazione di nuovi sistemi informatici, così come l’aggiornamento di sistemi esistenti è di per sé una potentissima fonte di vulnerabilità.”

L’utilizzo spinto all’IA anche in questo settore può ulteriormente aggravare la situazione, come afferma K. Kubiak nel rapporto su un workshop organizzato recentemente dall’European Leadership Network¹³:

“… la situazione può essere resa molto più pericolosa dall’utilizzo dell’Intelligenza Artificiale nei sistemi d’arma e nelle loro infrastrutture di controllo e di supporto alle decisioni – quando non di decisione vera e propria, come in alcune proposte di armi autonome – anche a causa dell’intrinseca opacità di queste tecnologie, caratteristica specifica dei più promettenti modelli e sistemi di IA.”

Provvedimenti urgenti per scongiurare il disastro

Ci addentriamo in un campo radicalmente innovativo e conseguentemente inesplorato, che offre grandi opportunità, ma nasconde tranelli che potrebbero avere conseguenze drammatiche per l’intera umanità: soprattutto nel clima della nuova corsa agli armamenti e alla competizione per la supremazia mondiale, nella quale non vi è esclusione di colpi!

Mi sembra singolare che, soprattutto a fronte dei programmi di modernizzazione degli armamenti nucleari, le potenze nucleari non sembrano voler considerare un provvedimento che potrebbe allontanare il pericolo di falsi allarmi o errori degli operatori o dei sistemi di controllo senza alterare in alcun modo gli equilibri strategici. Infatti un numero considerevole dei missili nucleari viene tuttora mantenuto nello stato di allerta e “lancio immediato su allarme” (launch on warning) in cui era tenuto durante la Guerra Fredda: è assolutamente evidente anche per un profano in materia che la compressione dei tempi di reazione conseguente alla modernizzazione sia delle armi nucleari (si pensi ai missili ipersonici) sia ai sistemi di controllo abbrevia i tempi di reazione ad un allarme aggravando pericolosamente il pericolo che si scateni una guerra nucleare magari non voluta.

Concludo quindi richiamando quanto ha affermato il presidente del Forum lussemburghese per la prevenzione di una catastrofe nucleare, Vyacheslav Kantor:

“Al giorno d’oggi, una guerra nucleare rischia d’iniziare non per causa delle azioni consapevoli di un esercito, ma piuttosto a causa di un errore di qualcun altro o di sistemi informatici. … Il pericolo non risiede nell’uso deliberato di armi nucleari, ma nel fatto che la guerra potrebbe scoppiare a causa di errori umani, errori di sistema, incomprensioni o calcoli errati. I rischi aumentano a causa delle nuove tecnologie informatiche.”¹⁴