Esistono diversi fenomeni che rendono i confini giuridici difficilmente distinguibili per l’intelligenza artificiale (IA) e la sua crescente implicazione in molteplici campi, tra cui la robotica. Dal punto di vista temporale, la velocità con cui si sviluppa l’IA e il suo interesse economico in rapida evoluzione, non sembrano sincronizzarsi alle questioni legali che l’IA ci fa affrontare. E’ difficile stabilire i limiti di ciò che può costituire una violazione dei diritti degli individui o dei consumatori, e di eventuali rischi. Si tratta dunque di uno sfasamento in materia di azioni e di regolamentazioni: la società è carente di fronte all’imprevedibilità dei possibili problemi posti dall’IA in tutti i settori. Sappiamo che i suoi sviluppi coprono una larga gamma di applicazioni nel settore civile, in particolar modo in quello medico, educativo (e-learning), dell’assistenza alla persona, droni, ecc.

L’ascesa dell’IA nel campo medico c’è stata per creare una vicinanza tra gli attori della salute e i servizi attesi, ma questa vicinanza non è priva di conseguenze. L’intelligenza artificiale utilizzata per dei fini di diagnosi medica, quand’è confrontata ad un trattamento di variabilità e di unicità in termini di dati medici complessi, trova la sua ragione principale nella ripetitività. Perde la sua capacità di trattare dei parametri variabili nelle analisi diagnostiche, specialmente davanti a casi di malattie difficili, che solo l’intelligenza umana è capace di trattare con la complessità delle conoscenze mediche esistenti, per conferire una questione medica elaborata. Si parla, in questo caso, di un avvicinamento uomo/macchina e di un’intelligenza artificiale collaborativa, ma che ha i suoi limiti (1). Cosi l’IA è autonoma in un ambiente conosciuto, destinato a svolgere dei compiti specifici, che esclude delle variabilità inattese.

La questione dell’apporto dell’IA in materia economica e di progresso tecnologico e delle sue ricadute nei settori interessati, spesso prevalgono sulle conseguenze imprevedibili dal punto di vista etico e giuridico. L’IA nella vita reale permette di ridurre i costi di numerose attività professionali. Lo sviluppo dell’IA e della robotizzazione pone il dibattito su quale sia il posto dell’uomo nell’ambito lavorativo e della sua possibile sostituzione per questioni di redditività ed efficienza. Ma i vincoli che questo sistema prefigura in un contesto di mercato e di servizio, calpestano il diritto al lavoro e la sua applicazione per garantire un minimo di diritti all’uomo (2).

Eppure le Norme europee di diritto civile sulla robotica in relazione all’IA (testi del parlamento europeo 2014-2019) stipulano, per esempio nei principi generali dell’articolo 3, che lo sviluppo della tecnologia robotica dovrebbe prima di tutto mirare a completare le capacità umane e non a sostituirle. Questa evoluzione tecnologica, spinta soprattutto da ragioni economiche, non definisce abbastanza i limiti che il coinvolgimento dell’IA e della robotica può raggiungere in diversi settori di attività. Si tratta anche di posti di lavoro che possono essere minacciati. L’espansione dell’IA e la sua integrazione nella robotica è tale che nessuno può prevedere la sua evoluzione ed i suoi limiti, quindi la sua legittimità.

Sappiamo che algoritmi molto sviluppati in un sistema opaco permettono di entrare in un’interazione macchina/uomo che porta ad un riconoscimento del profilo tipo, tratti e tendenze cognitive a partire dalle attività e decisioni umane effettuate attraverso un’interfaccia gestita dall’IA. Questa raccoglie dei dati dell’utente e interagisce con lui. Si tratta di dati socio-culturali e delle loro qualità che questa tecnologia utilizza all’insaputa di un individuo in casi diversi, in particolare attraverso i siti commerciali (e-commerce).

Per illustrare una pratica ricorrente in questa logica, sappiamo che quando si naviga in un sito commerciale qualunque, i cookies appaiono per individuare l’utente durante la sua ricerca, permettendo di registrare su un server il suo comportamento. Tutte queste tracce potranno essere condivise con altre società e utilizzate a dei fini commerciali. L’IA è già presente negli scaffali dei negozi al dettaglio. Ci sono processi in cui è utilizzata, per esempio, attraverso il riconoscimento facciale per catturare i comportamenti di un cliente in un negozio. Insomma, se un consumatore si sofferma « più del dovuto » davanti ad un prodotto – un mixer per esempio – quest’informazione sarà memorizzata per essere utilizzata durante la sua prossima visita.

Spesso questo dispositivo genera dei pregiudizi che toccano i diritti e le libertà degli individui in materia di riservatezza. L’articolo 14 delle Norme europee di diritto civile sulla robotica a livello dell’intelligenza artificiale, raccomanda che si presti particolare attenzione ai sistemi che rappresentano una seria minaccia per la riservatezza, a causa della loro ubicazione in spazi tradizionalmente protetti e privati, e delle loro capacità di estrarre e di trasmettere informazioni su dati personali e sensibili (3).

Questo diritto di principio è rassicurante idealmente, ma sul piano giuridico è impossibile da praticare, in un sistema opaco come quello dell’IA, salvo in casi avverati e provati, ma difficilmente raggiungibili. Pertanto, la responsabilità civile per i danni causati dai robot e dall’IA è una questione cruciale che deve essere esaminata e affrontata a livello europeo. Tuttavia, sarà difficile applicare questa responsabilità nella pratica quotidiana di qualsiasi settore, se non ci si basa su una carta di regolamentazione per il controllo di ogni entità dell’IA. Il rischio è di creare un universo difficilmente controllabile.

Non esistono sufficienti norme giuridiche chiare e specifiche che permettano di fissare i limiti dell’uso dell’IA nei settori civili e privati, o addirittura nella ricerca. Tutto sommato, la tendenza si dirige verso un’ottimizzazione delle prestazioni e dei benefici in un processo industriale o di applicazione civile e militare, i cui rischi ci sembrano oggi sproporzionati rispetto ai benefici.

Di Abdullah Alqalawi

Referenze bibliografiche :

(1) Nathanaël Jarrassé, Franck Damour et Nathalie Sarthou-Lajus : La robotique et le mythe de « l’homme augmenté » S.E.R. Études 2018  / 2 Février | pagine 31 a 42

(2) Céline Castets-Renard, Quels impacts de l’intelligence artificielle sur les métiers du droit et du journalisme ?, Institut Universitaire de France, 2018.

(3) Règles de droit civil sur la robotique, Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)) UF), 2018. Parlamento europeo 2014-2019  testi adottati

Traduzione dal francese di Angelica Mengozzi. Revisione di Thomas Schmid.