Ethics, robotics and AI in the time of COVID-19

Issue 4/2020

Abstract. The COVID-19 epidemic raises new technological challenges for robotics and AI. These challenges come with a variety of ethical issues requiring in-depth analysis and the development of corresponding ethical policies. These issues concern the protection of personal autonomy and privacy, trust relationships between public institutions, private firms and citizens as far as the use of personal data is concerned, the protection of democratic values, dignity of and at work, digital divide, and the meaningful human control of the operational autonomy of both robotic and AI systems.

SUMMARY: 1. Introduction. – 2. Privacy in the time of COVID-19. – 3. Trust in public institutions and private firms in the time of COVID-19. – 4. Responsible communication in the time of COVID-19. – 5. Ethical issues beyond COVID-19.

***

1. Introduzione

La situazione di emergenza sanitaria determinata dalla pandemia da COVID-19 ha posto nuove sfide tecnologiche per la robotica e l’IA, che riguardano l’estensione dell’automazione robotica e di una digitalizzazione “intelligente”. Raccogliere queste sfide può contribuire a incrementare la robustezza e la resilienza del sistema sanitario e del sistema produttivo all’epidemia da COVID-19. E a proteggere il tessuto sociale e culturale da perturbazioni simili, che potrebbero ripresentarsi in futuro con la diffusione di altre infezioni di origine zoonotica.

Ma le sfide tecnologiche di questo genere non potranno essere vinte senza affrontare anche i problemi etici che ad esse si accompagnano. Problemi che riguardano la protezione dell’autonomia e della privacy delle persone, le relazioni di fiducia tra cittadini e istituzioni sull’uso corretto dei dati personali, la protezione della democrazia, la dignità del lavoro e sul lavoro, il digital divide, il controllo umano significativo dell’autonomia operativa di sistemi informatici e robotici.

2. La privacy al tempo del COVID-19

Sappiamo che le tecnologie dell’IA integrate con tecnologie robotiche, come i droni e altri robot mobili per la sorveglianza, hanno giocato un ruolo di primo piano nelle strategie di contenimento dell’infezione da COVID-19. Il governo sudcoreano ha utilizzato a questo fine il tracciamento delle transazioni con carte di credito, la localizzazione degli smartphone e le riprese da telecamere a circuito chiuso. Tali informazioni sono state utilizzate, sia in forma aggregata e anonimizzata, sia in forma non anonimizzata:

– per individuare e sottoporre al tampone diagnostico chi abbia avuto contatti con persone risultate positive al virus;

– per ipotizzare se, dove e da chi una persona possa essere stata contagiata; per ipotizzare l’esistenza di focolai attivi ancora ignoti;

– per fornire, mediante una app dedicata, indicazioni sulle zone con focolai attivi di contagio dalle quali tenersi lontani.

Le autorità sudcoreane non hanno sempre prestato la dovuta cura al difficile compito dell’anonimizzazione dei dati. La BBC riporta un messaggio di allerta per la popolazione sudcoreana, che fa riferimento a un uomo di 43 anni residente nel distretto di Nowon, il quale ha contratto il virus mentre frequentava sul luogo di lavoro nel distretto di Mapo un corso sul tema delle molestie sessuali^[1]. Tali informazioni potrebbero bastare ad alcuni per identificare la persona in questione. Alla paura associata alla contrazione della malattia si somma così il timore di andare incontro a forme di stigmatizzazione sociale.

Anche per l’Unione Europea, il perseguimento di un bene maggiore – la salute di tutti e di ciascuno – può comportare un temporaneo allentamento delle norme a protezione della privacy nel trattamento dei dati personali, purché le misure straordinarie adottate siano mirate allo scopo in questione, proporzionate e opportunamente limitate nel tempo. Tali indicazioni generali devono essere interpretate e precisate nel contesto specifico dell’epidemia da COVID-19, tenendo in conto sia le conoscenze mediche sia le limitazioni delle tecnologie coinvolte. Inoltre, come ha ribadito lo EDPB (European Data Protection Board) in una dichiarazione adottata il 19 marzo 2020 sul trattamento dei dati personali durante l’epidemia di COVID-19, «qualora siano introdotte misure che consentono il trattamento dei dati di localizzazione in forma non anonimizzata, lo Stato membro ha l’obbligo di predisporre garanzie adeguate, ad esempio fornendo agli utenti di servizi di comunicazione elettronica il diritto a un ricorso giurisdizionale»^[2].

3. Fiducia nelle istituzioni e nelle aziende al tempo del COVID-19

Le istituzioni pubbliche richiedono la fiducia dei cittadini quando esse adottano misure straordinarie di monitoraggio e sorveglianza sociale per contenere l’infezione da COVID-19: fiducia che i dati personali siano raccolti e usati esclusivamente per gli scopi e nei modi necessari.

Le relazioni di fiducia hanno un impatto positivo sulla robustezza e sulla resilienza della società. Come aveva già sottolineato il sociologo Niklas Luhmann, le relazioni diffuse di fiducia facilitano le collaborazioni, attenuano la spinta a controllare gli altri, aiutano lo sviluppo economico e il fiorire di reti sociali più estese^[3]. La costruzione di relazioni basate sulla fiducia è un processo difficile e lungo, mentre la loro distruzione è invece un’operazione rapida e devastante. Per questo è bene ricordare nell’attuale contesto emergenziale alcuni episodi recenti di uso delle tecnologie informatiche e dell’IA nei quali la fiducia delle persone è stata tradita da istituzioni pubbliche o da aziende private.

Un caso emblematico, denunciato da Edward Snowden, ha riguardato una raccolta massiccia, che non è apparsa convincentemente motivata da ragioni di sicurezza nazionale, dei dati personali di cittadini statunitensi e di altre nazionalità da parte della NSA (National Security Agency del Dipartimento della Difesa degli Stati Uniti d’America). Le rivelazioni di Snowden facevano riferimento al programma di intercettazione telefonica tra Stati Uniti e UE, al programma di sorveglianza elettronica PRISM e ad altri programmi di acquisizione dati da Internet e dal World Wide Web. Nella sua recente autobiografia, Snowden ha ribadito che PRISM consentiva alla NSA di raccogliere sistematicamente foto, video, chat audio, le parole chiave e i contenuti di ricerche sul web, e ancora altri dati degli utenti conservati da Microsoft, Yahoo!, Google, Facebook, Paltalk, YouTube, Skype, AOL e Apple^[4]. Oggi i nostri computer e i nostri smartphone fanno parte della nostra intimità come le nostre case. Per questo motivo, afferma Snowden, le politiche di raccolta a tappeto dei dati personali messe in atto dalla NSA costituiscono una violazione del Quarto emendamento della Costituzione statunitense^[5].

Il caso Cambridge Analytica-Facebook è altrettanto emblematico per quanto riguarda il problema dell’erosione del rapporto di fiducia tra le aziende del settore dell’informazione e i loro utenti. I dati personali di un vasto gruppo di utenti di Facebook sono pervenuti alla società Cambridge Analytica, e da questa elaborati per individuare i profili psicologici degli utenti, con lo scopo ultimo di confezionare messaggi elettorali personalizzati e influenzare in questo modo le opinioni politiche dei destinatari^[6]. La strategia adottata da Cambridge Analytica mette in pericolo la possibilità di formarsi un’opinione politica consapevole, che si trova alla base della libera partecipazione di ciascuno al voto nelle società democratiche.

La fiducia richiesta ai cittadini dalle istituzioni pubbliche al tempo del COVID-19 riguarda, tra l’altro, la rinuncia a utilizzare surrettiziamente una raccolta più intrusiva dei dati personali per erodere i fondamenti della democrazia.

È opportuno ricordare, a proposito di emergenza sanitaria e partecipazione democratica, la legge emergenziale approvata il 30 marzo 2020 dal parlamento ungherese per fronteggiare l’epidemia da COVID-19^[7]. Questa legge concede al primo ministro Viktor Orban la possibilità di governare per decreto, senza indicare una scadenza precisa per i poteri concessi al premier, e prevedendo anche pene carcerarie per chiunque diffonda notizie false sull’epidemia da COVID-19. La maggioranza parlamentare ha così limitato fortemente i poteri del parlamento senza tuttavia circoscrivere opportunamente, a parere di chi scrive, lo scopo, la proporzionalità e i limiti temporali dei poteri concessi al primo ministro, in conformità con le raccomandazioni ricordate nel paragrafo precedente che sono state formulate dallo EDPB (European Data Protection Board) riguardo al trattamento dei dati personali al tempo del COVID-19.

A tale proposito, il segretario generale della Federazione nazionale della stampa italiana, Raffaele Lorusso, ha opportunamente sollecitato l’Unione Europea, la quale «non deve non limitarsi a vigilare su quanto sta avvenendo in Ungheria, ma deve mettere in campo misure concrete per garantire la sopravvivenza dei diritti e delle libertà democratiche, a cominciare dalla libertà di stampa»^[8].

4. Comunicazione responsabile al tempo del COVID-19

L’infrastruttura digitale e robotica sta contribuendo a garantire la continuità di numerose attività lavorative e formative in condizioni di distanziamento sociale. Alcuni sistemi robotici sono già utilizzati nelle strutture sanitarie per operazioni logistiche e di sanificazione. È stato inoltre diffusamente sottolineato che le imprese manifatturiere potranno trarre vantaggio da una più estesa automazione robotica per preservare la loro operatività, sia pure a scartamento ridotto, utilizzando robot controllati a distanza^[9]. Per mantenere le forme richieste di distanziamento sociale, gli addetti alla produzione industriale potranno giovarsi anche dei cobot, sistemi robotici capaci di interagire in sicurezza in spazi di lavoro condivisi con gli esseri umani.

Queste varie prospettive tecnologiche suscitano speranze di un futuro più resiliente agli shock epidemici. La fiducia che tali speranze veicolano nei confronti dei depositari della conoscenza scientifica e tecnologica deve essere però meritata. Bisogna che essi forniscano responsabilmente informazioni accessibili e corrette su quanto sia lecito aspettarsi oppure non sia lecito aspettarsi a proposito dello sviluppo tecnologico di breve e medio periodo.

Le responsabilità di comunicazione da parte di scienziati e tecnologi riguardano in particolare il livello di disponibilità tecnologica (technological readiness level) effettivamente raggiunto da tecnologie e sistemi che potrebbero essere utili per contenere l’infezione da COVID-19 e incrementare la resilienza del sistema produttivo. Informazioni realistiche sui limiti correnti delle tecnologie e sugli sforzi necessari per superare tali limiti sono anche preziose per contrastare il diffondersi di quelle ideologie che vedono nella tecnologia una panacea contro tutti i mali e delle ideologie antitecnologiche di segno opposto. E riguardano anche i limiti attuali delle tecnologie informatiche e dell’IA, nonché gli errori che esse possono indurre, per quanto riguarda  l’individuazione e il tracciamento di persone che sono entrate in contatto con il virus, come è stato ben messo in evidenza in un recente rapporto dell’ACLU (American Civil Liberties Union)^[10].

5. Questioni etiche oltre il COVID-19

Si tratta di problemi già noti, che potrebbero assumere una rilevanza ancora maggiore a seguito degli interventi di digitalizzazione e di automazione robotica messi in campo per migliorare la robustezza e la resilienza delle strutture sanitarie, produttive e sociali di fronte alle minacce pandemiche. Si tratta di problemi che riguardano la dignità del lavoro umano e la competizione per il lavoro tra uomo e macchine; gli effetti della disoccupazione tecnologica di breve (ma eventualmente di più lungo) periodo che potrebbero derivare da una maggiore automazione della produzione di beni e servizi; la mancanza di equità sociale che potrebbe provocare un inasprimento del digital divide tra nazioni diverse o all’interno di confini nazionali; un incremento incontrollato delle disuguaglianze quando la ricchezza prodotta dalle macchine si concentra in poche mani; il trade-off tra automazione, esigenze di standardizzazione che da essa discendono e impoverimento delle relazioni sociali e degli ambienti della vita quotidiana.

È opportuno ricordare infine (ma non per minore importanza) la domanda di crescente autonomia per sistemi di IA e di robotica che siano in grado di sostituire gli esseri umani nello svolgimento di attività essenziali e forzosamente bloccate al tempo del COVID-19. È abbastanza semplice formulare i problemi etici che riguardano l’autonomia operativa di un sistema della robotica o dell’IA.

In quali circostanze si può concedere a un tale sistema di svolgere in autonomia dei compiti che hanno implicazioni significative sul piano del benessere fisico e dei diritti fondamentali delle persone? E quali responsabilità di controllo sulla sua autonomia devono rimanere in capo agli esseri umani?

Queste domande – fondamentali per l’etica applicata alla robotica e all’IA e ulteriormente alimentate da misure tecnologiche di contrasto al COVID-19 – sono state approfonditamente affrontate da chi scrive nel libro Etica delle macchine. Dilemmi morali per robotica e intelligenza artificiale (Roma, Carocci Editore, 2020)^[11].

________________________

^[1] Coronavirus privacy: Are South Korea’s alerts too revealing?, in BBC News, 5 marzo 2020.

^[2] Comitato europeo per la protezione dei dati – EDPB, Dichiarazione sul trattamento dei dati personali nel contesto dell’epidemia di COVID-19, adottata il 19 marzo 2020.

^[3] N. Luhmann, Potere e complessità sociale, Il Saggiatore, 2010.

^[4] E. Snowden, Permanent Record, MacMillan, 2019, pp. 223-24 (trad. it. Errore di sistema, Longanesi, 2019).

^[5] Idem, pp. 229-30 (il quarto emendamento della Costituzione USA prevede che «il diritto dei cittadini di godere della sicurezza personale, della loro casa, delle loro carte e dei loro beni, nei confronti di perquisizioni e sequestri ingiustificati non potrà essere violato e non si emetteranno mandati giudiziari se non su fondati motivi sostenuti da giuramento o da dichiarazione solenne e con descrizione precisa del luogo da perquisire e delle persone da arrestare o delle cose da sequestrare» – trad. a cura della redazione).

^[6] M. Rosenberg, N. Confessore, C. Cadwalladr, How Trump Consultants Exploited the Facebook Data of Millions, in The New York Times, 17 marzo 2018.

^[7] R. Picheta, S. Halasz, Hungarian parliament votes to let Viktor Orban rule by decree in wake of coronavirus pandemic, in CNN, 30 marzo 2020.

^[8] Ungheria, Fnsi e Ifj: «La Ue impedisca la soppressione della libertà di stampa» , in FNSI, 31 marzo 2020.

^[9] Si veda per esempio G.-Z. Yang et al., Combating COVID-19. The role of robotics in managing public health and infectious diseases, in Science Robotics , 5, 40,  25 marzo 2020.

^[10] ACLU White Paper: The Limits of Location Tracking in an Epidemic, 8 aprile 2020.

^[11] Si veda la segnalazione bibliografica G. Tamburrini: Etica delle macchine, in questa rivista, 29 aprile 2020.