29 April 2020
Redazione

G. Tamburrini, Etica delle macchine

Segnalazione bibliografica

Le questioni etiche in gioco. I veicoli a guida autonoma possono contribuire a ridurre le vittime della strada, ma sono stati già coinvolti in gravi incidenti stradali. Le armi autonome possono attaccare obiettivi bellici legittimi senza richiedere l’approvazione di un operatore umano, ma potrebbero colpire dei civili estranei al conflitto. Quali decisioni e azioni che incidono sul benessere fisico e sui diritti delle persone possono essere affidate all’autonomia operativa di una macchina? Quali responsabilità devono rimanere in capo agli esseri umani? Che peso dare alle limitazioni che affliggono la nostra capacità di spiegare e prevedere il comportamento di robot che apprendono dall’esperienza e interagiscono con altri sistemi informatici e robotici? Ecco gli interrogativi etici affrontati in questo libro, insieme ai dilemmi morali e ai problemi di scelta collettiva che essi generano.

Il libro di Guglielmo Tamburrini, Etica delle macchine. Dilemmi morali per robotica e intelligenza artificiale (Carocci editore, Roma 2020), esamina in concreto questi interrogativi, soffermandosi specialmente sui casi di studio dei veicoli a guida autonoma e delle armi autonome, nei quali il passaggio tra decisione algoritmica e azione robotica è tanto rapido da restringere drasticamente o eliminare del tutto la finestra temporale a disposizione di un essere umano per intervenire in itinere. L’impossibilità di concedersi una prolungata pausa di valutazione in corso d’opera è un tratto che distingue questi casi di studio dai problemi etici che riguardano le decisioni autonome di altri sistemi dell’intelligenza artificiale (IA). La possibilità di fare appello a un controllore umano contro una decisione automatica – sancita nel Regolamento generale sulla protezione dei dati (GDPR 2018) adottato dall’Unione Europea – si basa sull’esistenza di un intervallo temporale tra decisione e azione che sia “sufficientemente lungo”, come accade nel caso di decisioni automatiche su licenziamenti, domande di assunzione, prestiti in banca o progressioni di carriera. Un controllore umano non può invece usufruire di un intervallo di tempo altrettanto lungo nel caso di un veicolo a guida autonoma che si trova in uno stato di collisione inevitabile con altri veicoli o pedoni, oppure nel caso di un’arma autonoma dispiegata sul campo di battaglia.

Il libro è suddiviso in 6 capitoli.

I capitoli 1 e 2 sono dedicati ai veicoli a guida autonoma: partendo dall’analisi di problemi morali posti dalla loro autonomia operativa si perviene a formulare un ventaglio di politiche etiche da sottoporre alla discussione e alla deliberazione pubblica.

Il capitolo 3 delinea un impianto metodologico più generale per la riflessione etica sull’autonomia operativa delle macchine, discutendone scopi, strumenti e limiti.

Questo impianto metodologico viene applicato, nei capitoli 4 e 5, al caso delle armi autonome e al problema di restringerne o proibirne l’uso.

Il capitolo 6 fornisce infine una panoramica più vasta di vari problemi per l’indagine etica sulle macchine autonome della robotica e dell’IA: la dignità del lavoro umano e le questioni di equità sociale che potrebbero sorgere da nuove forme di competizione per il lavoro tra uomo e macchine autonome; le trasformazioni alle quali andranno incontro i lavori altamente qualificati e le responsabilità connesse al loro svolgimento; le questioni di etica ambientale che abbracciano lo sviluppo e la produzione, l’uso e lo smaltimento dalle macchine autonome della robotica e dell’IA; i sistemi di controllo, sorveglianza, educazione e punizione sociale abilitati dalle tecnologie dell’IA, dai droni e da altri sistemi robotici.

I problemi morali e le politiche etiche discusse nei capitoli 1 e 2 riguardano i veicoli a guida autonoma. Questi ultimi offriranno la possibilità di ridurre drasticamente gli incidenti stradali grazie all’automazione della guida, promuovendo in questo modo l’integrità fisica e il benessere di tutti gli utenti della strada. Ma la ricerca del benessere collettivo non si accorda sempre con l’esercizio della libertà personale: se un veicolo a guida autonoma potrà garantire maggiore sicurezza stradale di un essere umano al volante, sarà ancora moralmente accettabile concedere a un umano di guidare l’automobile? E poiché maggiore sicurezza stradale non significa azzeramento completo del rischio di incidenti, che cosa dovrà fare un veicolo autonomo nel caso di una collisione? Dovrà minimizzare imparzialmente i danni per tutti – pedoni o passeggeri di tutti i veicoli coinvolti nell’incidente – oppure dovrà privilegiare la protezione dei propri passeggeri?

Ma le questioni etiche sulla guida autonoma non si esauriscono qui. La sua diffusione porrà, in caso di sinistri, nuovi problemi di distribuzione equa di quelle responsabilità non ascrivibili al conducente umano; di protezione dei dati personali, poiché i veicoli autonomi collegati in rete registreranno e trasmetteranno flussi imponenti di dati sul comportamento degli utenti; di hackeraggio e cybercrimine, messi in atto sfruttando le vulnerabilità software, hardware e del collegamento in rete dei veicoli; e vi saranno anche problemi di disoccupazione tecnologica da fronteggiare nel breve periodo, ma eventualmente anche su periodi più estesi, per gli addetti al trasporto di persone e cose: tassisti, camionisti, conducenti di autobus e altre categorie di lavoratori.

Da ultimo, ma non certo per importanza, questo capitolo affronta le questioni di etica ambientale sollevate dai veicoli a guida autonoma. Una progettazione orientata all’efficienza energetica dei veicoli a guida autonoma consentirà di ridurre il consumo di carburanti per chilometro percorso. Altri benefici ambientali potranno derivare da una gestione del traffico volta a evitare le congestioni e a ridurre i tempi di ricerca di un parcheggio, dalla diffusione di flotte di veicoli a guida autonoma da utilizzare a pieno carico attraverso servizi di condivisione dei percorsi (car pooling). Ma se ciò accadrà davvero, alla fine dipenderà dalla messa in opera di un ventaglio ampio di politiche di progettazione e gestione, che riguardano la rete stradale, le infrastrutture informatiche e di telecomunicazione, fino ad arrivare agli interventi urbanistici sulle aree interessate. Senza interventi di questo tipo, la diffusione di veicoli a guida autonoma potrà avere un “effetto rimbalzo”, incentivando talmente il trasporto privato su gomma da controbilanciare i benefici ambientali derivanti dalla loro maggiore efficienza energetica.

Il capitolo 3 sviluppa uno schema generale per la riflessione etica sulle nuove forme di autonomia operativa delle macchine “intelligenti”. Lo schema si articola in due fasi principali: analisi di problemi morali emergenti sull’autonomia operativa delle macchine “intelligenti”; sviluppo di politiche etiche conseguenti. Le due fasi sono collegate e complementari: l’analisi delle questioni morali – basata sull’etica dei doveri, sull’etica delle conseguenze o sull’etica della virtù – è di per sé impotente se non fornisce indicazioni sui modi di indirizzare l’agire individuale e collettivo; le politiche etiche da sottoporre alla discussione e alla deliberazione pubblica sono cieche senza un’adeguata comprensione delle problematiche morali soggiacenti. Ma l’aspettativa di poter contribuire in questo modo alla discussione e alla deliberazione pubblica deve fare i conti con ostacoli di varia natura, che sono pure analizzati in questo capitolo: il pluralismo dell’etica normativa e le tensioni tra le applicazioni concrete di vari principi di condotta morale, l’organizzazione sociale della ricerca scientifica e tecnologica, la difficoltà di intervenire tempestivamente per armonizzare lo sviluppo tecnologico con le esigenze etiche, mantenendo il passo con la creatività di un ingegnere che sa scorgere innumerevoli possibilità applicative in ogni tecnologia sufficientemente matura.

Questo schema generale viene applicato con consapevolezza metodologica al caso di studio delle armi autonome nei capitoli 4 e 5. Numerosi sono i progetti di sviluppo e le sperimentazioni in corso sull’autonomia operativa di sistemi a uso militare: veicoli da trasporto su terreni accidentati, mezzi aerei e navali di ricognizione e sorveglianza, sistemi d’arma che hanno la capacità di selezionare e attaccare autonomamente un obiettivo militare. La questione etica e giuridica più pressante riguarda proprio l’autonomia dei sistemi d’arma: è ammissibile affidare a una macchina la decisione di attaccare un obiettivo militare, con le eventuali implicazioni del caso, che possono riguardare la vita, l’integrità fisica e i beni di esseri umani coinvolti nell’attacco? L’etica dei doveri e l’etica delle conseguenze forniscono una cornice etica di base per affrontare questi interrogativi e per delineare un ventaglio di politiche eticamente motivate, da porre al centro della discussione pubblica e delle decisioni della comunità internazionale degli Stati.

Gli argomenti etici e giuridici contro l’autonomia dei sistemi d’arma discussi nel libro riguardano soprattutto il rispetto delle norme del diritto internazionale umanitario, l’eventuale interruzione della catena militare di comando e controllo, la violazione della dignità delle vittime potenziali di una decisione algoritmica di vita o di morte. Su argomenti di questo tipo si fonda la proposta di mettere al bando le armi autonome. Ma il dibattito diplomatico e politico che ne è scaturito ha rischiato di arenarsi subito sul problema di definire che cosa è un’arma autonoma. Per superare una tale situazione di stallo, nel libro si sposa l’idea di spostare il punto focale del dibattito dalla richiesta di messa al bando alla richiesta di garantire un controllo umano significativo su un qualsiasi sistema d’arma. Ma in che cosa consiste il controllo significativo su un sistema d’arma? Il capitolo 5 si conclude articolando una risposta a questa domanda e getta le basi per affrontare domande più generali dello stesso tipo, che sono rese sempre più pressanti dagli sviluppi dell’IA e della robotica nel primo scorcio di questo XXI secolo. In che cosa consiste il controllo significativo su un sistema dell’IA e della robotica? Un controllo umano significativo è compatibile con forme di autonomia operativa di una macchina “intelligente”?

Nel capitolo 6 si passa infine a una rapida ricognizione di questioni etiche che abbracciano varie forme di autonomia operativa delle macchine “intelligenti”. Si tratta di questioni ben note, spesso denunciate e tuttavia ancora in attesa sia di un’analisi etica approfondita, sia dell’elaborazione di politiche etiche adeguate da sottoporre al dibattito e alla deliberazione pubblica. Riguardano la dignità del lavoro umano e problemi di equità sociale che potrebbero insorgere da una competizione per il lavoro tra uomo e macchine autonome, come avevano già rilevato agli esordi della cibernetica e dell’IA Norbert Wiener e Alan Turing; riguardano le trasformazioni alle quali andranno incontro le attività lavorative, anche quelle più qualificate, come emerge considerando le trasformazioni della professione del chirurgo e delle responsabilità ad essa connesse, che avvengono a opera dei robot chirurgici ad autonomia crescente; e riguardano i sistemi di controllo, sorveglianza, educazione e punizione sociale abilitati dalle tecnologie dell’IA e integrati con tecnologie robotiche come i droni, dalle cui intromissioni indebite bisogna proteggere l’autonomia delle persone e i loro diritti fondamentali. In definitiva, uno sguardo a volo d’uccello sulla foresta delle macchine autonome mette in luce il bisogno di un assiduo monitoraggio etico sul mondo variegato e in crescente espansione costituito dai sistemi autonomi e ad autonomia crescente che si collocano alla confluenza di robotica e IA.

In conclusione, apportando opportune modifiche alla frase conclusiva di un celebre articolo di Alan Turing pubblicato nel 1950 (intitolato “Computing Machinery and Intelligence”, apparso sulla rivista di filosofia Mind e che molti collocano alle origini dell’IA), si ricava un’esortazione che ben si adatta alla ricerca etica applicata alle macchine intelligenti: possiamo vedere nel futuro solo per un piccolo tratto, ma possiamo pure vedere che in questo piccolo tratto c’è molto da fare per affrontare le sfide etiche che accompagnano l’innovazione tecnologica nei settori dell’IA e della robotica.

A meeting of knowledge on individual and society
to bring out the unexpected and the unspoken in criminal law

 

ISSN 2612-677X (website)
ISSN 2704-6516 (journal)

 

The Journal does not impose any article processing charges (APC) or submission charges