Contribution originally published within the collective volume Special Collection on Artificial Intelligence, published by the United Nations Interregional Crime and Justice Research Institute (UNICRI), 2020, pp. 4 ff. We thank UNICRI for the editorial kind permission.
***
l presente contributo, del quale è stata autorizzata la ripubblicazione all’interno di questa Rivista, è parte integrante del volume collettaneo Special Collection on Artificial Intelligence, recentemente pubblicato dall’Istituto di ricerca sul crimine e la giustizia delle Nazioni Unite (UNICRI). UNICRI ha in tal modo voluto realizzare un’opera di carattere interdisciplinare su un argomento che, verosimilmente, impegnerà i giuristi nei prossimi anni. Occorrerà individuare, infatti, delicati punti di equilibrio tra diversi interessi, certamente non tutti aventi la medesima importanza avuto riguardo alle scale valoriali consacrate nelle Carte costituzionali e nelle Carte internazionali in tema di diritti umani, ma comunque meritevoli di protezione (sia pure di variabile intensità) da parte del diritto.
A ben vedere, la Special Collection rappresenta solo l’ultimo “tassello” del più ampio programma di ricerca dell’Istituto (in particolare dal suo Centre for Artificial Intelligence and Robotics) in materia di rapporti tra l’intelligenza artificiale (IA o AI) e il settore della giustizia penale. L’impegno profuso è testimoniato dalla pubblicazione di diversi lavori (oltre a quello in parola), tra i quali vanno rammentati: Artificial Intelligence: an overview on state initiative (luglio 2019); Artificial Intelligence and Robotics for Law Enforcement (marzo 2019); nonché Towards Responsible Artificial Intelligence Innovation (maggio 2020) – queste due ultime opere prodotte in collaborazione con INTERPOL –.
L’articolo qui ripubblicato, in particolare, analizza il tema della gestione dei rischi legati alle attività di produzione e impiego di sistemi di IA, con particolare riguardo alle applicazioni in ambito medico (segnatamente i Software as a Medical Device o SaMD). L’intento è quello di definire le questioni rilevanti sotto il profilo penalistico. A questo riguardo, viene indagata la tenuta delle categorie tradizionali del diritto penale di evento, a fronte di una così dirompente innovazione tecnico-scientifica. L’approccio adottato si contraddistingue per due elementi: l’interdisciplinarietà e il metodo della comparazione. Da quest’ultimo punto di vista, lo studio fa riferimento a tre tradizioni giuridiche differenti (quella di common law, quella tedesca e quella italiana), allo scopo di cogliere gli elementi ad esse comuni, senza con ciò ignorare i tratti differenziali. Infine, viene proposto un modello alternativo di AI-risk assessment, basato su una integrazione degli strumenti propri del diritto penale, del diritto civile e del diritto amministrativo. Invero, alla luce del principio del diritto penale come extrema ratio, una corretta calibratura delle sfere di rilevanza di tali settori dell’ordinamento garantirebbe la contemporanea tutela degli interessi, da un lato, dell’imputato/indagato a un processo equo e, dall’altro, delle vittime a una soddisfazione per i danni subiti.
***
Abstract. The advances in the field of artificial intelligence (AI) are changing the nature of medical care. They involve both the sectors of diagnostics and therapeutics. Medical literature has widely analysed the advantages and the risks of AI. Researchers have found that early diagnoses are essential in order to avert the decline of patients’ health status. This can be achieved through improving the analysis procedures on healthcare data by means of AI techniques. However, in order to guarantee the security of AI medical devices, their clinical evaluation is crucial.
This article aims at conceptualising and solving the questions related to the application of AI in healthcare from the point of view of criminal law. The traditional criminal law categories will be investigated, so as to understand whether it is possible to consider deaths and injuries occurring in the context of medical care as criminal offences to prevent and prosecute, when AI techniques are used. The study will be carried out in a comparative perspective. In conclusion, this will allow to propose a new AI-risk assessment paradigm, based on the integration of criminal law, civil law, and administrative law measures, so as to guarantee an equilibrium between the fundamental rights of the accused (a fair trial) and of the victims (a compensation for damages they have suffered).
SUMMARY: 1. Introduction. – 2. Ethics Guidelines for Trustworthy Artificial Intelligence. – 3. AI in Healthcare. – 4. Criminal Law Questions Raised by the Use of AI in Healthcare. – 5. AI Entities as Legal Persons. – 6. AI Entities as Instruments: Responsibility of the Producers and the Users. – 7. A New Paradigm. – 8. Conclusions.
To read the Reflection, click on “open file”.
Quest'opera è distribuita con Licenza Creative Commons Attribuzione - Non commerciale 4.0 Internazionale
