Notazione su atti robotici per la tutela dei diritti: non sempre può essere inserito il pilota automatico
Pubblicato il 09/06/21 08:00 [Doc.4097]
di Irene Coppola, Lucila I. Cordoba, Adriana Moron


Obiettivo: Questa breve investigazione evidenzia le criticità dei sistemi robotici applicati sic et simpliciter al mondo giuridico.


Sommario: 1.- Introduzione; 2.- Il senso dell'algoritmo?; 3.- L'utilizzo sensibile della Intelligenza Artificiale nell'area giuridica; 4. Il principio della percezione del caso in diritto; 5.-Conclusioni



1.- L'uso di algoritmi nella vita sociale ed economica è molto diffuso tanto che nell'ambito del settore finanziario ed assicurativo il ricorso ad algoritmi neutrali, per quantificare premi o sanzioni, è ormai costante.

Si tratta di operazioni standardizzate basate essenzialmente su calcoli e coefficienti; operazioni governate da forti vincoli che non lasciano spazi a discrezionalità, a valutazioni o a convincimenti di natura umana.

Dopo l'eredità di Schannon e Turing, di algoritmo e di A.I. si inizia a parlarne anche nel settore giustiziale.

Per far fronte all'eccessiva mole di contenzioso e forse trovare non solo un'accelerazione dei tempi, ma soprattutto un nuova garanzia al principio di certezza e di univocità del diritto, si affronta il debate sulla possibilità di creare un sistema fondato su calcoli algoritmici o su decisioni robotiche.[2]

Nell'ambito del diritto amministrativo o processuale amministrativo, come evidenzia Patroni Griffi, "I vantaggi di un’automazione dei processi decisionali amministrativi sono evidenti con riferimento a procedure seriali o standardizzate, caratterizzate da un alto tasso di vincolatezza o fondate su presunzioni, probabilisticamente significative di un certo fatto. Si pensi alle procedure di trasferimento contestuale o di prima assegnazione di sede agli insegnanti; e si pensi alla erogazione di contributi assistenziali agli aventi diritto sulla base di parametri predeterminati. Ma si pensi anche, quanto alle decisioni sfavorevoli, agli accertamenti fiscali fondati su base presuntiva i cui dati siano “messi insieme” da una macchina o alle sanzioni amministrative (per esempio, per eccesso di velocità) elaborate in via automatizzata sia quanto alla rilevazione dell’infrazione sia per la determinazione della correlativa sanzione e la “formazione” stessa del provvedimento. Se i vantaggi, soprattutto in termini di efficienza, ma anche di neutralità, di questi meccanismi decisionali sono evidenti, altrettanto rilevanti sono le criticità".

Con algoritmi e reti neurali che simulano l'intelligenza umana attraverso meccanismi più o meno complessi rendendo fruibile per molti settori scientifici quella che viene definita intelligenza artificiale, ci si affaccia ad un mondo nuovo e si crea un indubbio impatto socio-giuridico induttivo di non poche considerazioni.

Il Deep Learning ha permesso l’implementazione di algoritmi che risolvono problemi che il machine learning non poteva, ma non è facile chiarire i milioni di parametri responsabili delle decisioni prese da una rete; la “scatola nera” dell’Intelligenza Artificiale (black box) rappresenta una mancanza di visibilità che ha sollevato diverse preoccupazioni. Sta di fatto che un algoritmo di A.I. può sviluppare pregiudizi occulti e produrre risultati parziali o di ampia disparità con conseguenti danni per i soggetti coinvolti.[3]

Ed è proprio in ragione di evidenti criticità che ogni legittimo entusiasmo va moderato per quanto espresso in questa breve nota.



2.- L'Amministrazione ed in particolare l'amministrazione Giustizia è tenuta ad essere imparziale e trasparente.

Tutti i cittadini sono e devono essere messi a conoscenza delle regole, dei principi, delle norme per poter esercitare quello che la Costituzione Italiana definisce "sovranità popolare" attraverso il controllo sull'attività e sull'esercizio di funzioni sensibili.

L'algoritmo inteso come raccoglitore di dati o di casi non risulta consentire l'obiettivo della conoscenza e quindi del controllo.

I cittadini (ma anche gli stessi operatori del settore) non hanno nessuna contezza dell'algoritmo e dei suoi parametri, dei meccanismi, dei casi offerti in valutazione tanto è vero che non possono nemmeno condividerne il funzionamento o la frubilità secundum legem.

In altri termini i cives non conoscono le regole della partita e, proprio per questo, non possono esprimere consensi, né acclararne affidamenti.[4]

Occorrerebbe almeno sapere su quali dati è stato addestrato il sistema di apprendimento, al fine di controllare i bias dati.

Non solo.

Non bisogna nascondere i grossi problemi derivanti dall'impugnazione.

Come impugnare un algoritmo?

Non si può accettare tutto passivamente perché si giungerebbe al paradosso derivante da un'accettazione tacita di dati ignoti e non controllabili al momento dell'inserimento del database utilizzato.

Molti algoritmi hanno presentato dati incompleti ed inesatti generando aberrazioni e soluzioni in conclamata violazione del principio di uguaglianza.

Qualche algoritmo, come prima accennato, ha creato disparità di genere e di razza.[5]

Senza voler sottolineare che tutto ciò che è governato o gestito dall'amministrazione pubblica ed, in particolare dall'amministrazione giudiziaria, è (e deve essere) previsto dalla legge. [6]



3.- In vero uno studio attento ed oculato della tematica presuppone un distinguo: il sindacato giudiziale su atti robotici e la decisione giudiziale robotica.

Nel primo caso il giudice viene chiamato a decidere su di una valutazione amministrativa robotica; egli dovrà valutare l'algoritmo soprattutto quando non è posto in condizione di scandagliarne i criteri non noti.

Lo stesso esame di una semplice sanzione pecuniaria confezionata attraverso un algoritmo impone, per senso di giustizia, l'esame dell'atto (sanzione pecuniaria) volto a conoscerne il precorso elaborativo e le argomentazioni a sostegno, elementi che un algoritmo non consente di effettuare appieno se preconfezionato con criteri non esposti.

E' indubbio che il giudice debba valutare la correttezza del processo automatizzato in tutte le sue componenti per assicurare che quel processo avvenga in maniera trasparente e conforme a regole positive, attraverso la conoscibilità dei dati immessi nel supporto digitale.

Ed a tal proposito vi è un altro punto di domanda: può il giudice effettuare tale controllo?[7]

Con quali mezzi?

La giustizia predittiva non sembra avere contenuti sempre condivisibili; "il probabilmente" ovvero " è probabile che " risulta incompatibile con " è giusto che".[8]

Nel secondo caso il giudice più che avvalersi di supporti potrebbe avvalersi di decisioni preconfezionate sulla scorta di casi simili raccolti in serbatoi algoritmici di dati.

Ed è questo l'aspetto più delicato del problema in quanto sfocia nella tematica della decisione giudiziale robotica.

Il punto dolente non afferisce soltanto ed esclusivamente alla necessaria conoscibilità - da parte degli interessati - dei processi di elaborazione dell'algoritmo per poterne verificare la correttezza, ma anche e soprattutto alla motivazione che il giudice umano può fornire e che il giudice robot non può rendere.

Il procedimento che porta ad assumere il "convincimento"[9] sulla prospettiva del fatto storico assorbe anche clausole generali e concetti giuridici indeterminati che il giudice è tenuto a “riempire”, come alcuni canoni ermeneutici o valutativi anch’essi aspecifici, ma di fondamentale importanza.

L'ordinamento italiano apre all'utilizzo di canoni e criteri volti a rendere la decisione più adeguata e performante al caso concreto; trattasi dei canoni di ragionevolezza, di adeguatezza o di proporzionalità attraverso i quali sempre più i giudici nazionali ed europei valutano il fatto, in sede di processo civile, e l’attività dell’amministrazione, in sede di processo amministrativo.

Quanti di questi indicatori sono misurabili e quindi “trasferibili” ad un algoritmo?

E come fare poi per trasferirli in algoritmi ?



4.- Resta poi il problema della “persona” del giudice: la decisione richiede quella che può essere configurata come la “profilazione” del giudice e non può essere standardizzata.

A tal proposito, anche per fare un esame comparatistico della tematica, va evidenziato che nella Repubblica Argentina, come in Italia, è precipuo dovere del giudice svolgere, di volta in volta, il ragionamento e l'analisi di ogni caso specifico in combinato disposto con l'insieme delle norme applicabili alla fattispecie concreta, valutando la situazione precipua del soggetto ed anche quella della sua vulnerabilità.

E proprio in tali casi risulta assolutamente improbabile che possa risolversi "il conflitto" o la " patologia" avvalendosi di provvedimenti o di decisioni robotiche.

Consegue che l'attività del giudice e l'applicazione della norma conferente al caso specifico non possono prescindere dalla sua essenza "umana"; la decisione, ad esempio, in materia di diritto di famiglia e di tutela dei minorenni o delle persone fragili, va ancorata saldamente alla precisa valutazione delle caratteristiche specifiche del bambino (o dell'adolescente) e della persona vulnerabile, in ragione della sua età, del sesso, del grado di maturità, della sua opinione, dell'esistenza di una disabilità fisica, sensoriale o intellettuale e del contesto sociale e culturale in cui si è formato; e proprio in funzione dell'obiettivo di tutela da raggiungere, il giudice non può prescindere dalla presenza o dall'assenza dei genitori, dal fatto che il bambino viva o meno con loro, dalla qualità del rapporto tra il bambino e la sua famiglia o di chi se ne prende cura, né dalla particolare posizione di debolezza dell'interessato; così come non può assumere decisioni che non tengano conto dell'ambiente di crescita e formazione in relazione alla sicurezza e all'esistenza della qualità della vita o dell'utilizzo di mezzi alternativi a disposizione della famiglia, ovvero di un contesto di famiglia allargata. Consegue che la complessità e l'interezza di questa analisi finalizzati ad assicurare la protezione e le cure necessarie al benessere di ogni essere umano[10] finiscono con il rendere inapplicabile processi di risoluzione matematici svincolati dal contesto appena descritto.

E la sentenza non può essere il frutto di processi matematici.

In aggiunta occorre chiedersi come sin concilia l'algoritmo con il principio del giusto processo.

La giustezza del processo comporta, inevitabilmente, il contatto insostituibile del giudice con il caso concreto e non implica una standardizzazione di attività.[11]

Il caso concreto è diverso da un altro caso concreto; è il principio della " percezione del caso" che esprime la giustezza del processo con tutte le variabili necessarie e legate al buon senso, alla prudenza, alla ragionevolezza; è il principio della motivazione che lo rende vitale e percettivo.

E' il giudice ( e solo il giudice) ad essere, al momento, autore e protagonista della decisione attraverso il provvedimento paradigmatico della sentenza ed il processo logico che ne sottende ogni argomentazione.



5.- Molta cautela ed attenzione, senza escludere aperture all'innovazione tecnologica sostenibile nel contesto ordinamentale di uno Stato.

Questo è il paradigma per affrontare il delicato tema dell'introduzione dell'intelligenza artificiale all'interno dell'area giuridica e del meccanismo processuale in modo specifico, anche se non può sottacersi uno slancio verso una automatizzazione, per quanto possibile e per quanto compatibile, del sistema.

La decisione meccanizzata potrebbe essere introdotta, in modo prudente ed oculato, con riferimento a controversie ad alto tasso tecnico, o comunque “convertibili” in un insieme di informazioni da fornire alla macchina ai fini di una loro elaborazione automatizzata, la cui soluzione le parti decidano consensualmente di affidare alla macchina: una sorta di arbitrato a mezzo robot.

Il robot, più in generale, potrebbe costituire un segmento della decisione giudiziale, vuoi in termini quantitativi (decidere una parte della causa per esempio in relazione alla quantificazione del danno), vuoi in termini qualitativi (quale potrebbe essere la decisione giusta con riferimento alla fattispecie normativa astratta e all’applicazione giurisprudenziale della norma, fermo restando che sarà poi il giudice a valutare se e in che misura la soluzione robotica sia condivisibile e riferibile al caso concreto).

Ma nel diritto vi è l'attività di interpretazione che non appare " delegabile" ad una intelligenza artificiale.

Ad esempio per quanto riguarda l'interpretazione della legge, in Italia come nella Repubblica Argentina, essa deve essere eseguita, tenendo conto dell'intima interconnessione delle parole, della finalità, di leggi analoghe, di disposizioni che derivano da trattati sui diritti umani, di principi e valori giuridici, in modo coerente con l'intero ordinamento e tutta questa attività non può essere svolta da "una macchina".

Il giudice deve seguire ed eseguire una vera procedura in modo tale da ottenere la regola specifica che risolva il caso, "come un abito su misura".[12]

Questo procedimento non risulta essere compatibile con algoritmi che porterebbero inevitabilmente a violazioni di leggi statuali.

E lo stesso termine sentenza deriva dal latino e significa "sentire"; appunto sentire, percepire, scandagliare il fatto, le ragioni e l'applicazione del diritto.

Tanto una macchina non può fare.

Allora come risolvere la vexata quaestio?

Torna il discorso sul metodo.

Intervenire sul metodo processo significa snellirlo e sgravarlo da atti obesi ed opachi che creano nebulosità ed aggravi per il giudice la cui attività di interpretazione diventa insostenibile.

Troppi atti racchiusi in trappole lessicali fanno perdere di vista il fatto e quindi il conseguente thema decidendum.

Intervenire sui protagonisti del processo e rendere robusta l'attività di conciliazione dei conflitti per l'avvocatura e per la magistratura porterebbe a risultati tangibili.

Rendere gli operatori adeguati ai ruoli ed all'esercizio delle funzioni; introdurre supporti digitali controllabili in ausilio e favorire poche e celeri udienze, sarebbe cosa buona e giusta.

Spesso le riforme non devono consistere in regole e regolette, ma nel creare il capitale umano che, allo stato, sembra essere bene infungibile nell'amministrazione e nella distribuzione della giustizia.

L'intelligenza artificiale potrebbe concretizzarsi in un aiuto da non sottovalutare; ben vangano strumenti di accelerazione digitale all'interno del meccanismo processuale, ma essa, per come attualmente intesa, non può sostituire l'attività degli operatori.

Occorre attendere e seguire l'evoluzione del fenomeno alla luce dei principi e dei valori della Costituzione, garanzia assoluta ed impareggiabile per la migliore amministrazione della giustizia.




NOTE
----------------------
1) Dottore di ricerca in Scienze Giuridiche, Professore S.S.P.L. Università degli Studi di Salerno, Italia; 2) Profesora Titular de DerechoPatrimonial de Familia, UAI; Profesora Adjunta de Derecho de Familia y Derecho de las Sucesiones, Facultad de Derecho, Universidad de Buenos Aires; Doctora en Ciencias Jurídicas y Sociales, Universidad del Museo Social Argentino; Juez Nacional en lo Civil, Poder Judicial de la Nación de la República Argentina; 3) Dottore di ricerca in Scienze Giuridiche, Professore di Diritto privato UAI, Funzionario di Giustizia, Repubblica Argentina.

[2] F. Patroni Griffi ha affrontato il problema ed il futuro di una eventuale decisione robotica nel corso di un intervento al Convegno “Decisione robotica”, organizzato nell’ambito dei Seminari Leibniz per la teoria e la logica del diritto– Roma, Accademia dei Lincei, 5 luglio 2018; A. Carleo (a cura di), Calcolabilità giuridica, Bologna 2017, passim; A. Carleo, Il vincolo giudiziale del passato, Bologna 2018, passim; A. Carleo, Ma vince la tecnica , in Corriere della Sera, 27 giugno 2016, p.30.

[3] Ad esempio il sistema di machine learning di Amazon per il recruitment online testato dall’azienda selezionava solo candidature maschili per ruoli da sviluppatore. Gli esperti di machine learning del colosso dell’e-commerce hanno scoperto che il nuovo motore per il recruitment digitale, basato sull’IA, non prendeva in considerazione le candidature femminili.

[4] F. Patroni Griffi, La sentenza “giusta” e il metodo di decisione del giudice amministrativo, in Dir. proc .amm. 2018, p.106 ss.; A. Abignente, L’argomentazione giuridica nell’età dell’incertezza, Napoli 2017, spec. cap. II.

[5] Non a caso occorre ricordare quello che è successo, a proposito della Riforma scolastica della Buona Scuola" in Italia.

[6] Il principio di legalità sottende e governa l'intero ordinamento italiano.

[7] I. Coppola, Capitale umano o sistemi robotici, Napoli, 2019, p. 10 e ss..

[8] Si riferisce a questo termine una letteratura che inizia a trovare una spazio nella pratica forense. C. Morelli, Giustizia predittiva: in Francia online la prima piattaforma europea, in Altalex 3 aprile 2017. Sulla rivista on line si occupano del tema C. Castelli e D. Piana, Giustizia predittiva. La qualità della giustizia in due tempi, in Rivista on- line Questione giustizia (2018); P. Serrao d’Aquino, Digito ergo sum: la tutela giuridica della persona dagli algoritmi (2017).

[9] S. Patti, L’interpretazione. Il ruolo della giurisprudenza , in P. Rescigno e S. Patti, La genesi della sentenza, Bologna 2016, p. 162 (richiamando N. Lipari, Il ruolo del giudice nella crisi delle fonti del diritto, in Riv.trim.dir.proc.civ.. 2009, 479ss.); il “ruolo del giudice è connesso al tema dell’interpretazione giuridica, intesa come necessario momento di raccordo tra la staticità dell’enunciato e la realtà di un’esperienza sociale soggetta al divenire della storia”.

F. Patroni Griffi, La sentenza “giusta” e il metodo di decisione del giudice amministrativo, Napoli 2011, passim.

[10] L. I. Córdoba, Situación Jurídica Civil Desigual, Lajoune, Ciudad de Buenos Aires, 2021, passim.

[11] Per una ampia ed interessante lettura in materia di giusto processo vd. M. Abbamonte, M. Acone, G. Alpa, V. Ansanelli, C. Asprella, F.Auletta, L. Baccaglini, G. Balena, A. Barletta, P. Biavati, G. Bongiorno, D. Borghesi, M. Bove, G. Canale, R. Caponi, S. Caporusso, B. Capponi, F.Carpi, A. Carratta, S.Cartuso, C.Cavallini, B. Cavallone, E.Cavuoto, C. M. Cea, S. Chiarloni, A. Chizzini, N. Cipriani, L. P. Comoglio, C. Consolo, U. Corea, F. Corsini, G. Costantino, E. D'Alessandro, D. Dalfino, S. Dalla Bontà, E. Dalmotto, F. S. Damiani, F. Danovi, M. De Cristofaro, G. della Pietra, C. Delle Donne, G. Deluca, A. Danilo De Santis, F. De Santis, O. Desiato, L. Di Cola, A. Dondi, R. Donzelli, A. Rosa Eremita, E. Fabiani, P. Farina, B.Ficcarelli, A. Flamini, M. P. Fuiano, E. Gabrielli, B. Gambineri, M. P. Gasperini, M. F.G., G. G., M. Giorgetti, A. Giussani, M. Gradi, L. Iannicelli, G. Impagnatiello, P. Lai, F. Locatelli, R. Lombardi, D. Longo, M. A. Lupoi, R. Martino, S. Menchini, E. Merlin, A. Merone, G. Miccolis, E. Minervini, M. Montanari, G. Monteleone, A. Motto, P. Nappi, M. Negri, I. Pagni, A. Panzarola, L. Passanante, P. Pellegrinelli, C. Perago, G. Perlingieri, P. Perlingieri, G.G. Poli, R. Poli, B. Poliseno, A. Proto Pisani, C. Punzi, E. Quadri, L. Querzola, C. Rasia, G. Reali, F. Russo, F. Santangeli, B. Sassani, G. Scarselli, M. L. Serra, C. Silvestri, M. L.Spada, V. Tavormina, A. Tedoldi, R.Tiscini, G. Trisorio Liuzzi, N. Trocker, G. Verde, S.Vincre, E. Zucconi Galli Fonseca, E. Vullo, S. Ziino, I.Zingales, B. Zuffi, Tutela Giurisdizionale e Giusto Processo. Scritti in memoria di Franco Cipriani, Napoli 2020, passim.

[12] L. I. Córdoba, Situación Jurídica Civil Desigual, Lajoune, Ciudad de Buenos Aires, 2021, passim.


© Riproduzione Riservata