Giustizia predittiva e controllo umano significativo: il confine tra supporto algoritmico e funzione giurisdizionale

1. Introduzione

L’ingresso dell’Intelligenza Artificiale (IA) nell’amministrazione della giustizia fa emergere una domanda cruciale: fino a che punto un sistema algoritmico può contribuire alla formazione della decisione senza alterare la natura stessa del giudicare? Sistemi capaci di analizzare precedenti, classificare dati e formulare previsioni possono incidere sul processo decisionale qualora il loro impiego superi le attività meramente organizzative o preparatorie. È in tale contesto che si colloca il tema della giustizia predittiva. Sebbene quest'ultima prometta rapidità, maggiore capacità di analisi, uniformità e prevedibilità, la sua logica può risultare opaca, basandosi essa su strumenti capaci di elaborare grandi quantità di dati. Diventa quindi essenziale individuare le condizioni entro cui il supporto algoritmico possa affiancare l’operatore del diritto senza condizionarne l’autonomia valutativa. In tale prospettiva, il controllo umano significativo costituisce il presidio necessario affinché il risultato algoritmico resti uno strumento di ausilio e non assuma valore determinante nel processo decisionale.

2. Il funzionamento dei sistemi di intelligenza artificiale generativa

Prima di esaminare l’impiego dei sistemi di intelligenza artificiale nella giustizia è utile chiarire, almeno negli elementi essenziali, il loro funzionamento. Le tecnologie di IA non operano tutte nello stesso modo. Nei modelli di intelligenza artificiale generativa, ad esempio, una delle architetture più diffuse è quella dei Transformer. Il testo non viene elaborato come farebbe una persona, ma trasformato in rappresentazioni numeriche sulle quali il sistema compie calcoli. Una parte fondamentale del funzionamento viene definita durante l’addestramento, nel quale il modello apprende, attraverso numerosi parametri, relazioni e regolarità presenti nei dati che utilizzerà per elaborare le richieste ricevute. Quando l’utente inserisce una richiesta, il cosiddetto prompt, il testo viene scomposto in unità più piccole, chiamate token, che possono corrispondere a parole o parti di parola. A ciascun token viene associata una rappresentazione numerica, detta embedding, e viene conservata anche l’informazione relativa alla sua posizione nella sequenza. Su queste rappresentazioni interviene il meccanismo di self-attention, che mette in relazione i diversi elementi del testo e attribuisce maggiore peso a quelli più rilevanti rispetto al contesto. Il significato di ciascun elemento viene così elaborato tenendo conto delle relazioni che esso intrattiene con gli altri elementi della richiesta. Il sistema non formula la risposta completa in un unico passaggio, ma procede in modo probabilistico e progressivo. Sulla base del testo già elaborato calcola una distribuzione di probabilità tra i token del proprio vocabolario e ne seleziona uno come possibile prosecuzione della sequenza. Il token scelto viene aggiunto ai precedenti e il procedimento viene ripetuto fino alla formazione della risposta. La scelta può avvenire secondo diversi criteri probabilistici e, per questo, una medesima richiesta può dare luogo a risposte differenti.

Comprendere questo meccanismo è importante anche sul piano giuridico. Il risultato prodotto dalla macchina non deriva da un ragionamento assimilabile a quello umano, ma da elaborazioni matematiche fondate sulle relazioni apprese durante l’addestramento e sul contesto fornito. La capacità di produrre un testo coerente non garantisce, di per sé, che il contenuto sia vero o giuridicamente fondato. Nell’amministrazione della giustizia la precisione formale della risposta non deve quindi essere confusa con una maggiore oggettività: l’IA può individuare ricorrenze e soluzioni probabili, ma non sostituisce la valutazione giuridica del caso concreto.

3. Giustizia predittiva, prevedibilità e rischio di standardizzazione

La giustizia predittiva può essere descritta come l’impiego di strumenti capaci di elaborare dati normativi, giurisprudenziali e fattuali per formulare previsioni probabilistiche. Come osserva Ubertis, la locuzione è in parte ambigua: la «predizione» non riguarda tanto la ricostruzione dei fatti passati, quanto la possibilità di stimare il comportamento futuro del decisore o la soluzione che, sulla base dei casi precedenti, appare statisticamente più probabile. Occorre quindi distinguere la prevedibilità del diritto, che rafforza la certezza dell’ordinamento, dalla prevedibilità statistica delle decisioni. I sistemi di IA elaborano decisioni pregresse per individuare orientamenti ricorrenti: quanto più un indirizzo è frequente nei dati analizzati, tanto maggiore è la probabilità che venga indicato come esito atteso. Se tale indicazione diventa un parametro privilegiato nelle valutazioni successive, gli orientamenti già prevalenti tendono a essere ulteriormente riprodotti, mentre quelli minoritari o innovativi trovano meno spazio. Il precedente non verrebbe più soltanto conosciuto e valutato criticamente, ma finirebbe per orientare sempre più le decisioni future, rischiando una progressiva cristallizzazione dei precedenti: ciò che è stato deciso più spesso potrebbe presentarsi come ciò che dovrebbe essere deciso ancora. Per evitare che la previsione si trasformi in una forma indiretta di conformazione della decisione, è necessario adottare il modello della giustizia assistita, nel quale l’intelligenza artificiale non sostituisce l’attività valutativa dell’operatore del diritto, ma ne amplia le capacità conoscitive, facilitando l’accesso alle fonti, l’individuazione dei precedenti rilevanti e l’organizzazione del materiale da esaminare. Il risultato algoritmico deve conservare una funzione servente e la decisione restare il frutto di un autonomo percorso argomentativo, aperto alla possibilità di distinguere il caso concreto dai precedenti e, quando necessario, di discostarsene.

4. Il risk-based approach dell’AI Act

Il regolamento (UE) 2024/1689 (AI Act) costruisce la propria disciplina secondo un risk-based approach, graduando obblighi e garanzie in relazione al rischio connesso al concreto impiego del sistema. In termini generali distingue quattro livelli: rischio inaccettabile, alto, limitato e minimo. Le applicazioni a rischio inaccettabile sono vietate; quelle ad alto rischio sono ammesse nel rispetto di specifici obblighi; per il rischio limitato operano soprattutto obblighi di trasparenza, mentre per quello minimo la disciplina è meno intensa. L’art. 6, par. 2, in combinato disposto con l’allegato III del Regolamento, ricomprende tra i sistemi ad alto rischio quelli destinati ad assistere l’autorità giudiziaria nella ricerca e nell’interpretazione dei fatti e del diritto e nell’applicazione della legge al caso concreto, per la loro possibile incidenza sullo Stato di diritto e sui diritti fondamentali. Per tali sistemi sono previste garanzie rafforzate: un sistema di gestione del rischio, requisiti sulla qualità dei dati, documentazione tecnica, registrazione degli eventi rilevanti e, soprattutto, sorveglianza umana ai sensi dell’art. 14. La disciplina conserva alcuni margini di elasticità. L’art. 9, par. 4, lett. a), richiede infatti che i rischi siano eliminati o ridotti «per quanto possibile», lasciando aperto il problema della concreta individuazione del livello di cautela esigibile. Il modello delineato dall’AI Act resta dunque quello dell’assistenza: l’intelligenza artificiale può concorrere all’attività dell’operatore del diritto, ma deve rimanere uno strumento servente e non diventare il centro effettivo della decisione.

5. L’art. 15 legge n. 132 del 2025 e la riserva della decisione al magistrato

La legge 23 settembre 2025, n. 132, intitolata «Disposizioni e deleghe al Governo in materia di intelligenza artificiale», rende esplicito il confine tra ausilio tecnologico e sostituzione della funzione giurisdizionale. L’art. 15, comma 1, stabilisce che, nei casi di impiego di sistemi di IA nell’attività giudiziaria, «è sempre riservata al magistrato ogni decisione sull’interpretazione e sull’applicazione della legge, sulla valutazione dei fatti e delle prove e sull’adozione dei provvedimenti». Tale impostazione trova fondamento nell’art. 101, comma 2, Cost., secondo cui i giudici sono soggetti soltanto alla legge. È quindi necessario evitare che il risultato elaborato dall’IA sia percepito come necessariamente più oggettivo o affidabile della valutazione umana, inducendo il giudice ad attribuirgli un peso eccessivo, come accade nel cosiddetto automation bias, ossia nella tendenza a fidarsi eccessivamente del risultato prodotto da un sistema automatizzato. L’IA può offrire un supporto, ma non deve diventare un parametro cui il giudice si senta tenuto ad adeguarsi: l’unico vincolo resta la legge e la valutazione del caso concreto deve rimanere autonoma e critica. Anche l’art. 111 Cost., nel prevedere il contraddittorio tra le parti in condizioni di parità davanti a un giudice terzo e imparziale, richiede che le ragioni della decisione siano verificabili. Se un passaggio decisivo dipendesse da una black box, ossia da un sistema il cui funzionamento interno e il percorso che conduce al risultato non sono comprensibili, nella motivazione entrerebbe una ragione sottratta al controllo delle parti e dello stesso giudice. La centralità umana non implica il rifiuto della tecnologia, ma richiede che il risultato sia comprensibile e possa essere esaminato criticamente e disatteso quando il caso concreto, le prove o i principi applicabili conducano a una soluzione diversa.

6. Il controllo umano significativo tra trasparenza e contraddittorio

La mera previsione di una supervisione umana non è sufficiente, poiché un controllo soltanto formale trasformerebbe il giudice nel ratificatore di una soluzione già prodotta. Ubertis propone la nozione più esigente di controllo umano significativo, costruita su requisiti che mantengono la macchina entro una funzione ausiliaria. Il funzionamento del sistema dovrebbe quindi essere conoscibile e verificabile, anche attraverso forme di controllo tecnico indipendente affidate a soggetti qualificati. Non basta rendere accessibile la formula tecnica: occorre conoscerne il grado di affidabilità, il possibile tasso di errore e comprenderne il funzionamento in termini intelligibili per il giudice e per le parti. Il contraddittorio dovrebbe riguardare anche il modo in cui i dati sono selezionati, classificati e messi in relazione, poiché da tali scelte possono derivare errori o distorsioni. Trasparenza e comprensibilità diventano così presupposti del diritto di difesa. La complessità tecnica non può tradursi in una presunzione di maggiore attendibilità: anche il risultato algoritmico deve poter essere verificato, conoscendone i limiti e i dati sui quali è stato costruito. In questa prospettiva è emblematico il caso State v. Loomis, nel quale il software COMPAS fu utilizzato nella commisurazione della pena per stimare il rischio di recidiva. Il sistema elaborava informazioni sulla storia personale, criminale e socio-economica dell’imputato, confrontandole con quelle riferite a gruppi con caratteristiche analoghe. La valutazione non riguardava quindi soltanto il singolo, ma derivava anche da generalizzazioni statistiche costruite su categorie di individui. La Corte Suprema del Wisconsin non escluse l’utilizzo di COMPAS, ma ne circoscrisse il ruolo: il giudice doveva conservare la propria discrezionalità e svolgere una valutazione individualizzata, senza lasciare che la stima algoritmica assumesse valore decisivo. Il caso ha mostrato anche quanto sia essenziale la qualità dei dati. I sistemi di IA apprendono da dati storici che possono contenere disuguaglianze e pregiudizi. Con riferimento a COMPAS è stato rilevato che il sistema tendeva ad attribuire agli afroamericani un rischio di recidiva più elevato rispetto alla popolazione bianca. I dati utilizzati possono infatti riflettere una realtà nella quale determinati gruppi sono stati sottoposti più frequentemente a controlli di polizia e sanzioni penali e, se impiegati senza adeguate correzioni, rischiano di riprodurre o amplificare tali disparità. Le conclusioni dell’indagine furono contestate dalla società produttrice, ma il caso evidenziò un problema centrale: un algoritmo non diventa neutrale per il solo fatto di operare attraverso calcoli matematici. I dati, le variabili selezionate e le relazioni stabilite tra esse possono riflettere distorsioni già presenti nella realtà da cui sono tratti.

La trasparenza deve quindi riguardare non solo il funzionamento tecnico del sistema, ma anche la provenienza, la qualità e la rappresentatività dei dati. Quando una valutazione statistica può incidere sulla libertà o sulla posizione processuale di una persona, occorre evitare che errori o disparità presenti nei dati entrino nella decisione sotto l’apparenza di un risultato oggettivo.

7. Conclusioni

La disciplina europea e l’art. 15 della legge n. 132/2025 convergono nel ritenere ammissibile l’impiego dell’intelligenza artificiale finché resta compatibile con una riserva effettiva della decisione umana. Non basta che il provvedimento sia formalmente imputabile al magistrato: se il risultato algoritmico viene recepito senza conoscere i dati utilizzati, i criteri di elaborazione e i limiti del sistema, il controllo umano si riduce a una ratifica e la decisione resta umana soltanto sul piano formale. Il controllo umano significativo deve quindi essere sostanziale. L’operatore deve poter comprendere gli elementi rilevanti del sistema, verificarne l’attendibilità nel caso concreto e, soprattutto, disattenderne il risultato. Il problema non è soltanto l’errore algoritmico, ma anche l’automation bias: un risultato presentato come oggettivo o statisticamente affidabile può esercitare un’autorità indebita sul decisore e trasformare la previsione in un criterio di fatto prescrittivo. La prospettiva più coerente con il nostro ordinamento è dunque quella della giustizia assistita. L’intelligenza artificiale può ampliare le capacità conoscitive dell’operatore, agevolare la ricerca delle fonti, organizzare il materiale e individuare ricorrenze, ma non sostituire il momento valutativo e argomentativo. La funzione dell’algoritmo deve restare servente, perché la prevedibilità è un valore soltanto finché non si traduce in conformazione del giudizio e cristallizzazione del diritto vivente. Il controllo umano significativo è quindi la condizione per utilizzare l’innovazione senza alterare la responsabilità della funzione giurisdizionale.

Bibliografia

• Giunti M., Tutto quello che avreste voluto sapere su ChatGPT ma non avete mai osato chiedere. Note sui Transformer decoder-only, Università di Cagliari, 2025, pp. 4-22.

• Ranieri R., La nuova realtà della giustizia predittiva, in AI LAW – International Review of Artificial Intelligence Law, 1/2026, pp. 170-210.

• Ubertis G., Intelligenza artificiale e giustizia predittiva, relazione al Convegno «Diritto penale e scienza: il “rumore” nella decisione del giudice tra euristiche, logica, probabilità e intelligenza artificiale», Associazione «Progetto giustizia penale», 2023, pp. 1-17.

• Uricchio A.F. – Caldarola C., Verso un ecosistema digitale europeo integrato. Digital Omnibus, Data Act, AI Act e tutela della persona umana nella governance dei dati e dell’Intelligenza Artificiale, in AI LAW – International Review of Artificial Intelligence Law, 1/2026, pp. 146-169.