Algoritmi, sorveglianza e garanzie penali: interrogativi e prospettive in tema di algocrazia

1. Dalla sorveglianza mirata al controllo di massa

La dialettica tra libertà individuali e autorità statale costituisce, sin dai tempi più remoti, il fulcro delle problematiche deontologiche proprie del diritto penale. In questo contesto, l’avvento della rivoluzione digitale ha agito da dirompente acceleratore, catalizzando il passaggio verso quella che è stata eloquentemente definita surveillance society (società della sorveglianza). Oggi, questa dinamica è ulteriormente esasperata dall’uso sempre più pervasivo di sistemi di intelligenza artificiale (d’ora in poi, IA) per analizzare enormi quantità di dati, i c.d. big data.

L’ubiquità del dato digitale e la conseguente datificazione dell’esistenza umana fa sorgere numerosi interrogativi inediti in merito a quali possano essere i migliori strumenti da apprestare al fine di tutelare i diritti fondamentali, specialmente nel delicato passaggio da una sorveglianza mirata ad un sistema di mass surveillance. Nell’ultimo lustro, l’ordinamento italiano ha assistito a un’attività legislativa frenetica, spesso dettata dall’urgenza di colmare vuoti normativi evidenziati dalla giurisprudenza sovranazionale. Tuttavia, nonostante la tendenza a sopravvalutare la funzione taumaturgica della legge, illudendosi della sua onnipotenza, le garanzie tradizionali faticano ad arginare la dirompenza dei nuovi mezzi tecnologici. Di per sé, la ratio del controllo digitale generalizzato segna un punto di frattura sistemico, rimarcando indirettamente le intrinseche limitazioni di tale mezzo rispetto al perseguimento degli obiettivi designati.

Nell’ambito della giustizia penale, il passaggio da una sorveglianza mirata, basata sul «fondato sospetto» (gravi indizi di colpevolezza) nei confronti di un singolo individuo, a una sorveglianza di massa, rischia di trasformare l’intero sistema, stravolgendolo in maniera rischiosa.

2. Il rischio per la presunzione di innocenza

L’impiego massivo e indiscriminato dell’IA minaccia di scardinare i principi essenziali del nostro ordinamento. Difatti, si passerebbe ipoteticamente da un attuale sistema basato sull’attività di indagine e sul concetto di fondato sospetto ad un sistema algoritmico-centrico. Nel contesto delineato, il connesso utilizzo di big data stravolgerebbe ulteriormente l’intera dialettica, provocando un cambiamento radicale del paradigma garantistico proprio del nostro ordinamento. Pertanto, astrattamente, il rischio maggiore è che la giustizia penale possa ridursi ad una mera analisi massiva di dati al fine di rilevare mere anomalie statistiche, rischiando di trasformare la giustizia medesima in uno strumento di profilazione preventiva del rischio. Inoltre, rispetto a quanto precedentemente descritto, si aggiungono le problematiche in merito ai limiti intrinseci della tecnologia impiegata, portando con sé l’evidente incognita di innescare pericolosi feedback loop e di sviluppare, conseguentemente, dei bias, vale a dire specifici pregiudizi algoritmici, i quali potrebbero originare vere e proprie discriminazioni.

Inoltre, affidare analisi di tale rilievo ad algoritmi automatizzati genera, a livello sociale e collettivo, un chilling effect (effetto inibitorio); vale a dire che il costante monitoraggio digitale, anche in assenza di dirette conseguenze penalmente rilevanti, esercita una pressione psicologica inibitoria nei confronti dei soggetti destinatari, ledendo in via mediata il disposto degli artt. 13 e 15 Cost., art. 8 CEDU, artt. 7, 8 e 11 CDFUE. Pertanto, il c.d. «oracolo algoritmico» potrebbe produrre un effetto proprio inibitorio nettamente sproporzionato rispetto al beneficio astrattamente ricavabile dalle attività di analisi massiva dei dati, rischiando inevitabilmente di valicare lo storico confine tra prevenzione e controllo sociale. La compromissione dei diritti fondamentali, erosi dallo sfruttamento massivo delle informazioni raccolte, genera una chiara tensione che, se esasperata, potrebbe ledere la dimensione democratica dello Stato di diritto. In questo scenario distopico, le tecnologie introdotte per contrastare le forme più gravi di criminalità subiscono un’inesorabile estensione applicativa.

3. La necessità di mantenere un controllo umano

Sebbene vi siano stati dei pregevoli tentativi di riaffermare la centralità della tutela degli interessi primari dei soggetti interessati contro le velleità di un sistema algoritmico-centrico, come il recente AI Act (Regolamento UE 2024/1689), risulta ancora complesso delimitare, a priori, gli effetti dall’impiego di tali software. Per i motivi precedentemente illustrati, diviene assolutamente auspicabile, nonché fondamentale, superare la concezione del diritto quale struttura a compartimenti stagni. Difatti, l’attività di interpretazione del diritto dovrebbe consentirne una lettura sistemica, permettendo così di bilanciare le esigenze di tutela dei singoli e della collettività in un’ottica più ampia. Solo in queste modalità sarà possibile imporre degli specifici limiti a frontiere tecnologiche che tendono, puntualmente e per loro natura, ad eluderli.

Senza una vigorosa affermazione dei diritti fondamentali in ambito digitale, immaginare un’evoluzione garantista in merito all’impiego delle suddette tecnologie in materia penale appare, oggi, una prospettiva quantomeno complessa.

L’interrogativo ultimo, dunque, trascende la mera dogmatica giuridica e investe l’essenza stessa della nostra democrazia. Il rischio più insidioso è che, assuefatti dalla seducente promessa di una sicurezza assoluta e predittiva, si finisca per accettare una silenziosa metamorfosi. Infatti, la vera sfida del giurista contemporaneo non consiste più, solo ed unicamente, nello stabilire come la tecnologia debba essere regolamentata, bensì occorre domandarsi se possa esistere un nucleo di libertà umana che debba rimanere, ontologicamente, non sottoponibile all’acritico intervento algoritmico. Destrutturare l’aura di infallibilità dell’IA significa ricordare come il diritto non possa essere ridotto ad un mero calcolo matematico, trattandosi di un’esperienza collettiva, profondamente umana e sociale, basata, in ultima istanza, sull’individuo medesimo.