Giustizia, l’algoritmo non può diventare il nuovo giudice

La giustizia non può diventare una scatola nera. E soprattutto non può accadere che, dietro la parola magica “intelligenza artificiale”, si nasconda una nuova forma di opacità capace di mettere in discussione il diritto di difesa. Il D.Lgs. 160/2026 porta l’intelligenza artificiale dentro attività di polizia, prevenzione, investigazione e giustizia e, insieme alle opportunità della tecnologia, spalanca una questione che non può essere liquidata con qualche richiamo alla formazione degli operatori o alla supervisione umana: chi controlla davvero la macchina quando il suo risultato può incidere sulla libertà di una persona?

È questa la domanda che emerge con forza dalla nota della Giunta dell’Unione delle Camere Penali Italiane e dell’Osservatorio Scienza, Processo e Intelligenza Artificiale. Il decreto, pubblicato in Gazzetta Ufficiale il 15 settembre 2026 e attuativo della legge 132/2025, presenta elementi di miglioramento rispetto allo schema originario, ma lascia aperti interrogativi pesantissimi proprio sul terreno delle garanzie. Riconoscimento biometrico, accesso della difesa alle informazioni, segreto industriale, controllo dei sistemi ad alto rischio e responsabilità degli utilizzatori non sono dettagli da addetti ai lavori. Sono il cuore del problema.

Perché se un sistema di IA contribuisce a costruire una conoscenza investigativa o processuale, la difesa deve poterla controllare. Non può essere chiamata a contestare un risultato senza poter conoscere gli elementi essenziali che lo hanno prodotto. Non basta dire che esiste un algoritmo. Non basta assicurare che un operatore umano lo abbia utilizzato. Non basta neppure consegnare alla difesa il risultato finale. Se la macchina entra nel processo, anche la macchina deve poter essere sottoposta al contraddittorio nei limiti necessari a garantire i diritti fondamentali.

Il rischio è evidente: creare una giustizia nella quale una parte dispone della tecnologia, dei dati e delle informazioni necessarie a interpretare l’output, mentre l’altra deve limitarsi a fidarsi. Sarebbe un cortocircuito devastante per il principio del contraddittorio e per gli articoli 24 e 111 della Costituzione. La difesa non può essere trasformata nello spettatore di una decisione tecnologica già confezionata.

Ancora più delicata è la questione del riconoscimento biometrico. Si tratta di strumenti particolarmente invasivi, capaci di incidere direttamente sulla sfera individuale. La disciplina avrebbe richiesto, secondo le Camere penali, un controllo giurisdizionale più incisivo, un utilizzo circoscritto alle situazioni di emergenza e limiti temporali realmente definiti. Invece, proprio sulla durata e sulle proroghe restano interrogativi che non possono essere ignorati. Perché quando uno strumento di sorveglianza è in grado di identificare una persona attraverso caratteristiche biometriche, la parola “emergenza” non può diventare una porta d’ingresso per un controllo potenzialmente indefinito.

C’è poi il grande alibi del segreto industriale. Nessuno nega che un’impresa abbia diritto a proteggere tecnologie, codice, know-how e investimenti. Ma quando quella tecnologia viene utilizzata dallo Stato per attività che possono incidere sulle libertà fondamentali, il segreto commerciale non può trasformarsi in uno scudo contro la verifica della difesa. Non si può pretendere trasparenza dal cittadino e contemporaneamente opporre opacità tecnologica quando il cittadino chiede di sapere come è stato prodotto un risultato che lo riguarda.

È qui che il decreto dovrà essere misurato alla prova dei fatti. Perché la trasparenza non può essere selettiva. Se l’intelligenza artificiale diventa uno strumento della pubblica autorità, devono essere conoscibili, nei limiti compatibili con la tutela del sistema, gli elementi necessari per verificarne l’affidabilità. Devono essere controllabili le fonti utilizzate, le modalità di elaborazione, le operazioni compiute e gli eventuali errori. E deve essere possibile ricostruire ciò che è accaduto.

Anche la conservazione dei file di log per cinque anni, richiamata dalla nota dell’Osservatorio, pone interrogativi che meritano una risposta. Se un sistema concorre alla formazione di elementi utilizzati in un procedimento, la tracciabilità non può essere un accessorio informatico. È una condizione della verificabilità. Senza una documentazione adeguata, la possibilità di contestare il risultato rischia di diventare puramente teorica.

Poi c’è la cosiddetta “sorveglianza umana”. È una formula rassicurante, ma rischia di diventare vuota se non viene riempita di poteri e responsabilità reali. Mettere un uomo davanti a una macchina non significa esercitare un controllo. Il controllo esiste soltanto se quell’uomo possiede competenze sufficienti per capire quando l’algoritmo sbaglia, riconoscere anomalie e bias, sospendere il sistema, correggerne gli effetti e documentare le verifiche.

Altrimenti avremo l’uomo come semplice timbro della macchina.

Ed è proprio questo uno dei rischi più insidiosi. L’intelligenza artificiale può produrre risultati rapidamente, può organizzare quantità enormi di dati e può offrire strumenti di supporto alle attività investigative. Ma la sua apparente oggettività può generare nell’utilizzatore una fiducia eccessiva. Un risultato elaborato da una macchina può sembrare più neutrale di quanto realmente sia. E invece anche gli algoritmi lavorano su dati, criteri, modelli e scelte progettuali. Possono incorporare distorsioni e produrre errori. Possono orientare la selezione delle informazioni e, di conseguenza, influenzare il modo in cui l’essere umano ricostruisce i fatti.

Per questo la formazione degli operatori prevista dal decreto è essenziale, ma non può ridursi a un corso tecnico. Servono competenze specifiche, verificabili e misurabili. Chi utilizza un sistema ad alto rischio deve sapere quali sono i suoi limiti, quali anomalie devono far scattare l’intervento umano, quando il sistema deve essere sospeso e come deve essere documentata ogni verifica. Altrimenti la “supervisione umana” resta soltanto una formula sulla carta.

La questione diventa ancora più grave quando l’IA viene utilizzata nella fase delle indagini preliminari. È lì che si forma una parte decisiva della conoscenza che successivamente alimenterà il processo. Se la tecnologia seleziona informazioni, individua correlazioni, segnala soggetti o orienta l’attività investigativa, può finire per influenzare il percorso stesso attraverso il quale si costruisce l’ipotesi accusatoria. E proprio per questo la difesa deve poter intervenire, conoscere e contestare.

Non è una guerra contro la tecnologia. È esattamente il contrario. Una tecnologia davvero utile alla giustizia non ha bisogno di essere protetta dall’osservazione critica. Ha bisogno di regole, controlli e responsabilità. L’efficienza non può essere l’unico parametro. Nel processo penale conta anche la qualità della conoscenza, la possibilità di verificarla e il diritto di contestarla.

Il D.Lgs. 160/2026 apre dunque una partita molto più grande della semplice regolamentazione dell’intelligenza artificiale. Apre la partita sul potere. Sul potere di raccogliere informazioni, selezionarle, elaborarle e trasformarle in elementi capaci di incidere sulla vita delle persone.

E proprio per questo la domanda finale non può essere elusa: chi giudica l’algoritmo quando l’algoritmo contribuisce a giudicare l’uomo?

La tecnologia può entrare nelle aule di giustizia. Ma non può entrarci pretendendo un trattamento privilegiato, sottratto al controllo e al contraddittorio. La macchina può assistere l’uomo, non sostituire le garanzie. E nessun segreto industriale, nessuna promessa di efficienza e nessuna fascinazione tecnologica può diventare il lasciapassare per una giustizia nella quale la difesa vede il risultato, ma non può vedere come ci si è arrivati.

Perché il vero progresso non è una giustizia più tecnologica. È una giustizia nella quale anche la tecnologia resta sottoposta alla legge.

Ucpi Osservatorio Scienza, Processo e Intelligenza Artificiale