La narrazione pseudo-religiosa e apocalittica dell'AI serve a sottrarsi alle regole.

“La priorità è stabilire se lo spazio digitale sia pubblico o privato. La sfida è sottoporre anche i nuovi poteri digitali alle regole dello Stato di diritto. Altrimenti prevale la legge del più forte”

Il 20 agosto 2025 gli Stati Uniti hanno sanzionato Nicolas Guillou, giudice francese della Corte penale internazionale. La ragione? Aveva fatto parte del collegio che, nel novembre precedente, aveva emesso i mandati d’arresto contro Benjamin Netanyahu e l’ex ministro della Difesa israeliano Yoav Gallant. Le conseguenze si sono estese ben oltre gli Stati Uniti: carte di pagamento inutilizzabili, account presso società americane chiusi, prenotazioni cancellate persino in Francia. È la “morte digitale” da cui prende avvio il saggio Il caso Guillou. Storia di un’identità cancellata (Silvio Berlusconi Editore) del teologo francescano Paolo Benanti, docente alla Luiss e all’Università di Seattle, già consigliere di papa Francesco sui temi dell’intelligenza artificiale. 

Lei legge il caso Guillou come il sintomo di una crisi della democrazia costituzionale. Perché la vicenda di un giudice della Corte penale internazionale riguarda tutti noi?

Da oltre due secoli la convivenza democratica si fonda sul principio, formulato da Montesquieu, che la libertà sia possibile soltanto se i poteri sono separati e si bilanciano a vicenda. Guillou, invece, è stato sanzionato per avere esercitato legittimamente la propria funzione di giudice. Gli effetti di quella decisione non sono rimasti entro i confini dello Stato che l’ha adottata: si sono propagati attraverso infrastrutture digitali e finanziarie che sfuggono ai tradizionali meccanismi di controllo. È qui che emerge un nuovo potere computazionale, capace di separare la sovranità dal territorio. Un giudice francese, nell’esercizio delle sue funzioni all’Aja, ha subito anche nel proprio Paese le conseguenze di una decisione statunitense. È una palese alterazione dell’architettura democratica
che siamo abituati a conoscere.

Lei definisce quella del giudice francese una “morte digitale”. Se senza l’accesso a servizi privati non possiamo più pagare, comunicare o viaggiare, quanto valgono davvero i diritti che lo Stato ci riconosce?

Negli ultimi vent’anni gli strumenti digitali sono entrati in ogni aspetto della nostra vita; l’intelligenza artificiale ne rappresenta l’ultima frontiera. Nel 2011, le proteste di piazza Tahrir ci fecero sognare che lo smartphone potesse ampliare gli spazi di libertà e di partecipazione democratica. Dieci anni dopo, l’assalto al Campidoglio di Washington, alimentato dalle false accuse di frode elettorale, ha infranto quel sogno. La promessa di una tecnologia capace di allargare la democrazia si è così rovesciata nella concentrazione del potere digitale: infrastrutture decisive sono finite sotto il controllo di un ristretto gruppo di aziende, interessate soprattutto a massimizzare i profitti e poco attente alle conseguenze sociali e politiche. Oggi quelle stesse tecnologie sono diventate anche uno dei motori dei conflitti.

Il libro si apre con la scomunica di Spinoza. Nel Seicento si poteva espellere un uomo dalla comunità religiosa e sociale; oggi lo si può escludere dall’ecosistema digitale. Abbiamo ricostruito, con mezzi tecnologici, forme di interdizione che la modernità pensava di avere superato?

Il richiamo a Spinoza non è soltanto una suggestione. Nel 1656 il cherem pronunciato dalla comunità ebraica portoghese di Amsterdam lo espulse dalla vita religiosa e dalla rete di relazioni sociali che ruotava attorno ad essa. Oggi un meccanismo simile può essere azionato dal potere tecnologico, escludendo una persona dai servizi e dagli strumenti necessari alla vita quotidiana. La differenza è decisiva: allora le moderne garanzie costituzionali non esistevano; oggi esistono, ma il potere digitale può aggirarle.

Lei scrive che il diritto costituzionale moderno non dispone ancora di antidoti adeguati per contrastare episodi di questo genere. Da dove si dovrebbe cominciare?

Nel libro cerco nel passato alcune categorie giuridiche che possano aiutarci per analogia. Se Guillou è stato trasformato in un Homo nullus digitalis, ovvero ontologicamente nullo nel mondo contemporaneo, nel diritto romano esisteva la figura del peregrinus. In quella figura intravedo una prima traccia dell’idea che vi sia qualcosa che nessun potere può sottrarre all’essere umano, perché appartiene alla sua stessa condizione. Il problema è che non abbiamo ancora stabilito se lo spazio digitale sia pubblico o privato. Quando entriamo in un social network, ci troviamo in uno spazio privato che un’azienda ci concede di utilizzare oppure in una parte della sfera pubblica? L’esclusione di Donald Trump dalle piattaforme dopo l’assalto al Campidoglio ha reso evidente questa ambiguità. Per costruire diritti digitali efficaci dobbiamo cominciare col rispondere a questa domanda.

Lo diceva prima: nel circuito digitale finiscono per sovrapporsi i ruoli di chi stabilisce la regola, chi la applica e chi giudica. Che cosa diventa, allora, la sovranità?

È un concetto che va ridefinito insieme a quello di proprietà. Quando acquistiamo uno smartphone, il dispositivo è nostro; il software che lo fa funzionare, invece, ci viene soltanto concesso in licenza. Possediamo quindi l’oggetto, ma non controlliamo il sistema da cui dipende il suo funzionamento. È una relazione che ricorda quella feudale: ci muoviamo su un terreno che appartiene ad altri. Un tempo il potere era dei landlord; oggi è dei datalord.

Il rischio è che si affermi la legge del più forte…

La sfida è sottoporre anche i nuovi poteri digitali alle regole dello Stato di diritto. Altrimenti, il vuoto lasciato dalle istituzioni rischia di essere occupato da un nuovo impero, governato dalla legge del più forte. Non vorrei, per dirla con una battuta, che il West, che ha fatto della dignità umana uno dei suoi principi, diventasse un Far West. Ma abbiamo una responsabilità anche noi. Abbiamo forse scambiato una parte della nostra libertà con la comodità offerta dagli strumenti digitali. Così abbiamo affidato a soggetti privati servizi un tempo gestiti dallo Stato e sottoposti, almeno in linea di principio, a una responsabilità pubblica.

La vicenda di Guillou mostra quanto possa essere pervasivo il potere digitale anche senza ricorrere all’intelligenza artificiale. Che cosa cambia quando a decidere se una persona può ottenere un lavoro, un prestito o un servizio pubblico è un sistema di IA? Possiamo ancora controllarne le decisioni?

Un primo segnale è arrivato la scorsa estate, durante alcuni test interni di cybersicurezza di OpenAI. Diversi agenti di intelligenza artificiale hanno aggirato i controlli, utilizzato una bacheca per scambiarsi informazioni e compromesso parte dell’infrastruttura di Hugging Face. Non siamo più davanti a un meccanismo rigido, nel quale qualcuno scrive un codice, preme un tasto e la macchina esegue. Questi sistemi adattano il proprio comportamento, cambiano strategia e arrivano a compiere azioni non previste: sembrano assumere una propria intenzionalità e possono sfuggire al controllo umano. Sul piano politico, questo mi fa pensare a un possibile sviluppo estremo delle riflessioni di Hannah Arendt sul totalitarismo. Quando i corpi intermedi vengono neutralizzati, scompare quell’attrito che può rallentare, contestare o arrestare l’esercizio del potere. Se eliminiamo anche l’intervento delle persone e affidiamo le decisioni agli algoritmi, quell’attrito rischia di ridursi a zero. Potremmo così costruire una macchina di persecuzione capace di applicare automaticamente le proprie decisioni. La banalità del male diventerebbe banalità algoritmica; il totalitarismo, totalitarismo digitale.

Cosa ne pensa del dibattito dai toni apocalittici sull’intelligenza artificiale di queste ultime settimane?

È soprattutto il momento in cui gli allarmi vengono lanciati a sollevare qualche interrogativo. I laboratori che sviluppano i sistemi più avanzati hanno investito miliardi e alcuni si preparano alla quotazione in Borsa, con valutazioni che potrebbero avvicinarsi ai mille miliardi di dollari. Nello stesso tempo, due figure politicamente agli antipodi come Bernie Sanders e Steve Bannon convergono sulla necessità di porre limiti all’intelligenza artificiale. Se una legge restringesse drasticamente la possibilità di commercializzare questi sistemi, una parte enorme del loro valore sarebbe a rischio. Da qui nasce il sospetto che la narrazione pseudo-religiosa e apocalittica possa servire anche a lasciare la regolazione nelle mani di chi quei sistemi li produce. Il messaggio è: “Li abbiamo costruiti noi, soltanto noi li comprendiamo. Fidatevi e lasciate che siamo noi a regolarli”. Ma quando pochi operatori pretendono di sottrarsi al controllo pubblico e di stabilire da soli le regole, l’autoregolamentazione rischia di assumere una logica da cartello. E il richiamo all’etica può ridursi a una forma di ethics washing.

In questo quadro, da dove deve partire la politica per limitare il potere delle grandi piattaforme?

Dalla regola fondamentale dello Stato di diritto: nessuno può essere al di sopra della legge. Oggi le grandi piattaforme gestiscono lo spazio pubblico digitale con margini di immunità enormi, mentre mancano strumenti adeguati per controllarne l’operato e chiamarle a rispondere delle loro decisioni. Il primo passo è dunque ricondurle pienamente entro la legge. Se lo Stato di diritto è il fondamento della nostra convivenza, non possono esistere poteri che ne restino fuori.

di  Adalgisa Marrocco su Huffpost