Intelligenza Artificiale in sanità: sette livelli di rischio

Nel pieno di questa estate torrida, tra chi era già al mare, chi cercava un po’ di frescura in montagna e chi attendeva le meritate vacanze, è uscito su Nature (Kyle Lam, Mindy Nunez Duffourc, Jiankai Sun, Eric Topol e Jianing Qiu. Tackling the blurring lines between physicians and AI. Nature, 30 luglio 2026, vol. 655) un interessante commento dedicato a un sistema di stadiazione dell’intelligenza artificiale in sanità.

Rischi e responsabilità nell’uso clinico dell’IA

Gli autori hanno elaborato una metodologia per identificare i rischi connessi all’utilizzo di sistemi di IA in sanità, anche in relazione alle responsabilità mediche, di governo clinico e sistemiche. Il riferimento è al caso in cui un paziente subisca un danno nel corso di una prestazione sanitaria che coinvolga uno strumento (tool) o un sistema di IA.

Autonomia, automazione e ambito operativo

Il sistema si fonda su tre proprietà, attraverso le quali vengono descritti sette livelli di rischio.

L’autonomia: come il sistema ragiona in modo indipendente, senza bisogno di input umani.

L’automazione: quali compiti il sistema di IA è in grado di eseguire in modo proprio e autonomo.

L’ambito operativo: i confini entro i quali al sistema è consentito operare.

La diversa graduazione di queste proprietà, in relazione a come i sistemi o gli applicativi di IA sono sviluppati e utilizzati in sanità, definisce i sette livelli di rischio.

I sette livelli di rischio: da 0 a 6

Livello 0: informazionale.

Livello 1: di supporto.

Livello 2: di supporto decisionale.

Livello 3: automazione supervisionata. È il sistema, più che il clinico, a prendere la decisione.

Livello 4: supervisione umana attivata dall’IA. I clinici rappresentano una rete di sicurezza e intervengono solo quando il sistema lancia l’allarme.

Livello 5: autonomia clinica. È l’equivalente, in ambito medico, della piena autonomia.

Livello 6: IA autodidatta. Sistemi ad altissima autonomia e automazione, con un ampio raggio d’azione operativo.

Regolamentare l’utilizzo dell’IA in sanità

Gli autori evidenziano che, al momento della pubblicazione del commento, il livello raggiunto era il 3, negli Stati Uniti. Il quadro richiamato si basa sui dati della US Food and Drug Administration, della European Database on Medical Devices e della China’s National Medical Products Administration.

È un momento in cui, secondo gli autori, è opportuno intervenire per regolamentare il processo di utilizzo e i sistemi o gli strumenti di IA.

Asimov e le tre leggi della robotica

Il commento su Nature è senza dubbio di grande interesse e ci spinge anche a una rilettura delle opere di Asimov, giusto per ripassare le tre leggi della robotica. Non per ripeterci, ma lo avevamo già detto nel novembre del 2023.

Smila