Page 58 - CnO_249

DAI GRUPPI DI STUDIO - INTELLIGENZA ARTIFICIALE IN CARDIOLOGIA

gli enti governativi o le autorità di per la sicurezza e la qualità e le
regolamentazione hanno un ruolo protezioni contro attacchi dannosi
importante. Negli Stati Uniti, la o errori involontari . La rapida
(2)
Food and Drug Administration progressione della tecnologia di
(FDA) ha introdotto misure per IA e le varie tecniche significano
approvare il software per uso che non tutti i “panel” possibili
medico (12) . La FDA definisce tale avrebbero la capacità di effettuare
come sofware come dispositivo la valutazione dei prodotti IA da
medico (SaMD). Nell’ambito soli. È stato proposto che un sistema
della categorizzazione del rischio di benchmarking che esamini le
SaMD e dell’approvazione pre- prestazioni e la robustezza del
commercializzazione, diversi SaMD software medico di IA sia disponibile
basati sull’intelligenza artificiale per guidare i servizi sanitari (13) . Il
sono stati approvati per l’uso nella sistema di benchmarking potrebbe Figura 1
fornitura di assistenza sanitaria. essere il risultato di partenariati
Oltre all’attuale processo di revisione pubblico-privato. La piattaforma scenario e rimanere non testate, se
non inadatte, al contesto di utilizzo
del rischio e di approvazione pre- di benchmarking consentirebbe
commercializzazione del SaMD il confronto di diversi modelli di di software medico autonomo
(14)
basato sull’IA, la FDA e l’organismo intelligenza artificiale attraverso o semiautonomo . È sempre
regolatorio europeo MDR stanno una dashboard di metriche delle richiesto un approccio equilibrato
predisponendo un “piano di controllo prestazioni. Queste piattaforme di in cui va confermata la sicurezza dei
delle modifiche predeterminato” benchmarking possono guidare i pazienti, l’autonomia dei medici
per anticipare i cambiamenti singoli servizi sanitari sulle loro scelte. e il supporto decisionale clinico
nell’algoritmo di intelligenza • Fase di distribuzione derivato dai modelli di IA. Gli audit
artificiale dopo l’introduzione La fase di distribuzione tiene potrebbero testare la distorsione,
sul mercato. Ciò significa che conto dei fattori di responsabilità, l’accuratezza, la prevedibilità,
quando il software di IA ha un monitoraggio e reporting. Se ci la trasparenza del processo
farmaco significativo che influisce aspettiamo che i modelli di IA decisionale e il raggiungimento
sulla sicurezza o sull’efficacia, lo incorporino principi etici, è anche dei risultati clinici del modello. Il
sviluppatore dovrebbe tornare agli pertinente valutare i modelli modello tipo di governance clinica
organismi regolatori per la revisione responsabili durante la distribuzione. GMAIH (Governance Model for
e l’approvazione. L’uso dell’IA nell’assistenza clinica e le the application of AI in Health
• Fase introduttiva potenziali questioni di responsabilità care) (15) suggerisce il vero processo
La fase di introduzione prevede che che possono emergere sono di responsabilità e segnalazione
i servizi sanitari rivedano i prodotti complesse e piene di molte incertezze per rispecchiare la strategia circa
di IA sul mercato, li valutino per la (14) . L’uso di software di intelligenza l’attuazione della governance
loro idoneità nella loro fornitura di artificiale per la pratica clinica clinica, che copre la composizione
assistenza sanitaria e stabiliscano rischia di aumentare la responsabilità degli standard nazionali utilizzati
politiche e procedure pertinenti per i medici e i servizi sanitari. La dai servizi sanitari per garantire
per consentire l’incorporazione questione di chi diventa responsabile sicurezza e qualità, modelli di
del software nell’assistenza clinica. quando sorgono problemi di sicurezza governance clinica più locale locale,
I modelli di intelligenza artificiale e qualità a causa dell’uso di software valutazione annuale delle prestazioni
devono essere rivisti per le loro medici di IA richiede un’adeguata del modello di IA, visite in loco,
caratteristiche di protezione dei guida legale. Le attuali leggi sulla meccanismi di apprendimento tra
dati, trasparenza e minimizzazione negligenza medica potrebbero non cui la segnalazione di eventi avversi,
dei pregiudizi, oltre ai rischi essere in grado di adattarsi a questo incorporazione delle opinioni dei

56 | Cardiologia negli Ospedali | duecentoquarantanove