Page 59 - CnO_249

DAI GRUPPI DI STUDIO - INTELLIGENZA ARTIFICIALE IN CARDIOLOGIA

La trasparenza nel processo decisionale clinico che deriva
dall’utilizzo di strumenti di IA deve prevedere una convalida degli

output dei modelli di IA da parte del Cardiologo

pazienti e istruzione e formazione di tengano deliberazioni appropriate (5) Whittlestone J, Nyrup R, Alexandrova
medici e pazienti (16) . sull’efficacia e l’efficacia dei modelli A, Dihal K, Cave S. Ethical and
Integrazione di IA oltre alla supervisione di societal implications of algorithms,
data, and artificial intelligence: a
Mentre la discussione precedente privacy, sicurezza, qualità e fattori roadmap for research. 2019. http://www.
si è concentrata sul modello etici. Tale organo di governance nuffieldfoundation.org/sites/default/files/
di governance “per sé”, una dovrebbe inoltre garantire che sia files/Ethical-and-Societal-Implications-of-
Data-and-AI-report-Nuffield-Foundat.pdf
considerazione molto importante in atto un team e un piano dotati di Accessed July 1, 2019.
è come un modello si integra nel risorse adeguate per monitorare la (6) Adadi A, Berrada M. Peeking inside
flusso di lavoro clinico. Il flusso deriva dei dati, la variazione input- the black-box: a survey on explainable
artificial intelligence (XAI). IEEE Access
di lavoro clinico è rappresentato output, i risultati imprevisti, il rischio 2018; 6: 52138–60.
nelle attività di routine eseguite dai di reidentificazione dei dati e gli (7) Gillon R. Four principles plus attention
medici e nei risultati da esso generati impatti della pratica clinica. Questi to scope. BMJ 1994; 309 (6948): 184–8.
(8) Holzinger A, Langs G, Denk H,
(17) . Tra queste figurano compiti sforzi dovrebbero essere segnalati Zatloukal K, Müller H. Causability and
amministrativi quali la pianificazione e pubblicati e dovrebbe essere explainabilty of artificial intelligence in
e la fatturazione degli appuntamenti responsabilità della governance clinica medicine. Data Min Knowl Discov 2019; 9
e compiti clinici quali le cure mediche far rispettare. Come per l’equità e (4): e1312.
(9) Wakabayashi D. Google and the
e l’educazione dei pazienti. Per la trasparenza, le componenti di University of Chicago are sued over data
garantire che le applicazioni di governance dell’affidabilità e della sharing. The New York Times. June 26,
intelligenza artificiale producano responsabilità nella progettazione e 2019.
(10) Harvard University Laboratory of
il valore necessario per i medici e i nella diffusione dell’IA sono essenziali Medical Imaging and Computation.
pazienti, esse devono essere integrate per garantire la fiducia nell’assistenza Artificial Intelligence in Healthcare
nel flusso di lavoro clinico. I passaggi sanitaria e per salvaguardare il Accelerated Program. 2019.
(11) Jones ML, Kaufman E, Edenberg E.
per integrare l’applicazione AI sono rapporto fiduciario tra professionisti AI and the ethics of automating consent.
descritti nella Figura 1. Il modello e pazienti. Garantire che i pazienti IEEE Secur Privacy 2018; 16 (3): 64–72.
GMAIH interagisce con l’integrazione (e il pubblico in generale) non (12) Food and Drug Administration.
Proposed regulatory framework for
in fasi critiche garantendo che siano danneggiati dall’IA e modifications to artificial intelligence/
le applicazioni generino dati dall’apprendimento automatico e machine learning (AI/ML)-based software as
appropriati, che vi sia trasparenza nel siano, invece, beneficiati più dalla loro a medical device (SaMD) - discussion paper.
https://www.fda.gov/
processo decisionale, che le opinioni presenza che dalla loro assenza, sono downloads/medicaldevices/
dei medici e dei pazienti siano ragioni fondamentali per garantire deviceregulationandguidance/
considerate nell’integrazione e che vi l’esistenza di una governance clinica guidancedocuments/ucm514737.pdf
sia responsabilità delle applicazioni di tutti i processi di IA applicati Accessed July 1, 2019.
(13) Salathé M, Wiegand T, Wenzel M..
attraverso ispezioni e rapporti. all’assistenza sanitaria. Focus Group on Artificial Intelligence
Per supportare l’integrazione e for Health. Geneva, Switzerland: World
la governance, è raccomandabile Bibliografia Health Organization; 2018.
(1) Char DS, Shah NH, Magnus D.
(14) Lupton M. Some ethical and legal
che la governance sia fornita da Implementing machine learning in consequences of the application of artificial
un comitato clinico formulato con healthcare-addressing ethical challenges. intelligence in the field of medicine. Trends
competenze ed esperienze specifiche N Engl J Med 2018; 378 (11): 981–3. Med 2018; 18 (4): 100147.
(15) Sandeep Reddy, Sonia Allan,
(2) Vayena E, Blasimme A, Cohen IG.
per supervisionare l’introduzione Machine learning in medicine: addressing Simon Coghlan, Paul Cooper Journal
e l’implementazione di modelli ethical challenges. PLoS Med 2018; 15 of the American Medical Informatics
di IA nell’assistenza clinica. Un (11): e1002689. Association, Volume 27, Issue 3, March
(3) Reddy S, Fox J, Purohit MP. Artificial
2020, Pages 491–497.
comitato di governance appropriato intelligence-enabled healthcare delivery. J (16) Implementing clinical governance:
dovrebbe anche includere oltre i R Soc Med 2019; 112 (1): 22–8. turning vision into reality. BMJ 2001; 322
medici, manager, rappresentanti (4) Challen R, Denny J, Pitt M, Gompels (7299): 1413–7.
di gruppi di pazienti ed esperti L, Edwards T, Tsaneva-Atanasova K. (17) 2021. Ethics and governance of
Artificial intelligence, bias and clinical
artificial intelligence for health. ISBN 978-
tecnici ed etici in modo che si safety. BMJ Qual Saf 2019; 28 (3): 231–7. 92-4-002920-0 (electronic version).
www.anmco.it/pages/l-associazione/gruppo-di-studio/intelligenza-artificiale-in-cardiologia 57