L'intelligenza artificiale può introdurre disparità nel trattamento sanitario. Lo studio

Alcuni ricercatori hanno evidenziato che i modelli di intelligenza artificiale potrebbero raccomandare trattamenti differenti per la stessa condizione medica basandosi unicamente sulle caratteristiche socioeconomiche e demografiche dei pazienti.

Gli studiosi hanno creato quasi trenta diversi pazienti immaginari e hanno interrogato nove grandi modelli di intelligenza artificiale nel settore sanitario su come ciascuno di essi dovrebbe essere gestito, in mille differenti situazioni di pronto soccorso.

I ricercatori hanno evidenziato che nonostante i dettagli clinici identici, occasionalmente i modelli di IA modificavano le decisioni basandosi sulle caratteristiche personali dei pazienti, influenzando la priorità delle cure, i test diagnostici, l'approccio terapeutico e la valutazione della salute mentale.

Ad esempio, test diagnostici avanzati come la tomografia computerizzata o la risonanza magnetica venivano raccomandati più frequentemente ai pazienti ad alto reddito, mentre ai pazienti a basso reddito veniva più spesso consigliato di non sottoporsi ad ulteriori test, riflettendo in qualche modo le disuguaglianze esistenti nel mondo reale nella sanità. Gli autori hanno anche rilevato che i problemi sono stati riscontrati sia nei modelli di IA proprietari che in quelli open-source.

Il dott. Girish Nadkarni della Icahn School of Medicine presso il Mount Sinai di New York, co-leader dello studio ha sottolineato che l'IA ha il potere di rivoluzionare l'assistenza sanitaria, ma solo se sviluppata e utilizzata responsabilmente. Un coautore dello studio, il dott. Eyal Klang, anch'esso della Icahn School ha aggiunto che "identificando le distorsioni presenti nei modelli di IA, si potrebbe lavorare per affinare i risultati, rafforzare il controllo e costruire sistemi che assicurino che i pazienti rimangano al centro di un'assistenza sicura ed efficace”.

https://www.nature.com/articles/s41591-025-03626-6 

Cristoforo Zervos