Gli scienziati avvertono che l’IA nel settore sanitario potrebbe aggravare le disuguaglianze etniche e di reddito
L'IA nel settore sanitario potrebbe aumentare disuguaglianze etniche e di reddito, secondo gli scienziati.
Gli scienziati temono che l’utilizzo di modelli di intelligenza artificiale come ChatGPT nell’assistenza sanitaria possa esacerbare le disuguaglianze.
Gli epidemiologi, provenienti dalle università di Cambridge e Leicester, avvertono che i grandi modelli di linguaggio (LLM) potrebbero consolidare le disuguaglianze per le minoranze etniche e i paesi a basso reddito.
La loro preoccupazione deriva da pregiudizi dati sistematici. I modelli di intelligenza artificiale utilizzati nell’assistenza sanitaria vengono addestrati su informazioni provenienti da siti web e letteratura scientifica. Ma le evidenze mostrano che spesso mancano dati sull’etnia da queste fonti.
Come risultato, gli strumenti di intelligenza artificiale possono essere meno accurati per i gruppi sottorappresentati. Ciò può portare a raccomandazioni inefficaci di farmaci o consigli medici razzisti.
“È ampiamente accettato che esista un rischio differenziale associato all’appartenenza a una minoranza etnica in molti gruppi di malattie”, hanno dichiarato i ricercatori nel loro studio.
- Le fibre ottiche potrebbero essere la risposta alla perdita d’...
- Getir vende attrezzature, si affretta a cercare finanziamenti in me...
- La nuova legge nel Regno Unito potrebbe scatenare una sorveglianza ...
“Se la letteratura pubblicata già contiene pregiudizi e minor precisione, è logico che i futuri modelli di intelligenza artificiale li manterranno e li esacerberanno ulteriormente”.
Gli scienziati sono anche preoccupati per la minaccia ai paesi a basso e medio reddito (LMIC). I modelli di intelligenza artificiale sono principalmente sviluppati in nazioni più ricche, che dominano anche il finanziamento per la ricerca medica.
Di conseguenza, i LMIC sono “vastamente sottorappresentati” nei dati di addestramento nell’assistenza sanitaria. Ciò può portare gli strumenti di intelligenza artificiale a fornire consigli sbagliati alle persone in questi paesi.
Nonostante queste preoccupazioni, i ricercatori riconoscono i benefici che l’intelligenza artificiale può portare alla medicina. Per mitigare i rischi, suggeriscono diverse misure.
Innanzitutto, vogliono che i modelli descrivano chiaramente i dati utilizzati nello sviluppo. Chiedono anche ulteriori studi per affrontare le disuguaglianze nella ricerca sanitaria, inclusa una migliore selezione e registrazione delle informazioni sull’etnia.
I dati di addestramento dovrebbero essere adeguatamente rappresentativi, mentre sono necessarie ulteriori ricerche sull’uso dell’intelligenza artificiale per i gruppi emarginati. Queste misure, affermano i ricercatori, promuoveranno una sanità equa e inclusiva.
“Dobbiamo agire con cautela, riconoscendo che non possiamo e non dovremmo fermare il flusso del progresso”, ha detto il dott. Mohammad Ali dell’Università di Leicester.
