L’IA ha mostrato diversi limiti non indifferenti nel settore sanitario, pur promettendo risparmi e miglioramenti, in particolare modo durante la pandemia. Un esempio è rappresentato dall’algoritmo dell’University of Pennsylvania Health System, che serviva per tentare di predire la morte dei pazienti oncologici, ma ha mostrato una riduzione delle prestazioni durante il Covid-19, fallendo nel convincere i medici ad avviare conversazioni che potevano rivelarsi cruciali con i pazienti, come per evitare trattamenti inutili. Questo problema si è verificato in molte altre applicazioni di IA in sanità, evidenziando la necessità di monitoraggio continuo per evitare errori.
L’IA viene utilizzata in vari ambiti. Infatti, oltre alla previsione del rischio di morte, viene anche impiegata per il supporto nelle diagnosi. Tuttavia, l’efficacia e la manutenzione degli algoritmi rimangono difficili da garantire. Le istituzioni sanitarie faticano a validare queste tecnologie e a mantenerle aggiornate come servirebbe per un corretto funzionamento, comportando rischi concreti in quanto gli errori possono incidere effettivamente sulla qualità dell’assistenza. La mancanza di standard per la valutazione dei sistemi di IA complica ulteriormente la situazione.
Sono necessari investimenti importanti per garantire che queste tecnologie funzionino correttamente, il che rappresenta una sfida significativa vista la realtà dei bilanci ospedalieri e la carenza di specialisti in IA.
Leggi l’articolo completo: Health Care AI, Intended To Save Money, Turns Out To Require a Lot of Expensive Humans su khhhealthnews.org.
Immagine generata tramite DALL-E 3.
