L’adozione dell’IA in ambito sanitario solleva preoccupazioni legate alla “scatola nera”, ovvero l’incapacità di comprendere i processi decisionali delle IA. Tuttavia nuove soluzioni, come l’Articulate Medical Intelligence Explorer (AMIE) di Google, stanno mettendo in discussione questo problema. AMIE è un sistema di IA per la pianificazione delle cure. Si distingue per la sua capacità di fornire spiegazioni dettagliate e giustificazioni basate su linee guida cliniche, aumentando la trasparenza rispetto ai medici umani. Non solo genera diagnosi e piani di cura, ma li accompagna con una traccia di ragionamento visibile, che permette ai medici e ai pazienti di comprendere come vengano prese le decisioni.
AMIE mostra due forme di trasparenza, rendendo accessibile sia il ragionamento passo dopo passo, sia la giustificazione delle raccomandazioni con riferimenti a linee guida cliniche. Questo approccio differisce dal funzionamento dei medici, che basano spesso le loro decisioni su intuizioni difficili da spiegare. In studi comparativi, le raccomandazioni di AMIE si sono dimostrate più aderenti alle linee guida, con una maggiore precisione rispetto ai medici, guadagnandosi anche la preferenza di revisori indipendenti.
Tuttavia, nonostante i progressi, AMIE non elimina completamente il problema della “scatola nera”. Il sistema rimane opaco nei suoi meccanismi interni e la trasparenza del ragionamento potrebbe essere in parte artificiale, con giustificazioni costruite a posteriori. Inoltre, anche se AMIE aderisca alle linee guida, queste non sono sempre infallibili e il sistema potrebbe non gestire bene i casi limite.
Leggi l’articolo completo: Are ‘AI doctors’ becoming more transparent than human ones? su blogs.bmj.com.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
