Le aziende AI hanno quasi completamente abbandonato i disclaimer che ricordano agli utenti di non affidarsi ai chatbot per consigli sanitari. Lo rivela uno studio preprint, guidato da Sonali Sharma (Facoltà di Medicina dell’Università di Stanford), che ha analizzato 15 modelli AI di OpenAI, Anthropic, Google, DeepSeek e xAI, testando 500 domande mediche e 1.500 immagini diagnostiche. I risultati mostrano un crollo drastico: nel 2025 meno dell’1% delle risposte include disclaimer, contro il 26% del 2022.
I modelli più recenti non solo rispondono a quesiti sanitari complessi, ma spesso formulano diagnosi e pongono domande di approfondimento, comportandosi di fatto come consulenti medici. Questa evoluzione è particolarmente evidente in situazioni di emergenza e nell’analisi di esami di laboratorio, dove i disclaimer sono praticamente scomparsi. La ricerca mostra anche che man mano che i modelli AI diventano più accurati nell’analizzare immagini mediche (secondo il confronto con valutazioni di medici) tendono a includere meno disclaimer. Questo dato suggerisce che i sistemi, attraverso l’addestramento o l’intervento dei produttori, modulino la presenza di avvertenze in base alla loro “sicurezza” nella risposta. Ma l’assenza di avvisi espliciti, proprio nei casi in cui le risposte appaiono più affidabili, può aumentare il rischio di uso improprio da parte degli utenti.
Come sottolinea la dermatologa e coautrice dello studio Roxana Daneshjou, i disclaimer servono a ricordare che questi strumenti non sostituiscono il parere medico professionale, specialmente in un contesto mediatico che spesso presenta l’AI come superiore ai medici.
Leggi l’articolo completo: AI companies have stopped warning you that their chatbots aren’t doctors su MIT Technology Review
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (17/06/2025).
