Il MIT, attraverso il gruppo FutureTech del CSAIL, ha creato un nuovo database che documenta oltre 700 potenziali rischi associati all’IA. Questa risorsa, la più completa nel suo genere, raccoglie rischi che vanno dalla sicurezza e robustezza dei sistemi, alla discriminazione, alla compromissione della privacy, fino a scenari quali la possibilità che l’IA sviluppi sensazioni di dolore. La maggior parte di questi rischi viene identificata solo dopo che i modelli di IA siano stati resi accessibili al pubblico, con solo il 10% dei rischi individuati prima dell’implementazione.
Neil Thompson, direttore del MIT FutureTech, sottolinea che il database mostra l’ampiezza dei rischi, molti dei quali non possono essere previsti in anticipo. Ciò suggerisce la necessità di un monitoraggio continuo dei modelli di IA anche dopo il loro lancio.
Sebbene il database non classifichi i rischi per pericolosità, i suoi creatori lo vedono come un punto di partenza per ulteriori ricerche e miglioramenti, invitando la comunità a contribuire con feedback per colmare eventuali lacune.
Leggi l’articolo completo: A new public database lists all the ways AI could go wrong su technologyreview.com.
Immagine generata tramite DALL-E 3.
