Il Dipartimento di Polizia di Detroit dovrà rivedere radicalmente l’uso della tecnologia di riconoscimento facciale dopo un accordo legale che ha seguito l’arresto ingiustificato di Robert Williams nel 2020. Oltre al risarcimento di 300.000 dollari che la città ha versato a Williams, questo accordo impone regole severe, nonostante non proibisca totalmente l’uso della tecnologia. La polizia non può più basare arresti esclusivamente sui risultati del riconoscimento facciale.
Williams è stato arrestato dopo che il software di riconoscimento facciale ha giudicato erroneamente la sua foto della patente scaduta come corrispondente all’identità di un presunto ladro, portando a un’accusa del tutto falsa che ha scatenato conseguenze nella sua vita privata. Questa tecnologia utilizzata dal Dipartimento di Polizia di Detroit, ha già sbagliato in altri due casi simili di arresti ingiustificati, entrambi riguardanti individui neri. Questo fenomeno è documentato dall’ACLU che ha collaborato alla risoluzione dell’accordo. Questi episodi dimostrano quanto il bias razziale nell’IA sia un problema urgente da affrontare, specialmente se l’intenzione è di iniziare ad utilizzare concretamente queste tecnologie.
Le nuove regole stabiliscono che un’indicazione del riconoscimento facciale non può costituire da sola motivo sufficiente per richiedere un mandato di arresto. È necessaria una prova ulteriore, indipendente e affidabile, che colleghi il sospetto al crimine. Inoltre, la polizia di Detroit sarà obbligata a formarsi sulla tecnologia per affrontare il bias razziale nei tassi di accuratezza e a esaminare tutti i casi dal 2017 in cui il riconoscimento facciale ha giocato un ruolo cruciale nella decisione di procedere con un arresto.
Leggi l’articolo completo: Facial Recognition Led to Wrongful Arrests. So Detroit Is Making Changes. su nytimes.com.
Foto di cottonbro studio su Pexels.
