Microsoft ha introdotto un nuovo strumento per aiutare le vittime di pornografia deepfake a rimuovere immagini compromettenti dai risultati di ricerca su Bing.
La società ha stretto una partnership con StopNCII, un’organizzazione che permette di creare impronte digitali (hash) di immagini esplicite, che vengono poi utilizzate per bloccare la diffusione di tali contenuti su diverse piattaforme, tra cui Facebook, Instagram e TikTok. Questo nuovo strumento si affianca alle iniziative già avviate, come quella che ha portato alla rimozione di 268.000 immagini esplicite da Bing.
Microsoft ha ammesso che il precedente approccio, basato esclusivamente sulle segnalazioni degli utenti, non era sufficiente per affrontare il problema in modo efficace. Il colosso tecnologico ha sottolineato la necessità di migliorare le misure per proteggere le vittime, soprattutto considerando la gravità del fenomeno su piattaforme più popolari come Google, che è stata criticata per non aver ancora collaborato con StopNCII.
Il problema dei deepfake pornografici generati dall’IA è in crescita, soprattutto tra i giovani, ma al momento manca una legge federale negli Stati Uniti che regoli questa pratica. Diverse iniziative a livello statale hanno cercato di contrastare il fenomeno, con 23 stati che hanno approvato leggi contro i deepfake non consensuali.
Leggi l’articolo completo: Microsoft gives deepfake porn victims a tool to scrub images from Bing search su techcrunch.com.
Immagine generata tramite DALL-E 3.
