Un’applicazione di IA che crea immagini di nudo non consensuali sta sfruttando le piattaforme Meta, tra cui Facebook e Instagram, per attirare traffico.
L’app, chiamata Crushmate o Crush AI, promuove i suoi servizi tramite annunci pubblicitari espliciti, violando ripetutamente le politiche di Meta. Infatti, secondo un’analisi di Similarweb, circa il 90% del traffico verso il sito proviene dalle piattaforme Meta, nonostante gli sforzi di rimozione degli annunci da parte dell’azienda. La maggior parte di questi annunci presentano video di donne reali, spesso celebrità, manipolati tramite l’IA, rappresentate prive di indumenti. Nonostante le segnalazioni, Meta non sembra riuscire a fermare efficacemente la diffusione di questi contenuti, che sono promossi anche su Facebook Marketplace.
L’azienda risponde sottolineando che già proibisce gli annunci che promuovono lo sfruttamento sessuale degli adulti. Afferma anche di aver rimosso i contenuti che violavano le politiche di Meta, adottando misure contro gli account coinvolti. Meta sostiene che il problema sia la costante evoluzione delle tattiche da parte di chi cerca di aggirare le normative, motivo per cui l’azienda continua a investire in tecnologie avanzate per identificare e rimuovere contenuti che violano le sue linee guida. Tuttavia, la dichiarazione non fornisce una risposta diretta riguardo alla discrepanza tra la rimozione di immagini caricate come contenuti normali e la loro permanenza quando vengono caricate come annunci pubblicitari, un punto sollevato dalle indagini.
Leggi l’articolo completo: Instagram Ads Send This Nudify Site 90 Percent of Its Traffic su 404media.co.
Immagine generata tramite DALL-E 3.
