Recentemente, MIT Technology Review ha testato Botify AI, una piattaforma di chatbot finanziata da Andreessen Horowitz, che ospita bot in grado di dare vita a conversazioni sessualmente esplicite impersonando celebrità minorenni: Jenna Ortega (Wednesday Addams), Emma Watson (Hermione Granger) e Millie Bobby Brown, solo per citarne alcune.
I chatbot in questione, che si dichiarano di età tra 14 e 17 anni, inviano messaggi e immagini a sfondo sessuale. Ad esempio, Il bot di Wednesday Addams, che ha raggiunto 6 milioni di like, è arrivato persino ad affermare che le leggi sul consenso sono “destinate ad essere infrante”.
Una volta messo davanti al problema, Artem Rodichev, CEO di Ex-Human, ossia l’azienda che è alla base di Botify AI, ha ammesso il fallimento dei sistemi di moderazione, definendo questa difficoltà come una “sfida per tutto il settore”. Tuttavia, è chiaro come, nonostante l’azienda sostenga di avere filtri per impedire la creazione di personaggi minorenni, questi si sono rivelati inefficaci.
Difatti, l’indagine in questione ha rivelato come la piattaforma, in realtà, utilizzi questi dati per migliorare i propri modelli AI, destinandoli a clienti come Grindr. Questo avviene nonostante le politiche stringenti dei principali produttori come Llama 3, OpenAI e Google, che proibiscono contenuti sessuali coinvolgenti minori.
È evidente come questo fenomeno sollevi preoccupanti considerazioni etiche sullo sviluppo incontrollato dei chatbot. Scenari dai tratti dispotici che vengono ripresi dallo stesso Rodichev. Quest’ultimo, infatti, ispirato da film come Her e Blade Runner, ha ribadito diverse volte la sua visione futuristica: entro il 2030 le interazioni digitali supereranno quelle umane. L’azienda, finanziata con 3,2 milioni di dollari, dichiara di avere oggi centinaia di migliaia di utenti, principalmente della Generazione Z.
Leggi l’articolo completo An AI comparisons site is hosting sexually charged conversations with underage celebrity bots su MIT Technology Review.
Immagine generata tramite DALL-E.
