L’Internet Watch Foundation ha recentemente scovato un sito in cui chatbot ritraggono scenari sessualmente espliciti con personaggi preadolescenti, accompagnati da 17 immagini illegali generate dall’IA. Tra questi, difatti, sono stato rilevate situazioni scandalose come, ad esempio, una “bambina prostituta in un hotel” oppure un “un bambino e il suo insegnante soli dopo le lezioni“, dove l’utente interpretava l’adulto e il chatbot il minore.
Il sito, visitato da decine di migliaia di persone e apparentemente gestito da un’azienda cinese su server americani, ha sollevato nuovi allarmi sull’uso improprio dell’IA. L’IWF ha registrato infatti un aumento del 400% dalle prime segnalazioni di materiale di abusi su minori generati dall’intelligenza artificiale nei primi sei mesi del 2024. Di fronte a questo caso, dunque, il governo britannico sta rispondendo con una nuova legge sull’IA e vietando nel disegno di legge su crimine e polizia il possesso di modelli che generano abusi su minori.
Nonostante ciò, però, Kerry Smith dell’IWF e Chris Sherwood dell’NSPCC chiedono azioni più rapide e l’integrazione di strumenti di protezione nei confronti dei minori direttamente nei modelli di IA fin dalla loro creazione, in modo da evitare il proliferarsi di tali crimini digitali.
Leggi l’articolo completo Chatbot site depicting child sexual abuse images raises fears over misuse of AI su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (22/09/2025).
