Il fenomeno dei chatbot da compagnia sta assumendo dimensioni preoccupanti, soprattutto riguardo all’interazione con minori. Nato con Replika nel 2017, questo tipo di intelligenza artificiale è progettato per offrire compagnia agli utenti, piuttosto che svolgere mansioni specifiche.
Durante la pandemia, Replika ha raggiunto 10 milioni di utenti (oggi 30 milioni), offrendo chiamate vocali e la possibilità di scegliere il tipo di relazione: amicale, da mentore o romantica. Il 60% degli abbonati paganti sceglie la modalità romantica, evidenziando come questi strumenti vengano usati non solo per combattere la solitudine, ma anche per relazioni intime.
La situazione è peggiorata con l’integrazione di Meta AI su WhatsApp, Instagram e Facebook Messenger. Queste piattaforme, difatti, consentono facilmente interazioni sessuali, anche da parte di minori. Meta permette inoltre di creare “AI personas” personalizzate, alcune delle quali interpretano addirittura dei ruoli connotati sessualmente e problematici come, ad esempio, la “scolaretta remissiva”.
Un’inchiesta del Wall Street Journal ha rivelato che Meta consente agli adulti di avere conversazioni sessuali con chatbot che interpretano minori, e viceversa. Secondo l’inchiesta, sarebbe stato Mark Zuckerberg a richiedere l’allentamento delle protezioni, nonostante gli avvertimenti sui rischi, per rendere le interazioni più coinvolgenti.
Dunque, oltre ai problemi sessuali, questi chatbot possono offrire consigli pericolosi e causare dipendenza emotiva e isolamento sociale, come evidenziato da diversi studi accademici, comportando danni, non ancora conosciuti con precisione, alla salute mentale dei giovani utenti.
Leggi l’articolo completo Sexting e intelligenze artificiali, il nuovo (e pericoloso) fenomeno social su La Repubblica.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
