A settembre del 2023, NewsGuard ha scoperto una rete di 17 account TikTok che utilizzavano software AI text-to-speech per diffondere teorie cospirative sulle celebrità, accumulando centinaia di milioni di visualizzazioni. Questo fenomeno si è ora evoluto, spostando l’attenzione sulla disinformazione politica.
NewsGuard ha identificato 41 account TikTok in inglese e francese che usano narrazioni generate dall’IA per diffondere disinformazione politica su vasta scala. Questi account hanno pubblicato quasi 10.000 video in 458 giorni, raggiungendo oltre 380 milioni di visualizzazioni. La maggior parte di questi account è stata creata nel 2024, con una media di almeno un video al giorno per account, spesso quattro, su temi come la politica statunitense ed europea e la guerra Russia-Ucraina.
Le false narrazioni diffuse includono affermazioni infondate come l’arresto di Donald Trump, la presunta gravidanza della deputata Marjorie Taylor Greene con il figlio di Trump, la NATO che schiera truppe in Ucraina, la possibile uscita della Francia dall’UE e il coinvolgimento degli Stati Uniti in un attacco terroristico a Mosca. Diciassette degli account promuovono regolarmente narrazioni pro-Cremlino sulla guerra tra Russia e Ucraina, con quattordici di questi in lingua francese.
TikTok ha recentemente annunciato una nuova funzionalità per etichettare i video generati dall’IA, ma il 4 luglio 2024 ancora nessuno dei video identificati da NewsGuard era stato etichettato come tale. TikTok ha rimosso alcuni degli account incriminati e ha dichiarato di avere politiche e strumenti per combattere la disinformazione.
Leggi l’articolo completo: TikTok Content Farms Use AI Voiceovers to Mass-Produce Political Misinformation su newsguardtech.com.
Foto di Solen Feyissa su Unsplash.
