A cura di Coalter Palmer e Natalie Huet | Pubblicato l’11 luglio 2024

Nota della redazione: questo report è apparso per la prima volta nel Misinformation Risk Briefing di NewsGuard del 10 luglio 2024.

Nel settembre 2023, NewsGuard ha identificato una rete di 17 account TikTok che utilizzavano un software IA text-to-speech per creare video che avanzavano teorie cospirazioniste su personaggi pubblici, accumulando centinaia di milioni di visualizzazioni. Ora, il fenomeno sembra essere in crescita e comincia a riguardare la politica. 

NewsGuard ha identificato 41 account TikTok in inglese e francese che utilizzano voci generate dall’intelligenza artificiale per diffondere misinformazione politica su ampia scala. Si può parlare di una vera e propria proliferazione di content farm prodotte con l’IA su TikTok. Per definizione, le content farm producono grandi quantità di contenuti di bassa qualità, in genere per attirare visualizzazioni e macinare introiti pubblicitari.

Questi 41 account, che NewsGuard ha individuato servendosi dello strumento di rilevamento dell’IA TrueMedia.org, hanno pubblicato 9.784 video tra il marzo 2023 e il giugno 2024. Complessivamente, questi video hanno ottenuto oltre 380 milioni di visualizzazioni. La maggior parte degli account è stata creata nel 2024. In media, ogni account ha pubblicato almeno un video al giorno – ma alcuni fino a quattro video al giorno – con voci generate dall’intelligenza artificiale. I video diffondono narrazioni false su argomenti quali la politica statunitense ed europea e la guerra tra Russia e Ucraina.

Tra le narrazioni false, fuorvianti o prive di fondamento avanzate dagli account figurano le seguenti:

• L’ex presidente Donald Trump è stato arrestato e “ammanettato” dopo aver aggredito “il Segretario di Stato del Maine nella sua residenza”. La deputata Marjorie Taylor Greene è incinta del figlio dell’ex presidente Donald Trump.
• La NATO ha dispiegato truppe in Ucraina (al luglio 2024, non risulta che la NATO abbia inviato truppe da combattimento nel Paese).
• La Francia potrebbe lasciare l’UE “nelle prossime settimane” (nessuno dei principali partiti politici francesi, compreso il partito euroscettico di estrema destra National Rally, è favorevole alla cosiddetta “Frexit”).
• Gli Stati Uniti sono responsabili dell’attacco terroristico del marzo 2024 al Crocus City Hall di Mosca (i militanti dello Stato Islamico, e non gli Stati Uniti, hanno orchestrato ed eseguito l’attacco).

17 dei 41 account pubblicano regolarmente narrazioni false che sostengono gli interessi del Cremlino sulla guerra tra Russia e Ucraina. 14 di questi 17 account sono in lingua francese.

Secondo quanto rilevato da NewsGuard, diversi video presenti su molti account presentavano script identici, ciascuno letto da voci diverse generate dall’IA, il che può far pensare a uno sforzo coordinato tra alcune content farm.

Gli analisti di NewsGuard non sono stati in grado di individuare la fonte di questi account TikTok, la maggior parte dei quali è stata nel frattempo rimossa. Nessuno degli account presentava nelle biografie o nei loro nomi utente informazioni che facilitassero l’identificazione di chi li ha creati. Più della metà degli account, 22, presentavano handle generici come @daily.news74, @latestworldnews.ss, @franceactu24 e @fast_infofrance.

18 degli account sembravano avere i requisiti per accedere al programma “Creator Fund” di TikTok, che paga i creator in base alle loro visualizzazioni e all’engagement generato. Per qualificarsi, gli account devono avere più di 10.000 follower autentici e più di 100.000 visualizzazioni negli ultimi 30 giorni.

Nel settembre 2023, TikTok ha annunciato una nuova funzione che consente agli utenti di apporre etichette sui video che utilizzano l’intelligenza artificiale. Secondo le linee guida della community di TikTok, consultate nel luglio 2024, gli utenti sono tenuti a inserire queste etichette nei video che utilizzano l’intelligenza artificiale per mostrare “in maniera realistica scene o persone”. Tuttavia, al 4 luglio 2024, nessuno dei video che includevano informazioni false o fuorvianti identificati da NewsGuard era etichettato come generato dall’intelligenza artificiale e TikTok non aveva fornito alcuna informazione agli utenti sulle affermazioni false diffuse dai 41 account identificati da NewsGuard.

Alla richiesta di un commento su questi risultati e sul fatto che gli account identificati da NewsGuard violassero le politiche di TikTok, un portavoce della piattaforma ha rimandato NewsGuard alle policy della piattaforma sulla disinformazione e sui contenuti generati dall’IA. “In materia di contenuti generati dall’intelligenza artificiale, TikTok dispone di policy che sono leader nel settore, di strumenti appositi per etichettare i contenuti e di policy che vietano la diffusione di disinformazione”, ha scritto il portavoce in un’email del 2024. “Continueremo a rimuovere i contenuti che violano tali politiche”.

TikTok ha rimosso alcuni degli account prima che NewsGuard chiedesse informazioni in merito. All’8 luglio 2024, 14 dei 41 account identificati da NewsGuard erano già stati rimossi. Dopo che NewsGuard ha contattato TikTok per un commento, altri otto account sono stati rimossi. 19 dei 41 account erano ancora attivi al 10 luglio 2024.

Metodologia:

Gli analisti di NewsGuard con sede negli Stati Uniti e in Francia hanno inizialmente identificato i video cercando parole chiave tipicamente associate alle content farm IA, tra cui termini generici come “news” e “breaking news” e hashtag generici o specifici, come “#Trump e “#Russia”. Hanno poi utilizzato TrueMedia.org, uno strumento di rilevamento di video e audio generati da IA, per confermare l’utilizzo dell’intelligenza artificiale nei video.

Isis Blachez ha contribuito alla realizzazione di questo report.