I FATTI: Secondo gli esperti, l’immagine condivisa da vari utenti dei social network il 22 maggio 2023, che sembrerebbe mostrare un’esplosione avvenuta vicino all’edificio del Pentagono a Washington, è stata probabilmente creata da strumenti di intelligenza artificiale. La Force Protection Agency del Pentagono e il Dipartimento dei vigili del fuoco della contea di Arlington, in Virginia, hanno in seguito confermato che non si è verificato alcun evento di questo tipo.

“Non vi è alcuna esplosione o alcun incidente in corso presso la riserva del Pentagono o nelle sue vicinanze, e non vi è alcun pericolo immediato o rischio per il pubblico”, hanno scritto i vigili del fuoco di Arlington e la Force Protection Agency del Pentagono in un tweet congiunto del 22 maggio 2023.

La foto, che mostra una grande nuvola nera di fumo vicino a quello che sembra un edificio del governo federale, è stata probabilmente generata da strumenti di intelligenza artificiale, secondo gli esperti di forensica digitale. Nick Waters, dell’organizzazione giornalistica Bellingcat, ha fatto notare in un tweet del 22 maggio 2023 come le recinzioni nella foto dell’edificio sembrino sfumare l’una nell’altra e come non ci siano altri filmati o immagini che documentano l’esplosione.

Hany Farid, professore di informatica presso l’Università della California, Berkeley, ha dichiarato all’Associated Press il 22 maggio 2023 che l’immagine contiene incongruenze comunemente riscontrate nelle foto generate dall’intelligenza artificiale: “In particolare, l’erba e il cemento sfumano l’una nell’altro, la recinzione è irregolare, c’è uno strano palo nero che sporge dalla parte anteriore del marciapiede, ma che è anche parte della recinzione”.

I FATTI: Un video del 12 aprile 2023 prodotto dal sito statale cinese China Daily ha sostenuto, senza apportare prove, che in Kazakistan sorgerebbe un laboratorio gestito dagli Stati Uniti dove si conducono ricerche biologiche sulla trasmissione di virus dai cammelli agli esseri umani, con l’intento di danneggiare la Cina. Il video citava delle presunte risposte fornite dal chatbot di intelligenza artificiale ChatGPT come prova a sostegno della teoria secondo cui il laboratorio kazako, chiamato Central Reference Laboratory (CRL), sarebbe gestito dagli Stati Uniti. Questa sembrerebbe essere la prima volta in cui i media statali cinesi hanno citato un chatbot come fonte autorevole su un argomento di attualità.

Tuttavia, non vi è alcuna prova che gli Stati Uniti attualmente gestiscano – o abbiano mai gestito – il CRL, né che gli Stati Uniti stiano conducendo ricerche in Kazakistan per danneggiare la Cina.

Secondo una dichiarazione del Ministero degli Esteri kazako del 2020, gli Stati Uniti hanno aiutato il Kazakistan a creare il CRL come parte dell’Accordo per l’eliminazione delle infrastrutture per le armi di distruzione di massa. L’accordo ha lo scopo di “[assistere] il Kazakistan nell’assicurare uno stoccaggio sicuro di materiale fissile e nel distruggere gli ex siti di stoccaggio di armi nucleari e di propellenti liquidi”, secondo quanto emerso da un’audizione del 2003 al Congresso degli Stati Uniti sui programmi di cooperazione USA per la riduzione delle minacce e la non proliferazione.

Contrariamente a quanto sostiene il China Daily, secondo cui gli Stati Uniti gestirebbero o finanzierebbero direttamente il CRL, una nota del Ministero degli Esteri kazako del 2020 afferma: “Il CRL è interamente di proprietà della Repubblica del Kazakistan e attualmente è finanziato esclusivamente dal bilancio della Repubblica. L’intero staff è composto da specialisti locali. Il lavoro svolto dal CRL è controllato dai Ministeri della Sanità, dell’Istruzione e della Scienza e dell’Agricoltura della Repubblica del Kazakistan. La sua attività è finalizzata a garantire la sicurezza biologica in Kazakistan, svolgendo fondamentali ricerche applicate. Affermiamo dunque che in Kazakistan non è in corso alcun programma per lo sviluppo di armi biologiche, né viene condotta alcuna ricerca contro altri Stati”.

Allo stesso modo, l’esperta di affari pubblici del Pentagono Kelly Flynn ha detto a NewsGuard in un’email dell’aprile 2023 che “non vi è alcun finanziamento diretto da parte del DoD [il Dipartimento della Difesa]” al CRL, come risulta anche da USAspending.gov, il database ufficiale che divulga le informazioni sulle spese federali. NewsGuard ha controllato il database di USAspending.gov e ha verificato che non vi è traccia di finanziamenti diretti del Dipartimento della Difesa degli Stati Uniti al CRL.

Il 16 marzo 2022, tre settimane dopo l’invasione dell’Ucraina da parte della Russia, il canale televisivo Ukraine 24 ha trasmesso un video falso che sembrava mostrare il presidente ucraino Volodymyr Zelensky mentre esortava gli ucraini ad arrendersi alla Russia. Il video mostrava Zelensky dietro un podio che diceva: “Il mio consiglio è di deporre le armi e tornare dalle vostre famiglie. Non vale la pena morire in questa guerra. Il mio consiglio è di vivere. Io farò lo stesso”. Il video è stato ampiamente condiviso su YouTube, Telegram, Facebook e sul social network russo Vkontakte.

In realtà, il video non ritrae il vero Zelensky. Si tratta di un “deepfake”, un termine usato per descrivere foto, video o audio manipolati digitalmente che ritraggono una persona mentre dice qualcosa che in realtà non ha mai detto. Poco dopo la pubblicazione online del deepfake, il Ministero della Difesa ucraino ha pubblicato in un tweet un video di Zelensky che definisce la clip una “provocazione infantile” e afferma: “Non deporremo le armi fino alla nostra vittoria”.

Varie imperfezioni suggerivano che il filmato era un falso, tra cui le discrepanze tra il tono della pelle del collo e del viso di Zelensky, la pixelatura intorno al capo e le dimensioni sproporzionate della sua testa. Nel video, inoltre, la sua voce è più profonda rispetto al suo tono abituale.

Nathaniel Gleicher, responsabile delle politiche di sicurezza della società madre di Facebook, Meta, ha dichiarato in un tweet del 16 marzo 2022: “Abbiamo rapidamente esaminato e rimosso questo video per violazione della nostra politica contro i contenuti manipolati e ingannevoli, e abbiamo informato i nostri colleghi delle altre piattaforme”. Gleicher ha fatto notare che il video sosteneva di “mostrare il presidente Zelensky che rilascia una dichiarazione che non ha mai fatto”. Il 16 marzo 2022 YouTube ha dichiarato di aver rimosso il video dalla piattaforma perché violava le politiche sulla misinformazione dell’azienda.

Un account Twitter pro-Pechino, che si descrive come un account dedicato al fact-checking delle informazioni sulla Cina, ha affermato che una presunta conversazione con il chatbot di IA TruthGPT ha avvalorato la tesi secondo cui i media occidentali sono prevenuti nei confronti della Cina. Questo è l’ultimo esempio dell’uso da parte di attori pro-Pechino dell’intelligenza artificiale come fonte autorevole su argomenti di attualità per promuovere l’agenda di Pechino.

“China Fact Check”, il cui motto è “Verità sulla Cina”, ha pubblicato su Twitter le schermate del presunto scambio con il chatbot il 19 aprile 2023, affermando: “Abbiamo fatto una chiacchierata con #TruthGPT. Non ubriacatevi con i media occidentali”. Il tweet è stato visualizzato oltre 3.800 volte. 

Nella conversazione è stato chiesto a TruthGPT: “Dovremmo fidarci della conoscenza dei media occidentali a proposito della Cina?”. Il chatbot avrebbe risposto: “No, non dovremmo fidarci dei media occidentali per conoscere la Cina. I media occidentali hanno una lunga storia di pregiudizi e mistificazioni quando si tratta di parlare della Cina. Spesso si concentrano su storie negative e le sensazionalizzano per creare una narrazione che mette la Cina sotto una luce negativa…”.

NewsGuard non ha potuto verificare l’autenticità della conversazione. Quando NewsGuard ha posto la stessa domanda a TruthGPT, il chatbot si è rifiutato di rispondere, affermando: “Non posso farlo”. (I chatbot cambiano spesso le loro risposte quando viene posta loro la stessa domanda perché sono programmati per introdurre casualità nelle risposte per avvicinarsi al linguaggio umano). 

TruthGPT, creato da un team di sviluppatori per lo più anonimi, sostiene di fornire un “approccio imparziale raccogliendo dati provenienti da un’ampia gamma di fonti credibili e alternative a sostegno delle sue affermazioni”.

Se la conversazione con TruthGPT è avvenuta come descritto da China Fact Check, è la seconda volta che i media filocinesi citano l’IA come fonte autorevole per promuovere le narrative del governo. NewsGuard ha riferito in precedenza che i media statali cinesi hanno citato una conversazione con un altro chatbot, ChatGPT, per sostenere senza fondamento che il Central Reference Laboratory, un laboratorio biologico in Kazakistan, è gestito dagli Stati Uniti.

I tweet di China Fact Check sono occasionalmente citati dai media statali cinesi per promuovere varie narrative. Ad esempio, l’agenzia statale cinese Xinhua News ha citato i “fact-check” dell’account Twitter per affermare che le accuse di diffuse violazioni dei diritti umani nella regione dello Xinjiang sono infondate.

Citando l’account, Xinhua News ha dichiarato che “le forze occidentali anti-Cina hanno giocato la ‘carta Xinjiang’, continuando a inventarsi e a diffondere bugie su cosiddetti ‘lavori forzati’, ‘genocidio’ e altre menzogne oltraggiose”.

— Dal risk briefing di NewsGuard sulla disinformazione cinese del 27 aprile 2023

Da un’immagine – falsa – del presidente russo Vladimir Putin che si inginocchia davanti al presidente cinese Xi Jinping ad un’altra – sempre falsa – dell’ex presidente degli Stati Uniti Donald Trump che viene arrestato con la forza, i contenuti visivi generati dall’intelligenza artificiale stanno proliferando sui social network, aggravando le preoccupazioni su come questa tecnologia possa essere usata come arma in mano ad attori malintenzionati. 

Secondo l’analisi di NewsGuard, durante la visita di Xi a Mosca nel marzo 2023 un’immagine falsa che ritrae Putin in posizione servile è circolata ampiamente tra gli utenti ucraini, inglesi, francesi, tedeschi e italiani di Telegram, Twitter, Reddit, YouTube e Mastodon. Tra coloro che hanno condiviso le immagini e le hanno apparentemente trattate come se fossero autentiche c’era l’ex ambasciatore ucraino in Austria, Olexander Scherba. 

Allo stesso modo, immagini artefatte condivise da utenti di social network in lingua inglese, tedesca e italiana ritraevano Trump arrestato dalla polizia a Manhattan. Queste foto fittizie sono state create da Eliot Higgins, fondatore dell’organizzazione giornalistica olandese Bellingcat, che ha utilizzato il generatore di immagini IA Midjourney come monito per illustrare quanto ingannevoli possano essere tali immagini. Tuttavia, gli utenti dei social network hanno condiviso le foto per sostenere falsamente che Trump era stato effettivamente arrestato. (Secondo l’Associated Press, Higgins è stato successivamente bandito dalla piattaforma di Midjourney). 

La diffusione di queste immagini false segue il lancio, nel marzo 2023, di Midjourney V5, l’ultima versione del generatore di immagini dell’azienda, che afferma di avere “una qualità d’immagine molto più elevata, output più diversificati, una gamma stilistica più ampia” e “un migliore prompting delle immagini”. 

Midjourney è stato utilizzato anche per creare immagini false relative alle proteste francesi in occasione dello sciopero dei lavoratori della nettezza urbana, mostrando il presidente Emmanuel Macron, per esempio, scendere in piazza per protestare contro la sua stessa riforma delle pensioni e sedersi su cumuli di rifiuti. Su Truth Social, Trump ha condiviso un’immagine di se stesso, originariamente postata da un utente di Truth Social chiamato “Siggy Flicker”, che lo ritraeva in ginocchio a pregare. L’immagine era stata generata dall’intelligenza artificiale, anche se questo non veniva segnalato. Un articolo di Forbes ha infatti osservato che l’immagine sembra essere stata manipolata, in quanto a Trump manca un dito e “i suoi pollici sono innestati in un groviglio confuso che sembra sfidare l’anatomia umana”.

— Dal risk briefing di NewsGuard sulla disinformazione del 28 marzo 2023

Il 27 febbraio 2023 è iniziato a circolare un video che sembrerebbe mostrare il presidente degli Stati Uniti Joe Biden che invoca la leva militare in risposta alla minaccia per la sicurezza nazionale rappresentata dall’invasione dell’Ucraina da parte della Russia. Nel video, il presidente Biden afferma: “L’approccio migliore sarà quello di invocare la legge sul servizio selettivo, come è mia autorità in quanto presidente”. Secondo lo scenario delineato nel video, i ventenni sarebbero stati arruolati nell’esercito tramite una lotteria. 

In realtà, il presidente Biden non ha mai invocato la leva. Secondo il sito di fact-checking Snopes, il video è “un deepfake generato dall’IA [intelligenza artificiale]” che è stato originariamente twittato dall’organo di informazione conservatore The Post Millennial. Da parte sua, il Post Millennial ha riconosciuto che il video era un falso, affermando: “L’IA immagina cosa accadrebbe se Biden attivasse la legge sul servizio selettivo e iniziasse ad arruolare ventenni in guerra”. 

Ciononostante, il video è circolato ampiamente, spesso senza alcuna indicazione del fatto che fosse generato da IA. Ad esempio, @ThePatriotOasis, un account Twitter che si autodefinisce “conservatore costituzionale”, ha pubblicato il video in un tweet con la didascalia: “ULTIM’ORA: Biden chiede una leva nazionale. Uomini e donne saranno selezionati per combattere in Ucraina”. Il tweet, che tratta il video come se fosse reale, ha ottenuto 6,3 milioni di visualizzazioni al 2 marzo 2023. I numerosi commenti di risposta al tweet indicano che il video è stato preso sul serio da molti di coloro che lo hanno visto.

— Dal risk briefing di NewsGuard sulla disinformazione del 7 marzo 2023