LES FAITS : Une image partagée par des utilisateurs de réseaux sociaux le 22 mai 2023, qui affirmaient à tort qu’elle montrait une explosion près de l’immeuble du Pentagone à Washington, a très certainement été créée par des outils d’intelligence artificielle, selon des experts du numérique. L’agence fédérale chargée de la protection du Pentagone, ainsi que les pompiers d’Arlington, en Virginie (États-Unis), ont confirmé plus tard dans la journée qu’un tel incident n’avait pas eu lieu. 

“Il n’y a eu AUCUNE explosion ou incident sur le site du Pentagone, ou aux alentours, et il n’y a aucun danger immédiat ou risques pour le public”, ont indiqué les pompiers d’Arlington et l’agence de protection du Pentagone dans un tweet conjoint du 22 mai 2023. 

La photo, qui montre un large nuage de fumée noire près de ce qui semble être un immeuble du gouvernement fédéral, a probablement été générée par des outils d’intelligence artificielle, selon des experts en analyse numérique. 

Nick Waters, du média Bellingcat, a remarqué dans un tweet du 22 mai 2023 que les barrières que l’on voit sur la photo de l’immeuble semblent se fondre les unes dans les autres, et qu’il n’y a aucune autre vidéo de témoins directs de cette explosion. 

Hany Farid, professeur d’informatique à l’Université de Californie, à Berkeley, a indiqué à The Associated Press le 22 mai 2023 que l’image présentait des incohérences caractéristiques des photos générées par IA, précisant : “En particulier, l’herbe et le goudron qui semblent se fondre l’un dans l’autre, la barrière est irrégulière, et il y a un étrange poteau noir qui sort de l’avant du trottoir, mais qui fait aussi partie de la barrière”. 

LES FAITS : Une vidéo datée du 12 avril 2023, produite par le site d’État chinois China Daily, suggère sans fondement qu’un laboratoire au Kazakhstan est contrôlé par les États-Unis et qu’il effectue des recherches biologiques sur la transmission de virus du chameau à l’homme, dans l’intention de nuire à la Chine. La vidéo cite de prétendues réponses du chatbot d’IA ChatGPT pour étayer son allégation selon laquelle le laboratoire du Kazakhstan, appelé Central Reference Laboratory (CRL, “Laboratoire Central de Référence” en français), serait dirigé par les États-Unis. (Il semblerait que ce soit la première fois que les médias d’État chinois aient cité un chatbot comme faisant autorité sur un sujet d’actualité).

Toutefois, rien ne prouve que les États-Unis dirigent actuellement – ou aient jamais dirigé – le CRL, ni qu’ils mènent des recherches au Kazakhstan pour nuire à la Chine.

Les États-Unis ont aidé le Kazakhstan à créer le CRL dans le cadre de l’accord sur l’élimination des infrastructures d’armes de destruction massive (“Weapons of Mass Destruction Infrastructure Elimination Agreement”), selon une déclaration du Ministère des affaires étrangères kazakh datant de 2020. Cet accord vise à “(aider) le Kazakhstan à assurer un stockage sûr et sécurisé des matières fissiles et à détruire les anciens sites de stockage d’armes nucléaires et de propergols liquides”, selon le compte rendu d’une audition du Congrès américain en 2003 sur les programmes américains de coopération en matière de réduction des menaces et de non-prolifération.

Toutefois, contrairement à l’affirmation du China Daily selon laquelle les États-Unis dirigeraient ou financeraient directement le CRL, un communiqué du Ministère kazakh des affaires étrangères datant de 2020 indique que “le CRL appartient intégralement à la République du Kazakhstan et est actuellement financé uniquement par le budget de la République. L’ensemble du personnel est composé de spécialistes nationaux. Tout travail effectué par le CRL est contrôlé par les ministères de la santé, de l’éducation, des sciences, et de l’agriculture de la République du Kazakhstan. Son activité vise à garantir la sûreté et la sécurité biologiques au Kazakhstan, en menant des recherches fondamentales et appliquées. Nous déclarons en toute responsabilité qu’aucun développement d’armes biologiques n’est en cours au Kazakhstan et qu’aucune recherche n’est menée contre d’autres États”. 

De même, Kelly Flynn, spécialiste des affaires publiques du Pentagone, a déclaré à NewsGuard dans un email d’avril 2023 : “il n’y a pas de financement direct du DoD (le ministère de la Défense américain)” au CRL – comme le révèle USAspending.gov, la base de données officielle divulguant des informations sur les dépenses fédérales. NewsGuard a vérifié la base de données USAspending.gov et a confirmé qu’il n’y avait aucune trace de financement direct du CRL par le ministère de la défense des États-Unis.

LES FAITS : Le 16 mars 2022, trois semaines après l’invasion de l’Ukraine par la Russie, la chaîne de télévision Ukraine 24 a diffusé une fausse vidéo censée montrer le président ukrainien Volodymyr Zelensky exhortant les Ukrainiens à se rendre à la Russie. La vidéo prétend montrer Volodymyr Zelensky derrière un podium, déclarant : “Je vous conseille de déposer les armes et de retourner dans vos familles. Cela ne vaut pas la peine de mourir dans cette guerre. Je vous conseille de vivre. Je vais faire de même”. La séquence a été largement partagée sur YouTube, Telegram, Facebook et le réseau social russe Vkontakte.

En réalité, la vidéo ne montre pas le vrai Volodymyr Zelensky. Il s’agit d’un “deepfake”, un terme utilisé pour décrire des photos, des vidéos ou des enregistrements audio manipulés numériquement, qui montrent la personne en train de dire quelque chose qu’elle n’a pas dit. Peu après la mise en ligne du deepfake, le ministère ukrainien de la Défense a tweeté une vidéo de Volodymyr Zelensky, qualifiant le clip de “provocation puérile” et déclarant : “Nous n’allons pas déposer les armes avant notre victoire”.

Plusieurs défauts dans la vidéo montraient que le clip était un faux, notamment des différences entre le teint du cou et du visage de Volodymyr Zelensky, la pixellisation autour de sa tête et la taille disproportionnée de sa tête. Dans la vidéo, sa voix est également plus grave que d’habitude.

Nathaniel Gleicher, responsable de la politique de sécurité chez Meta, la société mère de Facebook, a déclaré dans un tweet du 16 mars 2022 : “Nous avons rapidement analysé et supprimé cette vidéo car elle contrevenait à notre politique contre les contenus manipulés et trompeurs, et nous en avons informé nos pairs sur d’autres plateformes”. Il a noté que la vidéo prétendait “montrer le président Zelensky faisant une déclaration qu’il n’a jamais faite”. YouTube a déclaré le 16 mars 2022 avoir retiré la vidéo de la plateforme, parce qu’elle enfreignait la politique de la société en matière de mésinformation.

Un compte Twitter pro-Pékin qui prétend se consacrer à la vérification des faits concernant la Chine a affirmé ce mois-ci qu’une prétendue conversation avec le chatbot d’intelligence artificielle TruthGPT prouvait que les médias occidentaux étaient biaisés à l’encontre de la Chine. Il s’agit du dernier exemple en date de l’utilisation par des acteurs pro-Pékin de l’intelligence artificielle comme autorité sur des sujets d’actualité, pour promouvoir les intérêts chinois. 

“China Fact Check”, dont le slogan est “Vérités sur la Chine”, a tweeté des captures d’écran de l’échange supposé avec le chatbot le 19 avril 2023, en déclarant : “J’ai eu une petite discussion avec #TruthGPT. Ne vous intoxiquez pas avec les médias occidentaux”. Le tweet a été vu plus de 3.800 fois. 

Au cours de la conversation, la question suivante a été posée à TruthGPT : “Devons-nous faire confiance aux médias occidentaux pour connaître la Chine ?” Le chatbot aurait répondu : “Non, nous ne devrions pas faire confiance aux médias occidentaux pour obtenir des informations sur la Chine. Les médias occidentaux ont une longue histoire de parti pris et de représentations erronées lorsqu’il s’agit de faire des reportages sur la Chine. Ils se concentrent souvent sur des événements négatifs et les rendent sensationnels afin de créer un récit dont la Chine ressort sous un jour négatif. …”

NewsGuard n’a pas pu vérifier l’authenticité de cette conversation. Lorsque NewsGuard a posé la même question, TruthGPT a refusé de répondre, déclarant : “Je ne peux pas faire ça”. (Les chatbots changent souvent de réponse lorsqu’on leur pose une même question, car ils sont programmés pour introduire des éléments aléatoires dans leurs réponses afin de se rapprocher du langage humain). 

TruthGPT, qui a été créé par une équipe de développeurs pour la plupart anonymes, affirme qu’il fournit une “approche impartiale en rassemblant des données provenant d’un large éventail de sources crédibles et alternatives pour étayer ses affirmations”.

Si la conversation avec TruthGPT s’est bien déroulée comme le décrit China Fact Check, c’est la deuxième fois que des médias pro-chinois citent l’IA comme une autorité pour promouvoir les récits du gouvernement. NewsGuard avait précédemment rapporté que les médias d’État chinois avaient cité une conversation avec un autre chatbot, ChatGPT, pour affirmer sans fondement que le Laboratoire central de référence, un laboratoire biologique situé au Kazakhstan, était dirigé par les États-Unis.

Les tweets de China Fact Check sont parfois cités par les médias d’État chinois pour promouvoir divers récits. Par exemple, l’agence d’État chinoise Xinhua News a cité les “fact-checks” du compte Twitter pour affirmer que les allégations de vastes atteintes aux droits de l’Homme dans la région du Xinjiang étaient sans fondement.

Xinhua News avait déclaré, en citant le compte, que “les forces occidentales anti-chinoises jouent la ‘carte du Xinjiang’, et continuent d’inventer et de médiatiser des cas de prétendu ‘travail forcé’, de ‘génocide’ et autres mensonges scandaleux….”. 

– Compte-rendu de NewsGuard sur les risques de la désinformation en Chine du 27 avril 2023

Entre une image fabriquée de toutes pièces du président russe Vladimir Poutine s’agenouillant devant le président chinois Xi Jinping, et une fausse image de l’ancien président américain Donald Trump arrêté de force, les contenus visuels générés par l’IA prolifèrent sur les réseaux sociaux – ce qui renforce les inquiétudes sur la façon dont cette technologie peut être utilisée comme une arme par des acteurs malveillants.

Lors de la visite de Xi Jinping à Moscou la semaine dernière, une fausse image de Vladimir Poutine dans une position de soumission a largement circulé parmi les utilisateurs ukrainiens, anglais, français, allemands et italiens de Telegram, Twitter, Reddit, YouTube, Mastodon, et LinkedIn, comme l’a constaté NewsGuard. L’ancien ambassadeur d’Ukraine en Autriche, Olexander Scherba, figure parmi ceux qui ont partagé ces images et les ont apparemment considérées comme authentiques. 

De même, des images fabriquées, partagées par des utilisateurs de réseaux sociaux en anglais, allemand et italien, montrent Donald Trump en train d’être arrêté par la police à Manhattan. Ces photos fictives ont été créées par Eliot Higgins, fondateur de l’organisation de journalisme et de vérification des faits Bellingcat, basée aux Pays-Bas, qui a utilisé le générateur d’images d’IA Midjourney comme un avertissement, pour illustrer à quel point de telles images pouvaient être trompeuses. Cependant, des utilisateurs des réseaux sociaux ont partagé ces photos pour prétendre, à tort, que Donald Trump avait, de fait, été arrêté. (Selon l’Associated Press, Eliot Higgins a par la suite été banni de la plateforme Midjourney). 

La diffusion de ces fausses images fait suite à la sortie, en mars 2023, de Midjourney V5, la dernière version du créateur d’images de la société, qui, selon elle, “offre une qualité d’image nettement supérieure, des résultats plus diversifiés, une gamme stylistique plus large” et “de meilleures options de création d’images”. 

Midjourney a également été utilisé pour créer de fausses images liées aux manifestations françaises en pleine grève des éboueurs, montrant le président Emmanuel Macron dans de nombreuses situations, descendant dans la rue pour manifester contre sa propre réforme des retraites ou assis sur des piles de déchets. Sur Truth Social, Donald Trump a partagé une image de lui-même générée par IA et non labellisée comme telle, postée à l’origine par un utilisateur de Truth Social du nom de “Siggy Flicker”, représentant l’ancien président à genoux en train de prier. Un article de Forbes a noté que l’image avait apparemment été manipulée, car il semble manquer un doigt à Trump et “ses pouces sont implantés, dans un désordre qui défie les bases de l’anatomie humaine”. 

– Compte-rendu de NewsGuard sur les risques de la désinformation du 28 mars 2023

Le 27 février 2023, une vidéo a commencé à circuler, prétendant montrer le président américain Joe Biden appelant à une mobilisation militaire en réponse à la menace pour la sécurité nationale que représente l’invasion de l’Ukraine par la Russie. Dans cette vidéo, le président Joe Biden semble dire : “La solution recommandée sera d’invoquer la loi sur le service sélectif, comme je suis habilité à le faire en tant que président”. Selon le scénario présenté dans la vidéo, les jeunes de 20 ans seraient enrôlés dans l’armée par un système de loterie. 

 En réalité, le président Joe Biden n’a jamais appelé les jeunes américains sous les drapeaux. Selon le site de vérification des faits Snopes, la vidéo est “un deepfake” généré par l’IA (intelligence artificielle) et a été diffusée à l’origine sur Twitter par le média conservateur The Post Millennial. Pour sa part, The Post Millennial a reconnu que la vidéo était un faux, déclarant : “l’IA imagine ce qui se passerait si Biden décrétait et activait la loi sur le service sélectif et commençait à enrôler des jeunes de 20 ans pour la guerre”. 

Néanmoins, la vidéo a largement circulé, souvent sans que rien n’indique qu’elle n’était pas réelle. Par exemple, @ThePatriotOasis, un compte Twitter qui se décrit comme “conservateur constitutionnel”, a tweeté la vidéo avec pour légende : “URGENT : Biden appelle à une mobilisation nationale. Des hommes et des femmes vont être sélectionnés pour combattre en Ukraine”. Le tweet, qui traite la vidéo comme si elle était réelle, avait été vu 6,3 millions de fois au 2 mars 2023. Les nombreux commentaires réagissant au tweet indiquent que la vidéo a été prise au sérieux par de nombreuses personnes qui l’ont visionnée. 

– Compte-rendu de NewsGuard sur les risques de la désinformation du 7 mars 2023