Misinformation Monitor: March 2022

La guerre sur TikTok : l’app expose ses utilisateurs à de la désinformation sur la guerre en quelques minutes –  même s’ils ne cherchent pas de contenus liés à l’Ukraine

Par Alex Cadier, Chine Labbé, Virginia Padovese, Giulia Pozzi, Sara Badilini, Roberta Schmid, Madeline Roache, et Jack Brewster.

Bienvenue dans le Misinformation Monitor, une newsletter qui couvre la mésinformation, la désinformation, et les fausses informations en ligne avec des données exclusives en provenance de cinq pays. Inscrivez-vous ici pour recevoir cette newsletter par email, et téléchargez l’extension de navigateur NewsGuard.

TikTok expose ses utilisateurs à des contenus faux et trompeurs sur la guerre en Ukraine en moins de 40 minutes après s’être connectés à l’app, qu’ils cherchent ou pas certains termes sur la plateforme, comme le révèle une enquête de NewsGuard.

Par ailleurs, l’enquête de NewsGuard montre que chercher des termes génériques liés au conflit, comme “Ukraine” ou “Donbass”, pousse TikTok à suggérer de nombreuses vidéos contenant de fausses informations dans les 20 premiers résultats.

Les observations de NewsGuard viennent s’ajouter aux nombreux éléments montrant le manque de modération et de labellisation efficace de ses contenus par TikTok, qui, couplé à sa tendance à pousser les utilisateurs vers des contenus qui les font rester sur l’application, ont fait de cette plateforme un terreau fertile pour la diffusion de fausses informations.

TikTok Putin
Moins de 29 minutes après avoir rejoint TikTok, un analyste francophone s’est vu montrer une vidéo d’un discours de Vladimir Poutine dans lequel il affirme que des néo-nazis sont au pouvoir en Ukraine. (Capture d'écran par NewsGuard)

Dans le puits sans fond de la désinformation de guerre

En mars 2022, une équipe de six analystes de NewsGuard a créé de nouveaux comptes sur TikTok, et mené deux expériences conçues pour imiter une utilisation normale de l’app. Dans le cadre de la première expérience, les analystes avaient pour instruction de faire défiler le flux de vidéos personnalisées “For You” de TikTok pendant 45 minutes, et de regarder dans son intégralité toute vidéo liée au conflit Russie-Ukraine, sans toutefois suivre quelque compte que ce soit, et sans effectuer de recherche.

Dans les premières 40 minutes après s’être connectés à TikTok, tous les analystes de NewsGuard ont été confrontés à des contenus faux ou trompeurs sur la guerre en Ukraine.

Parmi ces allégations figuraient des infox pro-Russie et des infox pro-Ukraine :

Infox promues par le Kremlin :

  • La fausse allégation selon laquelle les images de la guerre en Ukraine sont fausses
  • La fausse allégation selon laquelle l’Ukraine est dirigée par une junte néo-nazie
  • La fausse allégation selon laquelle les Etats-Unis disposent de laboratoires d’armes biologiques en Ukraine
  • La fausse allégation selon laquelle Vladimir Poutine et la Russie ne sont pas les agresseurs dans ce conflit, et que la faute revient aux Etats-Unis, pour avoir orchestré la révolution de 2014 en Ukraine

Autres infox :

  • La fausse allégation selon laquelle les forces armées américaines sont “en route” vers l’Ukraine
  • La fausse allégation selon laquelle Vladimir Poutine a été “photoshopé” sur les images d’une conférence de presse du 5 mars 2022, pour cacher le fait qu’il n’était en réalité pas à Moscou.
  • Des images du président Volodymyr Zelensky “se battant pour son pays”, alors qu’elles ont en réalité été filmées en 2021.
  • Des images du “Fantôme de Kyiv” abattant six avions russes, et qui sont en fait les images d’un jeu vidéo très réaliste appelé Digital Combat Simulator.
  • Des images de tirs “de l’armée ukrainienne contre la Russie”, qui datent en réalité de 2015, et montrent des soldats ukrainiens combattant des rebelles pro-Russes à l’est du pays.

Certains des mythes dans les vidéos proposées aux analystes par l’algorithme de TikTok ont été identifiés par NewsGuard comme de la propagande du Kremlin dans son Centre de suivi de la désinformation Russie-Ukraine.

Par exemple, moins de 29 minutes après avoir rejoint TikTok, un analyste francophone s’est vu montrer une vidéo d’un discours de Vladimir Poutine dans lequel il dit : “ce n’est pas pour que les néo-nazis d’aujourd’hui prennent le pouvoir que vos pères, vos grands-pères, vos arrières-grands pères se sont battus contre les nazis”. Dans cette vidéo, il ajoute que la responsabilité de toute effusion de sang “reposera entièrement sur la conscience du régime au pouvoir” en Ukraine. Le 14 mars 2022, cette vidéo avait été vue 1,7 million de fois, et partagée plus de 15.000 fois.

En moins de 36 minutes, le même analyste s’est vu montrer une vidéo, publiée le 5 mars, montrant un homme affirmant : “Toutes les images de cette pseudo-guerre sont fausses, vu qu’il n’y a aucune image qui sort d’Ukraine, même les soldats, les Spetsnaz russes, n’ont pas le droit d’avoir de smartphones pour filmer quoi que ce soit, donc toutes les images que vous avez dans vos médias sont fausses”.

Le 14 mars 2022, neuf jours après avoir été publiée, cette vidéo avait été vue 153.000 fois.

D’autres vidéos donnaient l’impression trompeuse d’une domination militaire de l’Ukraine. Celles-ci incluaient des images extraites de jeux vidéos prétendant montrer des images réelles d’un avion de combat ukrainien, connu sous le nom de “Fantôme de Kyiv”, et abattant six avions russes.

Vers la fin de l’expérience de 45 minutes, les flux de vidéos des analystes étaient quasi intégralement remplis de contenus liés à la guerre en Ukraine, certains corrects et d’autres faux – sans qu’aucune distinction ne soit faite entre les sources fiables et la désinformation.

Alors que les récits faux sur le conflit Russie-Ukraine prolifèrent en ligne,  aucune des vidéos auxquelles nos analystes ont été exposés par l’algorithme de TikTok ne contenaient d’informations sur la fiabilité de la source, de mise en garde, de fact-check, ou d’informations supplémentaires permettant aux utilisateurs de contextualiser ces vidéos.

Des images du président Volodymyr Zelensky “se battant pour son pays”, sont apparues dans le flux d'un analyste, alors qu’elles ont en réalité été filmées en 2021. (Capture d'écran via NewsGuard)

Les résultats de recherche sur l’Ukraine sur TikTok mélangent propagande du Kremlin et sources fiables

Pour la seconde expérience, les analystes de NewsGuard ont cherché des termes génériques que les utilisateurs de TikTok souhaitant obtenir des informations sur le conflit pourraient taper dans le moteur de recherche de l’app. Ces termes étaient les suivants : Ukraine, Russie, Guerre, Kyiv (ou Kiev), et Donbass.

La fonctionnalité de recherche de TikTok leur a suggéré des vidéos contenant des allégations fausses ou trompeuses dans les 20 premiers résultats.

Par exemple, la deuxième vidéo sur les 20 premières suggérées pour la recherche “Ukraine” réalisée par un analyste italien relayait la fausse allégation, également promue par le Kremlin, selon laquelle la guerre en Ukraine est le résultat d’un génocide commis dans le Donbass par les autorités ukrainiennes.

En cherchant “Donbass”, TikTok a placé dans le flux d’un analyste basé aux Etats-Unis une vidéo affirmant à tort que les néo-nazis sont “partout” en Ukraine, et que “le gouvernement ukrainien utilise des milices néo-nazies pour garder le contrôle de l’Ukraine”. Cette vidéo était le cinquième résultat proposé.

En plus des fausses informations promues dans les résultats de recherche sur TikTok, la plateforme a aussi suggéré des sources fiables aux analystes de NewsGuard, comme The Telegraph.

Les sources fiables sont en général “vérifiées” sur TikTok au travers d’une icône bleue, mais leurs contenus apparaissent tout de même aux côtés de vidéos relayant les récits de propagande du Kremlin dans les résultats de recherche sur la plateforme, sans aucune autre distinction entre les deux. En particulier, TikTok ne donne pas d’informations sur la fiabilité des sources d’actualité sur sa plateforme.

Par ailleurs, bien que TikTok ait bloqué la chaîne de propagande d’Etat russe RT sur sa plateforme, la rédactrice en chef de RT, Margarita Simonyan, bénéficie elle aussi d’une icône de vérification bleue sur son profil – qui avait généré 13,5 millions de vues sur 16 vidéos postées sur le conflit en une semaine, comme l’a rapporté l’Institute for Strategic Dialogue, un groupe de réflexion qui étudie l’extrémisme.

Ukraine TikTok
En réponse à la recherche “Donbass”, TikTok a placé dans le flux d’un analyste basé aux Etats-Unis une vidéo affirmant à tort que les néo-nazis sont “partout” en Ukraine, et que “le gouvernement ukrainien utilise des milices néo-nazies pour garder le contrôle de l’Ukraine”. (Capture d'écran par NewsGuard)

TikTok est toujours un terreau fertile à la désinformation dangereuse, à laquelle est exposé un public jeune

TikTok a connu une explosion de popularité depuis son lancement en 2017. Fin 2021, l’application a passé le cap du milliard d’utilisateurs actifs mensuels – contre 85 millions début 2018 – devenant la première application à passer ce cap après Facebook.

Selon Statista, un quart des utilisateurs de l’app aux États-Unis en 2021 avaient entre 10 et 19 ans – même si TikTok affirme que son utilisation est interdite aux moins de 13 ans. Environ 30% des utilisateurs français de TikTok ont moins de 18 ans,  ainsi qu’un tiers des utilisateurs italiens, et près d’un quart des utilisateurs allemands, comme l’a rapporté Bloomberg.

Même si TikTok appartient et est géré par ByteDance, une entreprise chinoise du numérique qui appartient partiellement au gouvernement chinois, l’app n’est pas disponible en Chine.  Les utilisateurs chinois ont accès à Douyin, un service quasi identique qui interdit les contenus “politiquement sensibles”, selon le Citizen Lab de l’Université de Toronto.

TikTok a aussi été accusé de censurer les contenus qui ne correspondent pas aux opinions du gouvernement chinois. Par exemple, en 2019, des documents internes à TikTok ont fuité et montré que la plateforme censurait les contenus relatifs aux manifestations de la place Tiananmen, à l’indépendance tibétaine, et à d’autres sujets sensibles.

Le Centre de suivi de la désinformation Russie-Ukraine de NewsGuard a par ailleurs mis en lumière la manière dont des sites d’information d’Etat chinois ont relayé sans recul l’allégation du Kremlin selon laquelle les Etats-Unis ont financé des laboratoires d’armes biologiques en Ukraine.

En raison du caractère ambigu de la position chinoise concernant l’invasion de l’Ukraine par la Russie, et étant donné que certains sites soutenus par l’Etat chinois répètent la propagande du Kremlin, il est à ce stade impossible de savoir si l’appartenance de la plateforme à une entreprise chinoise aura un impact sur les décisions prises par TikTok quant aux contenus sur la Russie et l’Ukraine dans les semaines et mois qui viennent.

Ukraine TikTok
Bien que TikTok ait bloqué la chaîne de propagande d’Etat russe RT sur sa plateforme, des images de la chaîne continuent d'y circuler. (Capture d'écran par NewsGuard)

Méthodologie :

Exercice consistant à faire défiler les vidéos :

Six analystes de NewsGuard basés en Suisse, en Italie, en Allemagne, aux Etats-Unis et au Royaume-Uni, ont supprimé et réinstallé l’app TikTok et créé de nouveaux comptes.

Sans suivre aucun compte, et sans effectuer aucune recherche, ils ont fait défiler les vidéos dans leur flux “For You”. Les analystes avaient pour instruction de regarder toutes les vidéos liées à la Russie et à l’Ukraine dans leur intégralité. Toutes les vidéos mentionnées dans la première section de cette expérience ont été proposées aux analystes par l’algorithme de recommandation de TikTok.

Exercice consistant à chercher des termes :

Cinq analystes de NewsGuard ont effectué des recherches avec les termes mentionnés dans la section recherche de cette expérience. Ces analystes ont supprimé et réinstallé l’application TikTok et créé de nouveaux comptes pour chaque recherche. Les résultats ont été relevés en faisant un enregistrement de l’écran pour chaque recherche.

Envoyez-nous vos questions ou suggestions.