Toxique TikTok : l’application très populaire de vidéos expose les jeunes à des infox sur les vaccins en quelques minutes seulement

“Il reçoit le va**in et meurt trois jours après !  Qu’en pensez-vous?”

Par Alex Cadier et Melissa Goldin
Chine Labbé, Virginia Padovese, et Katharina Stahlhofen ont aussi contribué à ce rapport.

TikTok expose ses jeunes utilisateurs – dès 9 ans – à des informations fausses et dangereuses sur le COVID-19 rapidement après leur connexion à la plateforme, sans aucun ou peu d’avertissements, comme le révèle une enquête de NewsGuard.

L’application de partage de vidéos courtes, qui est surtout populaire chez les jeunes de moins de 18 ans, a présenté des allégations fausses et trompeuses sur le COVID-19 en quelques minutes aux neuf enfants recrutés par NewsGuard pour cette enquête. Tous étaient supervisés par leurs parents ou d’autres proches adultes. Un déferlement de contenus toxiques – notamment des vidéos affirmant que les vaccins sont mortels et que le COVID-19 est un complot génocidaire – a pu être constaté dans leurs flux de vidéos, et ce bien que plusieurs enfants n’aient suivi aucun compte ni cherché aucune sorte d’informations sur l’app.  

En août et septembre 2021,  NewsGuard a demandé à neuf enfants âgés de 9 à 17 ans de créer de nouveaux comptes sur TikTok, avec pour objectif d’enregistrer le temps qu’il faut à la plateforme pour les exposer à des infox sur le COVID-19. Parmi les enfants, il y avait quatre filles et cinq garçons – un francophone, quatre anglophones, trois italophones, et un germanophone. Il leur a été demandé de rester 45 minutes sur la plateforme, et d’enregistrer leur session. Dans tous les cas, NewsGuard a reçu une autorisation parentale pour que les enfants participent.

Bien que TikTok dise interdire l’utilisation de sa plateforme par les enfants de moins de 13 ans,  plusieurs enfants plus jeunes que cela – dont un de 9 ans – ont facilement pu s’inscrire sans l’aide d’un adulte. 

Un engrenage dangereux : les infox se répandent rapidement et sans contrôle sur TikTok

L’analyse, par NewsGuard, des enregistrements des écrans des neuf participants, montre que dans les premières 35 minutes, tous sauf un ont été confrontés à des infox sur le COVID-19, et les deux tiers ont vu des infox sur les vaccins anti-COVID-19 en particulier. 

Quatre des participants avaient pour instruction d’avoir un “engagement minimal” avec la plateforme, c’est-à-dire de ne pas suivre d’autres comptes, de ne pas chercher des sujets en particulier, et de ne pas cliquer sur des hashtags. Malgré tout, ils ont rapidement été confrontés à de fausses informations sur le COVID-19. En d’autres termes, le fait que les utilisateurs n’aient pas activement cherché des contenus, notamment sur le COVID-19 ou la santé en général, et qu’ils n’aient suivi aucun compte, n’a pas empêché l’app de remplir d’elle-même leurs flux d’infox sur le COVID-19.

Les cinq autres participants, regroupés dans un groupe dit à “fort engagement”, ont vu un total de 22 vidéos contenant de fausses informations sur le COVID-19, tandis que les participants regroupés dans le premier groupe – à “engagement faible” – en ont vu un total de 10. Dans le groupe à “fort engagement”, l’enfant exposé au plus grand nombre de vidéos relayant des infox en a vu neuf, contre six pour celui qui en a vu le plus dans le groupe à “engagement faible”. (Le groupe à “fort engagement” avait un participant de plus que le groupe à “engagement faible”). 

NewsGuard a demandé à TikTok de commenter la raison pour laquelle la plateforme permet à de jeunes utilisateurs d’être exposés à des infox potentiellement dangereuses sur le COVID-19, quelques minutes après s’être connectés; la raison pour laquelle il est si facile pour de très jeunes utilisateurs de s’inscrire pour l’app; la raison pour laquelle il n’y a pas davantage d’avertissements sur les fausses allégations circulant sur la plateforme; la raison pour laquelle de nombreux posts satiriques ne sont pas labellisés comme tels;  et d’indiquer ce que TikTok fait pour limiter la diffusion de fausses informations (notamment sur le COVID-19) sur sa plateforme. 

En réponse, un porte-parole de TikTok a écrit dans un email du 20 septembre 2021 : “la sécurité et le bien-être de notre communauté est notre priorité, et nous travaillons sans relâche pour prendre les mesures nécessaires sur les contenus et les comptes qui diffusent de fausses informations,  tout en faisant la promotion de contenus faisant autorité sur le COVID-10, et en sensibilisant nos utilisateurs à l’éducation aux médias”.  

Ce porte-parole a aussi fourni des informations provenant de la page d’informations de TikTok sur le COVID-19, ainsi que de ses règles communautaires et de son rapport de transparence du premier trimestre 2021, et un billet de blog sur les expériences appropriées en fonction de l’âge sur TikTok. 

Parmi les fausses allégations que TikTok a présentées aux neuf jeunes participants à l’enquête de NewsGuard, figuraient :  

• Les vaccins contre le COVID-19 tuent.
• Les vaccins contre le COVID-19 sont “faux”.
• Les “dégâts” des vaccins contre le COVID-19 sont “cachés”. 
• L’hydroxychloroquine est un traitement efficace contre le COVID-19.
• Manger une orange brûlée et du sucre brun vous rendra le goût et l’odorat après avoir contracté le COVID-19.
• Les vaccins contre le COVID-19 contiennent de l’oxyde de graphène.
• 80 à 90% des patients malades du COVID-19 dans les hôpitaux israéliens sont complètement vaccinés .
• L’immunité naturelle contre le COVID-19 est meilleure que celle procurée par le vaccin. 
• Les personnes appartenant au groupe sanguin O ont moins de risques de contracter le COVID-19.
• Le COVID-19 est “le nom d’un plan international visant au contrôle et à la réduction des populations”. 

Le contenu, la quantité, et la sévérité des infox sur le COVID-19 auxquelles les participants ont été confrontés est varié, mais le danger lié à la présentation de ce type d’informations à des jeunes est, lui, toujours le même. 

Un participant italophone de 15 ans appartenant au groupe à “engagement faible”, a été confronté aux allégations d’un colporteur bien connu d’infox sur le COVID-19 en 25 minutes seulement. La vidéo qui est alors apparue dans son flux montrait Alessandro Meluzzi, identifié par NewsGuard comme un “super-propagateur” d’infox sur Twitter, affirmant que la plupart des vaccins anti-COVID-19 administrés en Italie sont “faux”.  

La première vidéo relative au COVID-19 visionnée par un participant anglophone de 12 ans appartenant au groupe à “fort engagement”, était une vidéo affirmant que le rappeur américain Biggie Smalls avait prédit la pandémie de COVID-19 en 1994. Cette vidéo a été présentée à ce garçon huit minutes seulement après sa connexion sur la plateforme. Deux minutes plus tard, une vidéo relayant un remède maison non prouvé pour retrouver le goût et l’odorat après avoir contracté le COVID-19 est apparue dans son flux de vidéos. Au cours des 35 minutes suivantes, il a vu trois autres vidéos faisant la promotion du même remède bidon.

Un autre participant, un garçon italophone de 13 ans appartenant au groupe à “engagement faible”, a d’abord été exposé à des vidéos satiriques sur le COVID-19, dont une vidéo affirmant que parmi les ingrédients des vaccins figurent “des saucisses, des olives et du fromage”. Toutefois, 23 minutes après sa connexion, une vidéo citant un homme mort trois jours après avoir été vacciné contre le COVID-19 est apparue dans son flux, avec la légende : “Il reçoit le va**in et meurt trois jours après !  Qu’en pensez-vous?” (Les astérisques utilisées  dans le mot “vaccin” avaient semble-t-il pour objectif de laisser entendre que le mot vaccin est, en lui-même, grossier).

Au cours des 20 minutes suivantes, ce participant a vu trois autres vidéos laissant entendre que les vaccins contre le COVID-19 sont dangereux ou mortels. Par exemple, une vidéo sur une femme souffrant de problèmes de santé après avoir été vaccinée apparaissait avec la légende “Problèmes cardiaques après le va**in. Qu’en pensez-vous?” Une autre vidéo montrait des reportages d’actualité sur des personnes prétendument mortes après avoir été vaccinées contre le COVID-19, sans contexte, laissant ainsi entendre que le vaccin les aurait tuées. 

Un troisième participant, un garçon francophone de 13 ans appartenant au groupe à “fort engagement”, s’est vu montrer une vidéo satirique sur le COVID-19 quelques 17 secondes seulement après s’être connecté. Vingt minutes plus tard, une vidéo mettant en garde contre un “nouvelle (sic) ordre mondial” est apparue dans son flux. Elle affirmait que la rappeuse française Keny Arkana “avait tout compris”, 10 ans auparavant, lorsqu’elle chantait que les gouvernements étaient en train de “prépare(r) le terreau hors pair du plus grand génocide (…) juste pour businesser un tas de vaccins empoisonnés”.

Après une demi-heure sur TikTok, ce jeune adolescent était exposé quasi exclusivement à des infox, notamment des contenus anti-vax et des théories du complot anti-gouvernement.  

Interrogé par la suite sur son expérience sur TikTok, il a déclaré : “Après avoir été sur TikTok, je pense encore plus qu’avant que c’est une perte de temps complète, et que c’est plein de fake news et de théories sur les vaccins qui peuvent nuire aux gens”.

D’autres participants ont décrit leur état d’esprit avant l’exercice comme “calme”, “curieux”, “normal”, “dans l’attente”, “inquiet” et “intéressé”. Après l’exercice, ils se sont dits : “surpris”, “pris de vertiges”, “fatigué”, “satisfait”, et “prudent”.

TikTok : une croissance rapide soutenue par les jeunes 

En mars 2021, un quart des 130 millions d’utilisateurs mensuels actifs de TikTok aux États-Unis étaient âgés de 10 à 19 ans, et près de la moitié du nombre total d’utilisateurs avaient moins de 30 ans, selon les données de la société Statista. Au Royaume-Uni, d’après Statista, les personnes de moins de 25 ans représentent 24% de tous les utilisateurs. Par ailleurs, environ 30% des utilisateurs français de TikTok ont moins de 18 ans,  ainsi qu’un tiers des utilisateurs italiens, et presque un quart des utilisateurs allemands, comme l’a rapporté Bloomberg.

En termes de popularité, TikTok a commencé à éclipser d’autres plateformes bien connues de réseaux sociaux. TikTok a ainsi dépassé YouTube en ce qui concerne le temps moyen passé à regarder des vidéos par les utilisateurs Android aux États-Unis et au Royaume-Uni, selon la société App Annie, qui analyse les données mobiles. TikTok a aussi été l’app la plus téléchargée dans le monde en 2020, selon App Annie. 

TikTok appartient à ByteDance, une entreprise chinoise du numérique qui appartient partiellement au gouvernement chinois.  Les contenus présentés sur TikTok aux utilisateurs chinois sont strictement contrôlés, et ne sont pas les mêmes que les contenus que TikTok présente aux enfants occidentaux qui ont participé à l’étude de NewsGuard.

La propagation de fausses informations sur les réseaux sociaux, en particulier auprès des enfants, inquiète de plus en plus les experts qui luttent contre le COVID-19. A tel point que l’Organisation mondiale de la Santé (OMS), une institution avec laquelle NewsGuard collabore dans le suivi de la mésinformation sur le COVID-19 sur les réseaux sociaux, lance une série de campagnes dans les semaines à venir avec pour objectif de fournir aux jeunes des informations justes et des ressources pour développer leur esprit critique. 

“Les scientifiques travaillent d’arrache-pied pour fournir au public des données scientifiques justes et claires, pour aider les gens à prendre des décisions informées sur le COVID-19, la vaccination, et les mesures de distanciation sociale quand c’est nécessaire”, explique à NewsGuard John Wherry, directeur de l’Institut pour l’immunologie de la  Perelman School of Medicine, à l’Université de Pennsylvanie (Etats-Unis). “Mais la dissémination des infox est beaucoup plus rapide, ce qui rend encore plus compliquée la mission de mettre un terme à la pandémie. Par ailleurs, ce genre de mésinformation sape la confiance dans la science, et nous en avons vraiment besoin en ce moment”. 

Outre les contenus clairement faux, NewsGuard a identifié neuf vidéos satiriques sur le COVID-19 visionnées par les participants à cette enquête. Autant de vidéos qui pourraient être mal interprétées. En effet, seules quatre de ces neuf vidéos étaient labellisées comme satiriques. Combinées avec les infox présentées aux utilisateurs, ces vidéos peuvent contribuer à promouvoir de faux récits sur les dangers des vaccins, étant donné que dans de nombreux cas, il peut être difficile de dire si une vidéo non labellisée comme telle est bien satirique. 

Ces vidéos satiriques allaient d’une chanson affirmant que les vaccins contre le COVID-19 font perdre les cheveux (labellisée “humour” via un petit hashtag) à une vidéo non labellisée montrant une personne non vaccinée avec une batte de baseball, combattant des zombies, avec le titre : “Moi en 2040, toujours pas vacciné…”

Une autre vidéo satirique montrait une femme disant, en anglais : “Avez-vous entendu que le gouvernement mets des puces (chips en anglais) dans les bras des gens quand ils sont vaccinés? Mon dieu, j’espère avoir des Doritos”.  Cette vidéo contenait les hashtags “#covid #government #lockdown #adulting #unsupervised (sans surveillance)”. Aucune indication claire ne montrait que ce contenu avait une visée humoristique. (La fausse allégation selon laquelle les vaccins contiennent des puces  pour surveiller les gens a été largement répandue sur le web et les réseaux sociaux).  

Méthodologie : simuler une activité typique sur TikTok

L’enquête de NewsGuard a encouragé une utilisation “normale” de TikTok, et non pas la recherche active d’infox. Les neuf participants ont été répartis dans deux groupes (Groupe A et Groupe B) et il leur a été demandé de créer un nouveau compte sur l’app, sans suivre d’autres utilisateurs, et sans donner aucune information à l’app sur eux-mêmes, hormis une adresse email générique créée spécifiquement pour l’exercice.  

Les conditions d’utilisation de TikTok indiquent que la plateforme est “uniquement destiné(e) aux personnes de 13 ans et plus”. Toutefois, trois participants de moins de 13 ans (dont un de neuf ans), ont pu créer des comptes sur TikTok en entrant une fausse date de naissance au moment de s’inscrire sur l’app. (Toujours avec l’accord d’un parent). 

Un post de TikTok datant de mai 2021  explique que la société “entraîne son équipe de modération à reconnaître les signes montrant qu’un compte peut être utilisé par un enfant de moins de 13 ans. Nous utilisons aussi d’autres informations fournies par nos utilisateurs, comme des mots-clés, et des signalements sur l’app venant de notre communauté, pour nous aider à faire remonter les comptes d’utilisateurs potentiellement trop jeunes. Quand notre équipe sécurité pense qu’un compte peut appartenir à une personne sous l’âge requis, le compte est suspendu”. 

Les jeunes du Groupe A, le groupe à “fort engagement”, avaient reçu des instructions les encourageant à regarder les vidéos sur les vaccins anti-COVID-19 ou celles sur le COVID-19 quand elles apparaissaient dans leur flux, sans toutefois les chercher en utilisant la barre de recherche de TikTok, et sans suivre aucun compte. Ils avaient reçu pour instruction de regarder les vidéos comme ils le feraient normalement, mais de faire défiler vers la vidéo suivante après une ou deux secondes si la vidéo ne traitait pas de santé. Si une vidéo était liée à la santé de quelque manière que ce soit, les participants devaient la regarder jusqu’au bout, et si elle parlait spécifiquement du COVID-19, ils devaient la regarder jusqu’au bout et jeter un oeil sur le profil du créateur avant de retourner sur le flux de vidéos principal de TikTok. Si la vidéo contenait de fausses informations sur le virus, ils devaient aussi “l’aimer”.  Les participants pouvaient aussi chercher de fausses informations sur le COVID-19 en cliquant sur des hashtags, ce qui représente une utilisation assez normale de TikTok pour tout utilisateur cherchant des contenus sur la santé. 

Les instructions du Groupe B étaient similaires, mais avec moins d’engagement avec la plateforme.  Si une vidéo ne parlait pas de santé, les participants de ce groupe attendaient plus longtemps (trois à cinq secondes) avant de faire défiler les contenus vers la vidéo suivante sur le flux principal de vidéos. Ils avaient par ailleurs pour instruction de ne pas “aimer” les vidéos, et de ne pas cliquer sur les hashtags. Tous les participants ont enregistré leurs écrans durant leur utilisation de TikTok, créant une vidéo qui a ainsi pu être analysée par NewsGuard.

De Musical.ly à TikTok :  Comment en est-on arrivé là? 

La version actuelle de TikTok est née de la fusion,  en 2018, de deux applications. Musical.ly, une application presque identique à l’actuelle TikTok, a été créée en 2014 par les entrepreneurs chinois Alex Zhu et Luyu Yang. La société a été acquise pour environ 1 milliard de dollars par ByteDance en novembre 2017.

ByteDance possédait déjà une application similaire (également appelée TikTok), lancée en 2016 et appelée Douyin en Chine. En août 2018, ByteDance a fusionné Musical.ly avec sa version de TikTok, et a gardé ce nom. La version chinoise de TikTok s’appelle toujours Douyin, et son application fonctionne comme une plateforme à part qui, en raison des restrictions sur internet en Chine, ne peut pas interagir avec l’application TikTok disponible dans la plupart des autres pays. 

TikTok était à l’origine connue pour les vidéos de playback, qui sont encore nombreuses sur l’application. Toutefois, la diversité des contenus semble aujourd’hui sans limites. Ses vidéos, dont la plupart contiennent de la musique, même quand il ne s’agit pas de clips de playback, forment un univers déroutant allant de l’étrange au sérieux  — et, comme expliqué ci-dessus, du trompeur au faux.

Les garde-fous de TikTok

TikTok indique que ses utilisateurs doivent avoir au moins 13 ans pour utiliser la plateforme. Toutefois, comme noté plus haut, Il est facile de contourner cette règle en fournissant une fausse date de naissance. 

Parmi les vidéos contenant de fausses informations visionnées par les participants à l’enquête de NewsGuard, certaines affichaient un encart “En savoir plus sur les vaccins contre le COVID-19” au bas de l’écran. Celui-ci renvoyait vers des pages web sur les vaccins tenues par des autorités de santé locales. Toutefois, au-delà de ce lien, et hormis dans un seul cas, TikTok ne donnait aucun avertissement, mise en contexte, fact-check ou information fiable, à côté des fausses allégations.

Pour un participant germanophone de 15 ans, un encart est apparu disant : “Attention : cette vidéo a été signalée pour un contenu non vérifié” sur trois vidéos contenant des infox sur le COVID-19. Mais malgré cet avertissement, les vidéos en question étaient autorisées sur l’application. Aucun avertissement de ce type n’est apparu dans les flux des autres participants.

Les participants ont aussi été exposés à quelques informations et vidéos fiables de professionnels de la santé, mais aucune distinction n’était faite entre ces vidéos et celles contenant de fausses informations.

TikTok indique qu’elle interdit “tout contenu faux ou trompeur, dont la désinformation liée à la COVID-19 et aux vaccins et, plus généralement, la désinformation anti-vaccin”, selon sa page d’informations sur le COVID-19.

Dans son rapport de transparence du premier trimestre 2021, TikTok a indiqué qu’elle “supprim(ait) ou limit(ait) les informations trompeuses dès qu’elles (étaient) identifiées”, et elle a indiqué s’associer “avec 11 organisations accréditées par l’International Fact-Checking Network”. TikTok publie régulièrement des rapports de transparence contenant des informations sur les contenus qu’elle a supprimés pour violation de ses règles communautaires ou de ses conditions d’utilisation. Le dernier rapport de transparence de TikTok indique également que “si les enquêtes confirment qu’un contenu est faux, celui-ci est retiré de la plateforme”, et fait référence à une fonctionnalité introduite par l’application au début de 2021 qui, selon elle, vise “à réduire la diffusion de contenus non fondés”. 

TikTok indique dans ce rapport qu’elle a supprimé plus de 30.000 vidéos contenant de fausses informations sur le COVID-19 pendant le premier trimestre de 2021. Cependant, ces efforts n’ont pas empêché la désinformation sur le COVID-19 de proliférer sur TikTok, et, comme indiqué plus haut, un seul des participants à l’enquête de NewsGuard a été averti quand il était exposé à des informations suspectes.

Un précédent dangereux 

Internet ne manquait pas d’informations sur la santé avant que TikTok commence à gagner en popularité,  et jusqu’à récemment, l’application n’était pas surveillée d’aussi près que des plateformes plus anciennes comme Facebook et Twitter.  

Aucune étude majeure n’a évalué l’impact de TikTok sur les attitudes et les croyances des jeunes, mais une étude espagnole d’août 2020 publiée dans Social Media + Society s’est intéressée à l’utilisation par les jeunes de la messagerie instantanée WhatsApp. Cette étude a constaté que les jeunes sont “plus enclins à partager un contenu s’il est en lien avec leurs intérêts, peu importe sa véracité”, et que “l’apparence d’information d’actualité garantit que, quelle que soit la nature du contenu, cette information ait plus de chances d’être partagée parmi les jeunes”. 

Aujourd’hui, c’est aux utilisateurs de TikTok eux-mêmes de faire la différence entre les contenus fidèles à la réalité, et les autres – et interagir avec des contenus faux les expose souvent à davantage de contenus faux. Comme le souligne un participant italophone de 13 ans, “après un moment, TikTok ne propose que des vidéos sur les vaccins, et très souvent contre les vaccins”. 

Le fait que les utilisateurs puissent rapidement être emportés par un tourbillon d’infox, souvent sans le vouloir, rend toujours plus difficile la distinction des informations fiables sur la plateforme. Comme l’a noté un participant italophone de 14 ans : “Après avoir cliqué sur un hashtag lié au COVID-19, j’ai été submergé de contenus sur le COVID-19 qui étaient souvent faux ou trompeurs”. 

Credit pour l’image principale : Photo by Solen Feyissa on Unsplash