Bienvenue dans le Misinformation Monitor, une newsletter qui couvre la mésinformation, la désinformation, et les fausses informations en ligne avec des données exclusives en provenance de neuf pays. Inscrivez-vous ici pour recevoir cette newsletter par email, et téléchargez l’extension de navigateur NewsGuard.

Comment TikTok est devenu un vivier d’infox sur les marques

L’entreprise américaine de grande distribution Target est “satanique”, les pâtes Barilla sont “fabriquées avec de la farine d’insectes” : des vidéos sur TikTok relayant des affirmations fausses et trompeuses au sujet de grandes marques ont été visionnées 57 millions de fois, selon une analyse de NewsGuard.

Par Jack Brewster et Macrina Wang | Publié le 25 juillet 2023

Avec la contribution de Natalie Adams, Sara Badilini, Natalie Huet, Giulia Pozzi, Marie Richter, Sofia Rubinson et Roberta Schmid

Des photos de statues démoniaques perchées sur les étagères d’un magasin défilent sur la vidéo TikTok, avec, en fond sonore, une musique inquiétante. “Apparemment, Hobby Lobby a une tonne de statues (sataniques) et démoniaques dans ses rayons en ce moment, ce qui est vraiment déroutant car Hobby Lobby est une entreprise très chrétienne”, commente la narratrice anonyme de la vidéo.

Cette vidéo était le premier résultat dans la liste de vidéos apparues lorsqu’un analyste de NewsGuard a cherché le terme “Hobby Lobby” sur TikTok. Contrairement à ce qu’affirme la narratrice, ce magasin dédié à l’art, à l’artisanat et aux loisirs créatifs, ne vend pas de statues démoniaques, et les photos montrées dans la vidéo ont été générées par de l’intelligence artificielle.

Hobby Lobby fait partie des grandes marques victimes de la mésinformation galopante sur TikTok, d’après une nouvelle analyse de NewsGuard. Dans une étude menée du 7 au 13 juillet 2023, NewsGuard a analysé les résultats de recherche de vidéos TikTok portant sur neuf grandes marques. Ces marques — le brasseur américain Anheuser-Busch, Balenciaga (marque de mode), Barilla (alimentation), Bud Light (bière), Chick-fil-A (chaîne de restauration rapide américaine), Heineken (bière), Hobby Lobby (chaîne de magasins d’art), Kohl’s (grande distribution) et Target (grande distribution) — ont été retenues pour cette analyse parce qu’elles sont récemment devenues la cible de critiques d’ordre politique ou de boycotts.

NewsGuard a constaté que les vidéos diffusant des infox sur ces marques avaient été visionnées 57 millions de fois au total. Près de la moitié de ces vues portaient sur des vidéos utilisant du contenu généré par l’IA, ou altéré d’une autre manière pour relayer des informations erronées. 

Au total, NewsGuard a analysé 520 vidéos TikTok et a constaté que 14% d’entre elles (73 vidéos) contenaient des affirmations fausses, trompeuses ou infondées visant les marques citées. Ces résultats proviennent de l’analyse des 20 premiers résultats de 26 recherches de mots clés relatifs à des marques basées aux États-Unis et en Europe.

L’analyse de NewsGuard visait à reproduire une recherche typique d’informations sur des marques par un utilisateur de TikTok. NewsGuard a trouvé des informations erronées à la fois lors de recherches simples et neutres, telles que “Target”, et lors de recherches suggérées par TikTok, qui étaient souvent orientées. Par exemple, lorsqu’un analyste de NewsGuard a écrit “Target” dans la barre de recherche, “Target boycott 2023” était suggéré comme terme de recherche. Lorsqu’un analyste de NewsGuard a tapé “Anheuser-Busch” dans la barre de recherche, TikTok lui a suggéré la recherche “le PDG d’Anheuser-Busch est un agent de la CIA”.

Des études montrent que les jeunes se tournent de plus en plus vers TikTok — au lieu de Google — pour rechercher des informations. En septembre 2022, une analyse similaire menée par NewsGuard a révélé que pour un échantillon de recherches sur TikTok portant sur des sujets d’actualité importants, près de 20% des vidéos présentées dans les résultats de recherche contenaient de fausses informations. 

Les consignes communautaires de TikTok indiquent que la plateforme interdit “les contenus inexacts, trompeurs ou faux qui sont susceptibles d’entraîner un préjudice important aux personnes ou à la société”. Toutefois, ces consignes disent que cette politique “n’inclut pas le préjudice commercial et les atteintes à la réputation”. Interrogé au sujet des observations de NewsGuard, une porte-parole de Tiktok a dit que ces consignes correspondaient aux standards de l’industrie en ce qui concerne la mésinformation. Cette porte-parole a ajouté que TikTok avait retiré trois des 18 vidéos partagées par NewsGuard. (En réalité, NewsGuard a constaté que deux vidéos seulement avaient été retirées). Elle a demandé à NewsGuard de ne pas être nommée, et que les réponses de la plateforme soient paraphrasées. 

NewsGuard a envoyé des emails aux entreprises derrière les neuf marques mentionnées dans ce rapport, cherchant à savoir si elles étaient au courant de ces infox diffusées au sujet de leur marque sur TikTok. Aucune de ces marques n’a répondu. 

#BoycottTarget, #BoycottKohls : quand la mésinformation sur TikTok nuit aux marques

NewsGuard a constaté que sur TikTok, des polémiques publiques autour des actions de grandes entreprises peuvent rapidement devenir toxiques et propager des informations erronées au sujet de ces marques. 

Par exemple, le deuxième résultat apparu lors d’une recherche pour “Target Boycott 2023” — des termes de recherche suggérés à un analyste de NewsGuard ayant simplement tapé “Target” — montrait une femme affirmant que Target vendait des maillots de bain censés permettre aux enfants LGBTQ+ de dissimuler facilement leurs parties génitales. “Ils donnent ça à vos enfants”, disait la femme, en brandissant ce qu’elle présentait comme un maillot de bain ayant cette caractéristique. “Si cela ne vous donne pas une raison de boycotter Target, je ne sais pas ce qu’il vous faut”. La vidéo, qui avait été visionnée 225.900 fois en date du 19 juillet 2023, figurait parmi trois vidéos relayant la même affirmation ayant été visionnées par des analystes de NewsGuard au cours de cette étude.

En mai 2023, des conservateurs américains ont appelé au boycott de Target en raison de sa collection “Pride”, qui comprenait des vêtements pour enfants sur le thème LGBTQ+. Cependant, le détaillant ne vend pas de maillots de bain pour enfants les aidant à dissimuler leurs organes génitaux, et ne l’a jamais fait, comme l’a indiqué un porte-parole de l’entreprise, ainsi qu’un passage en revue par NewsGuard des vêtements proposés sur le site du magasin. Target a déjà vendu des maillots de bain dits “tuck-friendly” — qui comportent une épaisseur de tissu supplémentaire pour masquer les parties intimes masculines — mais ils n’étaient disponibles qu’en taille adulte, et n’étaient pas destinés aux enfants.

Au cours de huit recherches par mot-clé portant sur la marque de bière Bud Light et son propriétaire, la brasserie américaine Anheuser-Busch, NewsGuard s’est vu proposer 20 vidéos contenant des affirmations fausses, trompeuses et infondées au sujet de la bière et du groupe qui la détient. En avril 2023, des conservateurs ont appelé au boycott de Bud Light après que la bière a été promue dans une campagne sur les réseaux sociaux par l’influenceur transgenre Dylan Mulvaney.

Lorsque NewsGuard a cherché “Anheuser-Busch” sur TikTok, l’algorithme de la plateforme a suggéré, entre autres, la phrase “le PDG d’Anheuser-Busch est un agent de la CIA”, ce qui a fait remonter huit vidéos affirmant que Brendan Whitworth, le directeur général d’Anheuser-Busch, est un agent de la CIA. En réalité, si Brendan Whitworth a bien travaillé pour la CIA en tant qu’agent de renseignement, il a quitté l’agence en 2006, d’après le site de vérification des faits Verify This.

Brendan Whitworth a aussi fait l’objet d’autres théories du complot. Une autre vidéo TikTok présentée à NewsGuard suggérait que Brendan Whitworth avait pris la décision de faire figurer Dylan Mulvaney dans une publicité parce qu’il voulait contrer les préjugés contre les personnes transgenres à la suite de la fusillade qui a fait six morts le 27 mars 2023 dans une école primaire de Nashville (Tennessee, États-Unis). Le suspect de la fusillade de Nashville, Aiden Hale, tué par la police, était un homme transgenre. La légende de la vidéo affirmait : “Voici Brendan Whitworth, Anheuser Busch… 12 (millions) de salaire annuel, ancien membre de la CIA qui met une personne transgenre sur la bière américaine juste après qu’un transgenre a tué des enfants dans une école chrétienne de Nashvilke (sic)… C’est bon, vous ouvrez les yeux ?” Au 19 juillet 2023, cette vidéo avait été visionnée 61.600 fois. 

En réalité, Bud Light a pris la décision de s’associer à Dylan Mulvaney avant la tragédie de Nashville. Le premier message sponsorisé par Bud Light a été publié sur le compte Instagram de Dylan Mulvaney en février.

“N’hésitez pas à tomber dans le panneau” : quand l’IA et d’autres images manipulées trompent les utilisateurs de TikTok au sujet des marques

Sept des 73 vidéos fausses ou trompeuses identifiées par NewsGuard comprenaient des images et des clips altérés numériquement — dont trois qui utilisaient des images en apparence générées par l’intelligence artificielle — pour présenter les marques sous un jour négatif. Au total, ces vidéos avaient été visionnées plus de 26 millions de fois à la date du 19 juillet 2023 (une vidéo est apparue deux fois). Dans certains cas, les vidéos ont incité des dizaines d’utilisateurs à poster des commentaires appelant au boycott des entreprises citées.

Outre la vidéo sur Hobby Lobby mentionnée précédemment, deux vidéos TikTok présentant des images générées par l’IA affirmaient que Target vendait des vêtements sataniques. “Regardez les images que je vais vous montrer de ce que Target réserve à nos enfants et à chacun d’entre vous”, déclarait ainsi l’influenceur TikTok “King Joshua”, qui se décrit comme chrétien, dans une vidéo du 12 juin 2023, avant de montrer une série d’images représentant un magasin au décor satanique et un homme portant des vêtements sur le même thème.

La vidéo, proposée comme neuvième résultat de recherche pour le terme “Target”, a été visionnée plus d’un million de fois, et de nombreux utilisateurs ont déclaré dans les commentaires qu’ils ne feraient plus leurs achats chez Target. “Boycott permanent cette fois”, a écrit l’un deux. “Qui est partant ? Ne jouez pas avec nos enfants”.

En réalité, Target ne propose pas les vêtements sataniques montrés par “King Joshua”. Les photos générées par l’IA semblent provenir d’une utilisatrice de Facebook nommée “The Pumpkin Empress”, qui a publié ces vidéos sur sa page en mai 2023 avec la légende “Photos générées par l’IA : par votre humble servante, n’hésitez pas à tomber dans le panneau”.

Une autre vidéo altérée numériquement et visionnée par NewsGuard prétendait que Bud Light avait “riposté” aux critiques formulées au sujet de son partenariat avec Dylan Mulvaney en achetant une publicité sur un large panneau d’affichage sur lequel on pouvait lire “lol PLEURNICHARDS”. L’utilisateur qui a posté la vidéo — qui se fait appeler “Jess in Miami” sur TikTok — a suggéré que le panneau d’affichage prouvait que Bud Light avait orchestré la controverse pour faire parler de la marque. Au 19 juillet 2023, la vidéo avait cumulé 1,4 million de vues. (Après que NewsGuard a demandé un commentaire à TikTok, la vidéo a été retirée).

En réalité, Bud Light n’a pas traité ses détracteurs de “pleurnichards” et le panneau d’affichage, situé à Toronto, au Canada, diffusait une publicité pour une autre société, le service de streaming Disney Plus. “Notre panneau d’affichage a été altéré dans les images qui ont circulé sur les réseaux sociaux”, a déclaré Toby Sturek, cadre chez Branded Cities, la société de publicité propriétaire du panneau d’affichage, à l’Associated Press en avril 2023.

Les consignes communautaires de TikTok stipulent que “les médias synthétiques ou manipulés exposant les scènes réalistes doivent être manifestement dénoncés. Pour cela, vous pouvez utiliser un sticker ou une légende, notamment ‘synthétique’, ‘faux’, ‘irréel’ ou ‘modifié’.” Cependant, aucune des vidéos altérées que NewsGuard a identifiées sur TikTok ne contenait de légende ou d’autocollant indiquant qu’elles avaient été modifiées. Une vidéo de Hobby Lobby, évoquée au début de ce rapport, comportait un filigrane d’un groupe Reddit appelé “Midjourney” partageant des images générées par l’IA. (Midjourney est aussi le nom d’un programme d’images générées par IA). La porte-parole de TikTok a indiqué à NewsGuard que le filigrane était conforme au standard de la plateforme relatif à l’exigence de transparence sur les images générées par IA.

“Balenciaga satanisme”, “Barilla insectes” : quand le moteur de recherche de TikTok entraîne les utilisateurs dans le tourbillon des infox

Comme indiqué précédemment, NewsGuard a constaté que le moteur de recherche de TikTok, qui suggère des mots-clés aux utilisateurs au fur et à mesure qu’ils entrent leurs termes de recherche, les pousse vers des théories du complot et de fausses informations concernant les marques. 

Par exemple, lorsqu’un analyste de NewsGuard a tapé “Heineken” dans la barre de recherche de TikTok le 13 juillet 2023, les termes “Heineken complot”, “Heineken androchrome” (sic) et “Heineken bill gates” sont apparus comme recherches suggérées.

Ces mots-clés ont ainsi fait remonter 10 vidéos relayant des théories du complot sans fondement au sujet de Bill Gates et du brasseur de bière néerlandais dans lequel il a acquis une participation de 883 millions d’euros, notamment une vidéo affirmant que le milliardaire de la technologie utilise Heineken pour “injecter des substances” dans la nourriture, l’eau et les animaux, et une autre suggérant que la participation financière de Bill Gates dans Heineken fait partie d’un plan visant à réduire la population mondiale. La recherche suggérée “Heineken androchrome” (sic) renvoyait quant à elle vers deux vidéos faisant la promotion d’une théorie du complot QAnon selon laquelle Bill Gates transporterait de l’adrénochrome, un composé produit naturellement par les glandes surrénales, dans des fûts de Heineken. Après que NewsGuard a demandé un commentaire, TikTok a retiré l’une des deux vidéos relayant la théorie du complot sur l’adrénochrome.

Les partisans de QAnon affirment que les élites prélèvent l’adrénochrome dans le sang d’enfants maltraités et l’utilisent pour rester jeunes et en bonne santé. Rien ne prouve que ce composé ait des effets rajeunissants ou des propriétés psychédéliques, d’après un rapport du McGill Office for Science & Society, ni que Heineken le transporte.

De même, lorsqu’un analyste de NewsGuard basé en Italie a tapé “Barilla” sur TikTok le 11 juillet 2023, la première phrase de recherche suggérée était “barilla insetti”, ou “Barilla insectes” en italien. En cliquant sur cette phrase, l’analyse s’est vu proposer quatre vidéos avançant l’affirmation infondée selon laquelle les pâtes Barilla seraient fabriquées avec des insectes. “Désormais c’est officiel, les pâtes Barilla sont fabriquées avec de la farine d’insectes”, affirmait ainsi une vidéo en italien qui avait été visionnée plus de 353.000 fois.

Ce récit semble avoir commencé à circuler en octobre 2022, après que la Barilla Foundation, qui est liée à l’entreprise de pâtes, et promeut la recherche sur le développement durable, a tweeté une vidéo dans laquelle un comédien italien parle de la valeur nutritionnelle de la nourriture faite à base d’insectes. À la suite d’un tollé sur les réseaux sociaux, le 2 novembre 2022, la Barilla Foundation a publié un communiqué de presse déclarant : “Le groupe Barilla n’a jamais annoncé le lancement de produits fabriqués à base de farine d’insectes, et n’a aucune intention de développer son activité dans cette direction”. NewsGuard a examiné la liste des ingrédients des produits Barilla et confirmé que l’entreprise n’utilise pas de farine d’insectes dans ses pâtes. 

La réponse de TikTok

NewsGuard a envoyé plusieurs questions à TikTok, certaines portant sur le fonctionnement général de son outil de recherche, et d’autres sur des sujets plus spécifiques, notamment sur la manière dont la plateforme prévoit de lutter contre la mésinformation générée par l’IA. TikTok a fourni des informations générales sur la manière dont la plateforme gère la mésinformation, mais la porte-parole n’a pas directement répondu à plusieurs des questions de NewsGuard, notamment: 

• L’algorithme du moteur de recherche de TikTok est-il programmé pour éviter d’abreuver les utilisateurs en mésinformation? Si oui, comment? 
• Pourquoi est-ce que la fonction de recherche de TikTok pousse les utilisateurs à chercher du contenu faux ou trompeur?
• Qui décide de la manière dont l’algorithme du moteur de recherche de TikTok envoie des résultats à ses utilisateurs? 

Méthodologie : 

En juillet 2023, trois analystes de NewsGuard basés aux États-Unis, deux en Italie, et un basé en France, ont effectué 26 recherches sur TikTok en utilisant les termes énumérés ci-dessous. Tous ces termes de recherche ont été suggérés par l’algorithme de TikTok lorsque NewsGuard a tapé “Target”, “Chick-fil-A”, “Bud Light”, “Hobby Lobby”, “Kohl’s”, “Anheuser-Busch”, “Balenciaga”, “Barilla” et “Heineken”. Seuls les termes de recherche suggérés se rapportant à des sujets d’actualité ont été sélectionnés.

NewsGuard a constaté que la saisie de “Bud Light” sur TikTok ne générait aucune recherche suggérée, mais que de légères variantes de “Bud Light” — telles que “Budlight”, “Buds light” et “Bed light” — en donnaient. NewsGuard a donc analysé les recherches suggérées pour ces variantes de “Bud Light”. La porte-parole de TikTok a dit à NewsGuard que cela était dû à une erreur qui avait interrompu les recherches pour “Bud Light”, et que cette erreur avait depuis été résolue. Toutefois, quand NewsGuard a tapé “Bud Light” dans la barre de recherche de TikTok le 24 juillet 2023, la plateforme n’a pas suggéré de recherche. 

Afin de s’assurer que les résultats n’étaient pas influencés par l’activité antérieure des analystes sur TikTok, les analystes de NewsGuard ont supprimé et réinstallé l’application et créé de nouveaux comptes pour chacune de leurs recherches. Les analystes ont effectué des captures d’écran de chaque recherche et archivé les vidéos.

Les termes de recherche, avec le nombre de vidéos sur 20 contenant des informations manifestement fausses ou trompeuses qui sont apparues dans les premiers résultats de recherche :

• Target (1/20)
• Target controversy (5/20)
• Target boycott 2023 (4/20)
• Chick Fil A (0/20)
• Chick Fil A lgbtq (2/20)
• Chick Fil A woke (3/20)
• Bud light (0/20)
• Budlight boycotted (1/20)
• Buds light controversy (4/20)
• Bed light Dylan mulvaney (2/20)
• Hobby Lobby (2/20)
• Hobby Lobby controversy (1/20)
• Kohls (0/20)
• Kohls boycott 2023 (3/20)
• Anheuser-Busch (3/20)
• Anheuser-Busch-conspiracy (1/20)
• Anheuser-Busch trans Dylan mulvaney (2/20)
• Anheuser-Busch ceo is a cia operative (9/20)
• Balenciaga (2/20)
• Balenciaga satanism (12/20)
• Barilla (1/20)
• Barilla insetti (4/20)
• Heineken (0/20)
• Heineken conspiracy (5/20)
• Heineken androchrome (2/20)
• Heineken bill gates (4/20)

Correction : une version précédente de ce rapport disait à tort que le boycott de Bud Light a commencé en mars 2023. En réalité, il a commencé en avril. NewsGuard regrette cette erreur.