Der Misinformation Monitor von NewsGuard liefert regelmäßig Neuigkeiten zum Thema Falschinformationen im Netz mit exklusiven Daten aus neun Ländern. Abonnieren Sie den Newsletter oder testen Sie NewsGuard.

Wie TikTok zu einer Brutstätte für Markenfehlinformation wurde

Target ist “satanisch”, Hobby Lobby verkauft “dämonische” Waren, Barilla-Nudeln werden “mit Insektenmehl hergestellt”: Videos auf TikTok mit solchen falschen und irreführenden Behauptungen über prominente Marken wurden laut einer Analyse von NewsGuard 57 Millionen Mal aufgerufen.

Von Jack Brewster und Macrina Wang | Veröffentlicht am 25. Juli 2023

Mit Beiträgen von Natalie Adams, Sara Badilini, Natalie Huet, Giulia Pozzi, Marie Richter, Sofia Rubinson und Roberta Schmid

In einem TikTok-Video blitzen Fotos von dämonischen Statuen in den Regalen auf, während im Hintergrund unheimliche Musik läuft. “Offensichtlich hat Hobby Lobby gerade einen Haufen Baphomet [satanisch] und dämonenähnliche Statuen in den Regalen, was wirklich verwirrend ist, weil Hobby Lobby ein super christliches Unternehmen ist”, sagt die unbenannte Erzählerin des Videos.

Das Video ist das erste Ergebnis in der Liste, die einem NewsGuard-Analysten auf TikTok angezeigt wurde, der nach “Hobby Lobby” suchte. Im Gegensatz zu den Behauptungen des Videos verkauft das US-amerikanische Kunst- und Handwerksunternehmen keine dämonischen Statuen, und die im Video gezeigten Fotos wurden von KI generiert.

Hobby Lobby gehört zu den zahlreichen großen Marken, die weit verbreiteten Fehlinformationen auf TikTok zum Opfer gefallen sind, wie eine Analyse von NewsGuard ergab. In dem Zeitraum vom 7. bis 13. Juli 2023 untersuchte NewsGuard die TikTok-Video-Suchergebnisse von neun großen Marken: Anheuser-Busch, Balenciaga, Barilla, Bud Light, Chick-fil-A, Heineken, Hobby Lobby, Kohl’s und Target. Diese Marken wurden für die Analyse ausgewählt, weil sie in letzter Zeit Ziel politischer Kritik oder von Boykotten geworden sind.

Dabei stellte NewsGuard fest, dass Videos mit Fehlinformationen über diese Marken insgesamt 57 Millionen Mal angesehen wurden. Fast die Hälfte der Aufrufe entfiel auf Videos, die KI-generierte oder anderweitig manipulierte Medien verwendeten, um Fehlinformationen zu verbreiten. 

Insgesamt analysierte NewsGuard 520 TikTok-Videos und fand, dass 14 Prozent (73 Videos) falsche, irreführende oder unbegründete Behauptungen enthielten, die sich gegen die Marken selbst richteten. Berücksichtigt wurden die Top-20-Ergebnisse von 26 Schlüsselwortsuchen zu Marken mit Sitz in den USA und Europa.

Ziel der Analyse war es nachzuahmen, wie typische Nutzer:innen nach Nachrichten und Informationen über Marken auf TikTok suchen würden. NewsGuard fand Fehlinformationen sowohl durch neutrale, einfache Suchanfragen wie “Target” als auch durch von TikTok vorgeschlagene ⁠— oft provokante ⁠— Suchanfragen zu Marken. Als beispielsweise ein NewsGuard-Analyst “Target” in das Suchfeld eingab, wurde “Target Bokcott 2023” als Suchbegriff vorgeschlagen. Eine NewsGuard-Analystin, tippte “Anheuser-Busch” in das Suchfeld ein und bekam von TikTok die Suche “Anheuser-Busch CEO ist ein CIA-Agent” vorgeschlagen.

Dass NewsGuards Analyse eine bedeutende Schwachstelle von TikTok dokumentiert, zeigt nicht zuletzt eine Recherche von Adweek, die feststellte, dass junge Menschen zunehmend auf TikTok – statt auf Google – nach Informationen suchen. Im September 2022 ergab eine ähnliche Analyse von NewsGuard, dass bei einer Stichprobe von TikTok-Suchen zu prominenten Nachrichtenthemen fast 20 Prozent der Video-Suchergebnisse Fehlinformationen enthielten.

In den Richtlinien von TikTok heißt es, dass die Plattform Fehlinformationen verbietet, “die Einzelpersonen oder der Gesellschaft erheblichen Schaden zufügen können”, aber die Richtlinien besagen, dass sich diese Richtlinie “nicht auf kommerzielle und rufschädigende Informationen erstreckt”. Auf die Frage nach einem Kommentar zu den Ergebnissen von NewsGuard sagte eine TikTok-Sprecherin, dass die Richtlinien mit den Industriestandards in Bezug auf Fehlinformationen übereinstimmen. Die Sprecherin fügte hinzu, dass TikTok drei der 18 Videos, die NewsGuard mit TikTok geteilt hat, entfernt hat. (Tatsächlich stellte NewsGuard fest, dass nur zwei der Videos entfernt wurden.) Die Sprecherin bat NewsGuard, nicht namentlich genannt zu werden und die Antworten des Unternehmens zu paraphrasieren.

NewsGuard schickte E-Mails an die Unternehmen, die hinter den neun in diesem Bericht erwähnten Marken stehen, und erkundigte sich, ob sie sich bewusst seien, dass auf TikTok Fehlinformationen über ihre Marke verbreitet wurden. Keine der Marken hat geantwortet.

#BoykottTarget, #BoykottKohls:

Fehlinformationen auf TikTok schüren Animosität gegenüber Marken

Öffentliche Debatten auf TikTok über die Aktivitäten großer Unternehmen können schnell toxisch werden und Fehlinformationen über die Marken in den Umlauf bringen. Das zeigte auch NewsGuards Analyse.

Das zweite Ergebnis der vorgeschlagenen Suche nach “Target Boykott 2023” zeigte beispielsweise eine Frau, die behauptete, dass Target “wegsteckbare” [“tuck-friendly” im Original] Badeanzüge für LGBTQ+ Kinder anbietet. (Solche Kleidung ermöglicht das leichte Verstecken von z.B. männlichen Geschlechtsteilen.) “Die geben es euren Kindern”, sagte die Frau während sie etwas hochhält, das ein solcher Badeanzug sein soll. “Wenn das kein Grund ist, Target zu boykottieren, dann weiß ich auch nicht.” Das Video, das bis zum 19. Juli 2023 225.900 Mal angesehen wurde, war eines von drei Videos, die die gleiche Behauptung aufstellten und NewsGuard in der Analyse zugespielt wurden.

Im Mai 2023 riefen Konservative zum Boykott von Target wegen der Pride-Kollektion des Unternehmens auf, die LGBTQ+-Themenkleidung für Kinder enthielt. Das Unternehmen verkauft jedoch keine “tuck-friendly” Bademode für Kinder und hat dies auch nie getan, wie ein Interview mit einem Sprecher des Unternehmens und NewsGuards Überprüfung der Kleidung auf der Target Website zeigen. Obwohl Target “tuck-friendly”-Badeanzüge angeboten hat, wurden diese jedoch nur in Erwachsenengrößen verkauft und wurden nicht für Kinder vermarktet.

Bei acht Suchanfragen zu Bud Light und der US-Brauerei Anheuser-Busch wurden NewsGuard 20 Videos mit falschen, irreführenden und unbegründeten Behauptungen über das Bier und das Unternehmen, dem es gehört, angezeigt. Im April 2023 riefen Konservative zu einem Boykott von Bud Light auf, nachdem das Bier in einer Social-Media-Werbung der Transgender-Influencerin Dylan Mulvaney beworben worden war.

Als NewsGuard auf TikTok nach “Anheuser-Busch” suchte, schlug der Algorithmus des sozialen Mediums unter anderem die Phrase “Anheuser-Busch CEO ist ein CIA-Agent” vor, die acht Videos ergab, in denen diese Behauptung über Brendan Whitworth, den Vorstandsvorsitzenden von Anheuser-Busch, aufgestellt wird. Tatsächlich arbeitete Whitworth früher für die CIA als Einsatzleiter, verließ die Behörde aber 2006, wie der Faktenchecker Verify This berichtete.

Whitworth war auch Gegenstand anderer Verschwörungstheorien. Ein weiteres TikTok-Video, das NewsGuard zugespielt wurde, legte nahe, dass Whitworth die Entscheidung, Mulvaney in einer Anzeige zu zeigen, getroffen habe, weil er Vorurteilen gegenüber Transgender-Menschen entgegenwirken wollte. Konkret soll er sich dabei auf eine Schießerei im März 2023 in einer Grundschule in Nashville bezogen haben, bei der sechs Menschen getötet wurden. Der Verdächtige, der von der Polizei erschossen wurde, war Aiden Hale ⁠— ein transsexueller Mann. “Das ist Brendan Whitworth, Anheuser Busch…12 [Millionen] Jahresgehalt, ehemaliges CIA-Mitglied, das eine Transgender-Person auf Amerikas Bier setzt, direkt nachdem ein Transgender Kinder an einer christlichen Schule in Nashvilke [sic] getötet hat…R U AWAKE YET?”, lautete die Überschrift des Videos. Bis zum 19. Juli 2023 hatte das Video 61.600 Aufrufe.

Bud Light entschied sich jedoch bereits vor der Tragödie in Nashville für eine Partnerschaft mit Mulvaney. Der erste von Bud Light gesponserte Beitrag wurde im Februar auf Mulvaneys Instagram veröffentlicht.

“Fallen Sie ruhig darauf rein”: KI und andere digital manipulierte Bilder führen TikTok-Nutzer:innen über Marken in die Irre

Sieben der 73 falschen oder irreführenden Videos, die von NewsGuard identifiziert wurden, enthielten digital manipulierte Bilder und Clips – drei davon verwendeten Bilder, die scheinbar von künstlicher Intelligenz generiert wurden – um die Marken in ein schlechtes Licht zu rücken. Insgesamt wurden diese Videos bis zum 19. Juli 2023 26.010.700 Mal angesehen. In einigen Fällen inspirierten die Videos zahlreiche Kommentare, die zum Boykott der genannten Unternehmen aufriefen.

Zusätzlich zu dem oben erwähnten Hobby Lobby-Video behaupteten zwei TikTok-Videos mit KI-generierten Bildern, dass Target satanische Kleidung verkauft. “Schauen Sie sich diese Bilder an, die ich Ihnen gleich zeigen werde und die zeigen, was Target für unsere Kinder und jeden einzelnen von Ihnen auf Lager hat”, sagte der TikTok-Influencer “King Joshua,” der sich selbst als christlich bezeichnet.  Sein Video vom 12. Juni 2023 enthielt eine Reihe von Bildern, die ein Geschäft mit satanischer Symbolik und einen Mann mit satanischer Kleidung zeigten.

Das Video war das neunte Ergebnis für den Suchbegriff “Target” und wurde mehr als 1 Million Mal aufgerufen. Viele Menschen drückten in den Kommentaren aus, dass sie fortan nicht mehr bei dem Unternehmen einkaufen werden. “Diesmal ein permanenter Boykott”, schrieb ein Nutzer. “Wer ist dabei? Leg dich nicht mit unseren Kindern an.”

Tatsächlich verkauft Target keine satanische Kleidung. Die KI-generierten Fotos scheinen von einer Facebook-Nutzerin namens “The Pumpkin Empress” zu stammen, die die Videos im Mai 2023 auf ihrer Seite unter der Überschrift “AI-Bilder: von mir selbst, fallen Sie ruhig darauf rein” postete.

In einem weiteren manipulierten Video, das NewsGuard angezeigt wurde, wurde behauptet,  Bud Light habe auf die Kritik an der Mulvaney-Partnerschaft “zurückschlagen” wollen, indem es eine Anzeige auf einer Plakatwand mit der Aufschrift “haha HEULSUSEN” kaufte. Die Nutzerin, die das Video postete und sich auf TikTok als “Jess in Miami” ausgab, behauptete, das Plakat beweise, dass Bud Light die Kontroverse aus Publicity-Gründen inszeniert habe. Bis zum 19. Juli 2023 hatte der Clip 1,4 Millionen Aufrufe. (Nachdem NewsGuard TikTok um einen Kommentar gebeten hatte, wurde das Video entfernt).

​​Tatsächlich hat Bud Light seine Kritiker nicht als “Heulsusen” bezeichnet, und das Plakat, das sich in Toronto befindet, zeigt tatsächlich Werbung für ein anderes Unternehmen – den Streaming-Dienst Disney Plus. “Unsere Plakatwand wurde in den Bildern, die in den sozialen Medien kursieren, verändert”, sagte Toby Sturek, ein leitender Angestellter von Branded Cities, der Werbefirma, der die Plakatwand gehört, im April 2023 gegenüber The Associated Press.

In den Richtlinien von TikTok heißt es: “Synthetische oder manipulierte Medien, die realistische Szenen zeigen, müssen deutlich gekennzeichnet werden. Dies kann durch die Verwendung eines Stickers oder einer Bildunterschrift geschehen, wie z. B. ‘synthetisch’, ‘gefälscht’, ‘nicht echt’ oder ‘verändert'”. Keines der manipulierten Videos, die NewsGuard auf TikTok fand, enthielt jedoch solche Bildunterschriften oder Sticker. Ein Video (der zu Beginn dieses Berichts erwähnte Hobby Lobby-Clip) enthielt ein Wasserzeichen einer Reddit-Gruppe, die KI-generierte Bilder namens “Midjourney” teilte. (Midjourney ist auch der Name eines KI-Programms zur Bilderzeugung.) Die TikTok-Sprecherin erklärte gegenüber NewsGuard, dass das Wasserzeichen dem Standard der Plattform entspricht, der offenlegt, dass ein Video von KI erzeugt wurde.

“Balenciaga-Satanismus”, “Barilla-Insekten:” TikToks Suchmaschine schickt Nutzer in die Abgründe der Fehlinformation

Wie bereits erwähnt, fand NewsGuard heraus, dass TikToks Suchmaschine nicht nur verwandte Schlüsselwörter vorschlägt, sondern Nutzer:innen auch auf markenbezogene Verschwörungstheorien und Fehlinformationen leitet. 

Als beispielsweise eine NewsGuard-Analystin am 13. Juli 2023 “Heineken” in das TikTok-Suchfeld eingab, wurden die Begriffe “Heineken-Verschwörung”, “Heineken Androchrom” [sic] und “Heineken Bill Gates” als Suchvorschläge angezeigt.

Diese Suchbegriffe führten zu 10 Videos, die unbegründete Verschwörungstheorien über Bill Gates und den niederländischen Bierhersteller verbreiten, an dem er einen Anteil von 902 Millionen Dollar erworben hat. In einem Video wird zum Beispiel behauptet, der Tech-Milliardär benutze Heineken, um “Zeug” in Lebensmittel, Wasser und Tiere zu “injizieren”, und in einem anderen wird behauptet, Gates’ finanzielle Beteiligung an Heineken sei Teil eines Plans zur Reduzierung der Weltbevölkerung. Die vorgeschlagene Suche “Heineken Androchrome” [sic] ergab zwei Videos, die eine QAnon-Verschwörungstheorie propagieren. Diese behauptet, Gates würde Adrenochrom ⁠— eine Substanz, die von Natur aus in den Nebennieren von Menschen gebildet wird ⁠— in Heineken-Fässern transportieren. Nachdem NewsGuard um Stellungnahme gebeten hatte, entfernte TikTok eines der beiden Videos, die die Adrenochrom-Verschwörungstheorie verbreiteten.

QAnon-Anhänger:innen behaupten, dass Eliten Adrenochrom von missbrauchten Kindern ernten und es verwenden, um gesund und jung zu bleiben. Einem Bericht des McGill Office for Science & Society zufolge gibt es keine Beweise dafür, dass die Substanz verjüngende Effekte oder psychedelische Eigenschaften hat oder dass Heineken sie transportiert.

Als eine in Italien ansässige NewsGuard-Analystin am 11. Juli 2023 bei TikTok “Barilla” eingab, war der erste vorgeschlagene Suchbegriff “barilla insetti” ⁠— italienisch für “Barilla Insekten”. Ein Klick auf diesen Begriff führte zu vier Videos, die die unbegründete Behauptung aufstellten, Barilla-Nudeln würden mit Insekten hergestellt. “Jetzt ist es offiziell, dass Barilla-Nudeln mit Insektenmehl hergestellt werden”, hieß es in einem Video auf Italienisch, das 353.000 Aufrufe erreichte.

Dieses Narrativ kursiert seit Oktober 2022. Damals twitterte diezugehörige Barilla-Stiftung, die Forschung zur Nachhaltigkeit fördert, ein Video, in dem ein italienischer Komiker über den Nährwert von Lebensmitteln auf Insektenbasis sprach. Nach vielen irreführenden Reaktionen in den sozialen Medien gab die Barilla-Stiftung am 2. November 2022 eine Pressemitteilung heraus, in der es hieß: “Die Barilla-Gruppe hat nie die Einführung von Produkten angekündigt, die mit Insektenmehl hergestellt werden, und hat kein Interesse daran, ihr Geschäft in diese Richtung auszuweiten.” NewsGuard überprüfte die Zutatenliste von Barilla–Produkten und bestätigte, dass das Unternehmen kein Insektenmehl in seinen Nudeln angibt.

TikTok’s Antwort
NewsGuard schickte mehrere Anfragen an TikTok, darunter allgemeine Fragen zur Funktionsweise der TikTok-Suchfunktion und zu bestimmten Themen, beispielsweise wie das Unternehmen gegen KI-generierte Fehlinformationen vorgehen will. TikTok hat zwar einen allgemeinen Kommentar darüber abgegeben, wie TikTok mit Fehlinformationen umgeht. Die Sprecherin antwortete jedoch nicht direkt auf viele Fragen von NewsGuard: 

• Ist der TikTok-Algorithmus so angepasst, dass er vermeidet, Nutzer:innen mit Fehlinformationen zu beliefern? Wenn ja, wie? 
• Warum leitet die Suchfunktion von TikTok die Nutzer dazu an, nach Inhalten zu suchen, die falsch oder irreführend sind?
• Wer entscheidet, welche Ergebnisse der TikTok-Algorithmus Nutzer:innen liefert?

Methodik: 

Im Juli 2023 führten drei NewsGuard-Analyst:innen in den USA, zwei in Italien und eine in Frankreich, 26 Suchanfragen auf TikTok mit den unten aufgeführten Begriffen durch. Alle unten aufgeführten Schlüsselwörter wurden vom Algorithmus von TikTok als Suchbegriffe vorgeschlagen, als NewsGuard nur nach dem Namen der jeweiligen Firma suchte. Es wurden im nächsten Schritt nur vorgeschlagene Suchbegriffe ausgewählt, die sich auf Themen aus den Nachrichten beziehen.

NewsGuard stellte fest, dass die Eingabe von “Bud Light” keine Suchvorschläge auf TikTok ergab, wohl aber leichte Variationen von “Bud Light” – wie “Budlight”, “Buds light” und “Bed light”. NewsGuard analysierte daher die vorgeschlagenen Suchanfragen für diese Varianten von “Bud Light”. Die TikTok-Sprecherin erklärte gegenüber NewsGuard, dass dies auf einen Fehler zurückzuführen sei, der fälschlicherweise die Suche nach “Bud Light” unterbrochen habe, und sagte, dass der Fehler inzwischen behoben worden sei. Als NewsGuard jedoch am 24. Juli 2023 “Bud Light” in das Suchfeld von TikTok eingab, schlug die Plattform immer noch keine Suche vor.

Um sicherzustellen, dass die Ergebnisse nicht durch frühere Aktivitäten der Analyst:innen beeinflusst wurden, löschten die Analyst:innen TikTok, installierten es neu und erstellten neue Konten für jede Suche. Die Analyst:innen machten von jeder Suche Screenshots und archivierten die Videos.

Im Folgenden findet sich eine Übersicht der Suchbegriffe und die der Anzahl der Videos mit falschen oder irreführenden Informationen, die in den ersten 20 Suchbegriffen angezeigt wurden: 

• Target (1/20)
• Target controversy (5/20)
• Target boycott 2023 (4/20)
• Chick fil A (0/20)
• Chick fil A lgbtq (2/20)
• Chick fil A woke (3/20)
• Bud light (0/20)
• Budlight boycotted (1/20)
• Buds light controversy (4/20)
• Bed light Dylan mulvaney (2/20)
• Hobby Lobby (2/20)
• Hobby Lobby controversy (1/20)
• Kohls (0/20)
• Kohls boycott 2023 (3/20)
• Anheuser-Busch (3/20)
• Anheuser-Busch-conspiracy (1/20)
• Anheuser-Busch trans Dylan mulvaney (2/20)
• Anheuser-Busch ceo is a cia operative (9/20)
• Balenciaga (2/20)
• Balenciaga satanism (12/20)
• Barilla (1/20)
• Barilla insetti (4/20)
• Heineken (0/20)
• Heineken conspiracy (5/20)
• Heineken androchrome (2/20)
• Heineken bill gates (4/20)

Korrektur: In einer früheren Version dieses Berichts hieß es fälschlicherweise, der Boykott von Bud Light habe im März 2023 begonnen. In Wirklichkeit begann der Boykott im April. NewsGuard entschuldigt sich für den Fehler.