“WarTok”: TikTok zeigt neuen Nutzern innerhalb von Minuten Desinformation über den Krieg an – selbst wenn sie gar nicht nach Inhalten mit Bezug zur Ukraine suchen
Von Alex Cadier, Chine Labbé, Virginia Padovese, Giulia Pozzi, Sara Badilini, Roberta Schmid, Madeline Roache und Jack Brewster.
Der Misinformation Monitor von NewsGuard liefert regelmäßig Neuigkeiten zum Thema Falschinformationen im Netz mit exklusiven Daten aus fünf Ländern. Abonnieren Sie den Newsletter oder testen Sie NewsGuard.
TikTok liefert seinen Nutzerinnen und Nutzern innerhalb von 40 Minuten nach der Anmeldung falsche und irreführende Inhalte über den Krieg in der Ukraine. Dabei spielt es keine Rolle, ob die Nutzer auf der Plattform konkret danach suchen oder nicht, so eine neue Analyse von NewsGuard.
Die Analyse von NewsGuard zeigt außerdem: Sucht man nach allgemeinen Begriffen im Zusammenhang mit dem Konflikt, wie “Ukraine” oder “Donbas”, schlägt TikTok bereits in den ersten 20 Ergebnissen mehrere Videos vor, die Desinformation enthalten.
Die Ergebnisse von NewsGuard untermauern Berichte, die zeigen, dass TikTok eine effektive Strategie fehlt, wenn es um die Kennzeichnung und Moderation falscher und gefährlicher Inhalten geht. Kombiniert mit TikToks Erfolg, Nutzer auf Inhalte zu lenken, die sie so lange wie möglich auf der App halten, ist die Plattform zu einem fruchtbaren Boden für die Verbreitung von Desinformation geworden.
Desinformation über den Krieg – ohne Einordnung
Im März 2022 erstellte ein Team von sechs NewsGuard-Analystinnen und Analysten neue Konten auf TikTok und führte zwei Experimente durch. Diese waren so angelegt, dass sie eine gewöhnliche Nutzung der App simulierten. Im ersten Experiment wurden die Analysten angewiesen, 45 Minuten lang durch den hyperpersonalisierten “For You”-Feed von TikTok zu scrollen und alle Videos mit Bezug zum Russland-Ukraine-Konflikt in voller Länge anzuschauen, aber keinen Konten zu folgen oder eigene Suchen durchzuführen.
Innerhalb von 40 Minuten nach Anmeldung auf TikTok wurden allen NewsGuard-Analysten falsche oder irreführende Inhalte über den Krieg in der Ukraine angezeigt.
Unter diesen Behauptungen waren sowohl pro-russische als auch pro-ukrainische Unwahrheiten:
Pro-russische Falschbehauptungen:
- Die falsche Behauptung, das Videomaterial aus dem Krieg in der Ukraine sei gefälscht
- Die falsche Behauptung, die Ukraine werde von einer neonazistischen Militärjunta geführt
- Die falsche Behauptung, die USA hätten Biowaffenlabors in der Ukraine
- Die falsche Behauptung, dass Wladimir Putin und Russland nicht die Aggressoren in diesem Konflikt sind, und dass die USA für die Inszenierung der Revolution in der Ukraine 2014 verantwortlich war
Pro-ukrainische Falschbehauptungen:
- Die falsche Behauptung, US-Streitkräfte seien “auf dem Weg” in die Ukraine
- Die falsche Behauptung, Putin wäre in ein Video einer Pressekonferenz vom 5. März 2022 montiert worden, um zu verbergen, dass er nicht in Moskau war.
- Aufnahmen von Präsident Selenskyj, der “für sein Land kämpft”, die tatsächlich im Jahr 2021 aufgenommen wurden
- Aufnahmen des “Ghost of Kyiv”, der sechs russische Jets abschießt, die tatsächlich aus dem Videospiel “Digital Combat Simulator” stammen
- Aufnahmen eines Feuergefechts “der ukrainischen Armee gegen Russland”, die in Wirklichkeit aus dem Jahr 2015 stammen und ukrainische Regierungstruppen im Kampf gegen pro-russische Rebellen im Osten des Landes zeigen.
Einige der falschen Behauptungen und Darstellungen in den Videos, die der TikTok-Algorithmus dem Analysten-Team zuspielte, waren zuvor bereits in NewsGuards Tracking-Center für Falschinformationen über den Krieg in der Ukraine als Kreml-Propaganda identifiziert worden.
So wurde beispielsweise einer französischsprachigen Analystin innerhalb von 29 Minuten nach ihrem Beitritt zu TikTok ein Video mit einer Rede von Wladimir Putin gezeigt. Darin behauptete Putin, dass “die heutigen Neonazis die Macht in der Ukraine übernommen haben” und dass die Verantwortung für jegliches Blutvergießen in dem Land bei den Machthabern in der Ukraine liege. Bis zum 14. März 2022 wurde dieses Video 1,7 Millionen Mal angesehen und mehr als 15.000 Mal geteilt.
Innerhalb von 36 Minuten wurde derselben Analystin ein am 5. März veröffentlichtes Video eines Mannes gezeigt, der behauptet: “Alle Bilder dieses Pseudokrieges sind gefälscht. […] Es gibt keine Bilder aus der Ukraine, selbst russische Spetsnaz-Soldaten dürfen keine Smartphones haben, um irgendetwas zu filmen – also sind alle Bilder, die man in den Medien sieht, gefälscht”.
Bis zum 14. März 2022, neun Tage nach seiner Veröffentlichung, wurde das Video 153.000 Mal angesehen.
Andere Videos zeichneten ein irreführendes Bild der ukrainischen militärischen Überlegenheit. Dazu gehören Videospielaufnahmen, die vorgeben, echte Bilder eines ukrainischen Kampfjets zu zeigen, der als “Ghost of Kyiv” bekannt ist und sechs russische Flugzeuge abgeschossen haben soll.
Gegen Ende des 45-minütigen Experiments waren die Feeds der Analysten fast ausschließlich mit Inhalten über den Krieg in der Ukraine gefüllt – ohne Unterscheidung zwischen Desinformation und zuverlässigen Quellen.
Obwohl sich falsche Darstellungen über den Russland-Ukraine-Krieg im Internet häufen, enthielt keines der Videos eine Warnung oder Hinweis. Weder lieferten die TikTok-Videos Informationen über die Vertrauenswürdigkeit der Quelle, Faktenchecks oder zusätzlichen Informationen, die den Nutzern zuverlässige Informationen liefern könnten.
TikToks Suchergebnisse über die Ukraine mischen Kreml-Propaganda mit zuverlässigen Quellen
Im zweiten Experiment suchten die NewsGuard-Analysten nach allgemeinen Begriffen, die TikTok-Nutzer auf der Suche nach Informationen über den Konflikt verwenden könnten. Die Suchbegriffe waren: Ukraine, Russland, Krieg, Kiew und Donbas.
Die Suchfunktion von TikTok schlug Videos mit falschen oder irreführenden Behauptungen bereits unter den ersten 20 Ergebnissen vor, wenn die Analysten mindestens einen dieser Begriffe suchten.
Das zweite von zwanzig Videos, auf das eine italienische NewsGuard-Analystin bei der Suche nach “Ukraine” stieß, enthielt beispielsweise die vom Kreml verbreitete falsche Behauptung, der Krieg in der Ukraine sei das Ergebnis eines von den ukrainischen Behörden verübten Völkermords im Donbas.
Die Suche nach “Donbas” zeigte einem Analysten in den USA auf TikTok ein Video, in dem fälschlicherweise behauptet wurde, dass Neonazis “überall” in der Ukraine seien und dass “die ukrainische Regierung Neonazi-Milizen einsetzt, um die Kontrolle über die Ukraine zu behalten”. Das Video war das fünfte der vorgeschlagenen Ergebnisse.
Zusätzlich zu den eindeutigen Desinformationen in den Suchergebnissen von TikTok schlug die Plattform den Analysten von NewsGuard auch zuverlässige Quellen vor, darunter Sky News und The Telegraph.
Obwohl verlässliche Quellen auf TikTok in der Regel mit einem blauen Häkchen “verifiziert” werden, erscheinen ihre Inhalte in den Suchergebnissen der Plattform neben Videos mit Kreml-Propaganda — ohne dass zwischen beidem klar unterschieden wird. Vor allem liefert TikTok keine Informationen über die Vertrauenswürdigkeit von Nachrichtenquellen. Auch das blaue Häkchen bestätigt nur, dass es sich um ein authentisches Konto einer realen Person oder einer Organisation handelt.
Denn obwohl TikTok den vom russischen Staat unterstützten Propagandasender RT von seiner Plattform blockiert hat, trägt die Chefredakteurin von RT, Margarita Simonyan, das blaue Häkchen “verifiziert” auf ihrem Profil. Laut einem Bericht des Institute for Strategic Dialogue, einem Think-Tank, der sich mit Extremismus befasst, wurden 16 Videos über die Ukraine auf ihrem Account in einer Woche 13,5 Millionen Mal aufgerufen.
TikTok ist weiterhin ein Nährboden für gefährliche Desinformation, die sich an ein junges Publikum richtet
TikTok hat seit seinem Start 2017 einen kometenhaften Anstieg an Popularität erlebt. Ende 2021 feierte die App mehr als 1 Milliarde monatlich aktive Nutzer – Anfang 2018 waren es noch 85 Millionen. Damit war TikTok die erste App, die nicht zu Facebook gehört und diesen Meilenstein erreicht hat.
Laut Statista war ein Viertel der Nutzer der App in den USA im Jahr 2021 zwischen 10 und 19 Jahre alt – und das, obwohl TikTok behauptet, die Nutzung der App auf Kinder über 13 Jahre zu beschränken. Bloomberg berichtete, dass fast ein Viertel der deutschen TikTok-Nutzer unter 18 Jahre alt ist, ebenso wie jeweils ein Drittel der italienischen und französischen Nutzer.
Obwohl TikTok von ByteDance, einem chinesischen Internetkonglomerat, das sich teilweise im Besitz der chinesischen Regierung befindet, betrieben wird, ist es in China nicht verfügbar. Stattdessen können chinesische Nutzer auf Douyin zugreifen, einen nahezu identischen Dienst, der laut dem Citizen Lab der University of Toronto “politisch sensible” Inhalte verbietet.
TikTok wurde auch beschuldigt, Inhalte zu zensieren, die nicht mit den Ansichten der chinesischen Regierung übereinstimmen. So zeigten 2019 durchgesickerte interne TikTok-Dokumente, dass die Plattform Inhalte über das Tiananmen-Massaker, die tibetische Unabhängigkeit und andere sensible Themen zensiert.
NewsGuards Tracking-Center für Falschinformationen über den Krieg in der Ukraine zeigte des weiteren, dass chinesische staatlich unterstützte Nachrichtenseiten das Kreml-Desinformationsnarrativ, die USA hätten Biowaffenlabore in der Ukraine finanziert, übernommen haben.
Die Haltung der chinesischen Regierung gegenüber Russland in Bezug auf die Invasion in der Ukraine ist bislang unklar. Das Gleiche gilt für bestimmte staatlich unterstützte chinesische Webseiten, die unkritisch Kreml-Propaganda wiederholen. Daher muss abgewartet werden, ob die Tatsache, wie China sich letztlich positioniert, einen Einfluss auf die Inhalte des chinesischen Netzwerks TikTok hat.
Methodik
Scroll-Experiment:
Sechs NewsGuard-Analystinnen und Analysten in der Schweiz, Italien, Deutschland, den USA und Großbritannien löschten und installierten TikTok und erstellten neue Konten.
Ohne irgendwelchen Konten zu folgen oder eine Suche durchzuführen, scrollten sie durch den “For You”-Feed von TikTok. Die Analysten wurden angewiesen, anzuhalten und Videos mit Bezug zur Ukraine und Russland vollständig anzusehen. Alle Videos, die im Scroll-Bereich dieses Experiments erwähnt wurden, wurden den Analysten durch den Empfehlungsalgorithmus von TikTok vorgeschlagen.
Such-Experiment:
Fünf NewsGuard-Analysten führten Suchen mit den im Abschnitt “Suche” dieses Experiments genannten Suchbegriffen durch. Die Analysten löschten und installierten TikTok neu und erstellten für jede Suche ein neues Konto. Die Ergebnisse wurden anhand von Bildschirmaufzeichnungen jeder Suche ermittelt.