Von Alexander Smith und Eva Maitland | Veröffentlicht am 9. Dezember 2025

Ein offenbar aus 73 TikTok-Accounts bestehendes Netzwerk hat Tausende von KI-Deepfakes des britischen Premierministers Keir Starmer gepostet, in denen er angeblich umstrittene politische Maßnahmen ankündigt, von exorbitanten neuen Steuern bis hin zu streng autoritären Maßnahmen. Das Netzwerk scheint darauf ausgelegt zu sein, diese Fälschungen über Starmer und seine Regierung zu verbreiten, um Klicks und Interaktionen zu generieren und damit finanzielle Gewinne zu erzielen.

Einige der vom Netzwerk veröffentlichten TikTok-Videos haben jeweils mehr als 500.000 Aufrufe erzielt, und die falschen Darstellungen haben sich in geringerem Umfang auch über Facebook und X verbreitet, wie NewsGuard feststellte. 

Das offenbar zusammenhängende Netzwerk von TikTok-Accounts, die sich unter Namen wie BBB Uk News, Albion News und Daily Britain News als authentische Nachrichtenmedien präsentieren, hat insgesamt fast 1 Million Follower. Die Accounts posten in der Regel Videos, die echte Videoaufnahmen von Politikern oder Nachrichtensprechern mit KI-generierten Audios kombinieren. Allein zwischen dem 1. und 8. Dezember 2025 haben sie 197 Videos veröffentlicht und damit 943.000 Aufrufe erzielt.

Die Accounts haben seit Mai 2025, als die meisten von ihnen erstellt wurden, insgesamt 6.042 solcher Videos gepostet, wie NewsGuard herausfand. Das Netzwerk, das zwischen Juni und Oktober 2025 rapide gewachsen ist, veröffentlicht Videos zu Themen wie Steuern, Renten und Einwanderung.

Obwohl NewsGuard nicht feststellen konnte, wer hinter der Kampagne steckt, scheinen die Accounts eher finanzielle als politische Motive zu haben. Sie weisen Merkmale sogenannter „Content-Farmen“ auf, die große Mengen an qualitativ minderwertigen Inhalten veröffentlichen, um Einnahmen zu generieren – in diesem Fall über TikToks Umsatzbeteiligungsprogramm, das Creator entsprechend ihren Aufrufen und Interaktionen bezahlt. Um für die Monetarisierung infrage zu kommen, müssen Nutzer laut TikTok mindestens 10.000 Follower und 100.000 Aufrufe in den letzten 30 Tagen vorweisen.

NewsGuard stellte fest, dass 61 der 73 Accounts für das Vergütungsprogramm infrage kommen könnten und dass Anfang Dezember 28 davon weiterhin aktiv waren. Es ist nicht klar, ob sie bereits von der Plattform bezahlt werden, da TikTok, wie die meisten großen Plattformen, nicht offenlegt, welche Accounts monetarisiert sind oder wie viel die Creator verdienen.

Victoire Rio, Geschäftsführerin der in den Niederlanden ansässigen Technologie-Interessensvertretung- und Forschungsorganisation What To Fix, erklärte gegenüber NewsGuard, dass das von NewsGuard aufgedeckte TikTok-Netzwerk mit anderen finanziell motivierten Akteuren übereinstimme, die ihre Gruppe beobachtet habe. Solche Accounts seien häufig automatisiert und greifen in großem Umfang auf KI-generierte Vorlageninhalte zurück, um die Umsatzbeteiligungsprogramme der Plattformen maximal auszuschöpfen, schrieb sie in einer E-Mail vom 24. November 2025.

Laut Rio verwalten Content-Farmen oft „Armeen von Fake-Accounts, die sowohl zum Posten von Inhalten als auch zur Generierung des frühen Engagements (User-Interaktionen) eingesetzt werden können, was wiederum nötig ist, um die Empfehlungssysteme der Plattformen zu überlisten“. 

Nach Angaben des Social-Media-Analyseunternehmens Brandwatch “geben Creator Einkünfte zwischen 4 und 8 US-Dollar pro 1.000 Aufrufe an.“ Sollte das zutreffen, könnten die 28 am Anfang Dezember 2025 noch aktiven Accounts in der Woche vom 1. bis 8. Dezember mit insgesamt 161 Videos rund 2.424 und 4.848 US-Dollar verdient haben. Die Videos erzielten zusammen 606.000 Aufrufe. 

NewsGuard hat in der Vergangenheit bereits über KI-Content-Farmen berichtet, die politische Fehlinformationen auf TikTok und anderen Plattformen veröffentlichen. Diese Kampagne ist jedoch die erste, die Deepfakes in großem Maßstab produziert, um einen führenden Politiker ins Visier zu nehmen – offenbar nicht aus ideologischen Gründen, sondern um Einnahmen zu generieren. 

Die Werkzeuge zur Erstellung solcher Deepfakes sind weit verbreitet und lassen sich auch mit minimalen technischen Kenntnissen bedienen, wodurch ihre Produktion im Verhältnis zu den potenziellen Einnahmen vergleichsweise kostengünstig ist.

Ungekennzeichnete Deepfakes verstoßen gegen Plattformrichtlinien

Die Plattformrichtlinien von TikTok untersagen das Veröffentlichen irreführender KI-generierter Inhalte und verpflichten Nutzer, KI-generierte Inhalte zu kennzeichnen, wenn diese realistisch wirkende Bilder, Audios oder Videos enthalten. TikTok versieht einige Videos automatisch mit einem Hinweis, sobald KI erkannt wurde. Diese Kennzeichnungen erscheinen als kleiner Text am unteren Rand der Videos.

NewsGuard stellte fest, dass nur 22 Prozent einer Stichprobe von 100 Videos, die in den letzten fünf Monaten von den Kanälen gepostet wurden, ein KI-Label trugen und dass alle mit einem Hinweis versehenen Videos von den Erstellern selbst und nicht von TikTok markiert wurden. Darüber hinaus scheinen die gekennzeichneten Inhalte weiterhin gegen TikToks Richtlinien zu verstoßen, die KI-generierte Beiträge zu Themen von öffentlichem Interesse untersagen – selbst wenn sie korrekt gekennzeichnet sind.

NewsGuard hat TikTok eine Stichprobe von 17 dieser Accounts zur Verfügung gestellt. TikTok lehnte eine Stellungnahme ab, entfernte jedoch die Accounts und bestätigte in einer E-Mail vom 4. November 2025, dass diese gegen TikToks Richtlinien zu schädlich irreführenden KI-generierten Inhalten verstoßen.

TikTok-Kampagne trifft Starmer in politisch heiklem Moment

Die Kampagne kommt zu einem heiklen Zeitpunkt in der britischen Politik. Die Zustimmung der Öffentlichkeit zu Starmer ist auf einem Rekordtief, aktuelle Umfragen zeigen, dass sowohl die regierende Labour-Partei als auch die oppositionellen Konservativen hinter Nigel Farages rechtspopulistischer Partei Reform UK zurückliegen – was für das traditionelle Zwei-Parteien-System des Landes äußerst ungewöhnlich ist.

Die Vorwürfe einer staatlichen Übergriffigkeit nahmen seit September zu, als Starmer ein obligatorisches digitales Ausweisprogramm ankündigte. Laut The Times müssten britische Arbeitnehmer dafür verpflichtend eine digitale ID-Karte beantragen und ihre persönlichen Daten gegen eine zentrale Regierungsdatenbank prüfen lassen, um auf staatliche Leistungen zugreifen zu können. Kritiker bezeichneten den Plan als einen Schritt in Richtung Massenüberwachung, berichtete The Guardian.

Viele der von NewsGuard identifizierten TikTok-Videos schienen sich diese Bedenken zunutze zu machen. So veröffentlichten im September 2025 39 der 73 Accounts Videos, in denen behauptet wurde, die britische Regierung führe eine landesweite Ausgangssperre ein. Ein Video vom 12. Oktober 2025 zeigte Starmer, wie er angeblich erklärte: „Ab dem 1. November wird die britische Regierung … eine landesweite Ausgangssperre durchsetzen. Ab 23 Uhr darf kein Bürger sein Zuhause ohne offizielle Genehmigung verlassen … bei Verstößen drohen hohe Geldstrafen oder sogar Festnahmen.“ Weitere 38 Accounts des Netzwerks veröffentlichten ähnliche Videos mit entsprechenden Behauptungen über eine bevorstehende Ausgangssperre.

Das Video zur Ausgangssperre erzielte 430.000 Aufrufe und verbreitete sich zuerst auf TikTok und dann auf verschwörungstheoretischen und Anti-Starmer-Accounts auf X und Facebook, wobei ein X-Beitrag 760.000 Mal angesehen wurde. Tatsächlich hat die britische Regierung eine solche Maßnahme nicht angekündigt, wie eine Überprüfung von Pressemitteilungen und verlässlichen Nachrichtenquellen durch NewsGuard ergab. (Den zugehörigen False Claim Fingerprint von NewsGuard zu dieser Behauptung finden Sie hier.)

Hinweise auf koordinierte Aktivitäten

Die 73 von NewsGuard identifizierten Accounts weisen nahezu identische Verhaltensmuster auf. Viele von ihnen folgen einander und veröffentlichen dieselben Videos, was darauf hindeutet, dass sie Teil eines koordinierten Netzwerks sind.

So veröffentlichten im November 2025 53 der 73 Accounts Falschbehauptungen über Renten, etwa die Aussage, dass Menschen über 60 mindestens acht Stunden pro Woche arbeiten müssten, sonst drohe ihnen eine Geldstrafe von 300 Pfund. NewsGuard stellte zudem fest, dass 65 Accounts falsche Angaben zu angeblichen neuen Gesetzen für Autofahrer verbreiteten, darunter die Ankündigung, dass das Fahren ohne Führerschein nun legal sei.

NewsGuard analysierte eine zufällige Stichprobe von 10 TikTok-Videos dieses Netzwerks mit dem KI-Erkennungstool Hive, das mit nahezu 100-prozentiger Sicherheit feststellte, dass der Ton in jedem Video mithilfe von KI erstellt wurde.

Wie oben erwähnt, entfernte TikTok nach einer Presseanfrage von NewsGuard einige Accounts. Dennoch waren am 8. Dezember 2025 noch 38 der 73 von NewsGuard identifizierten Accounts aktiv.

Auf die Frage nach einer Stellungnahme zu den Ergebnissen von NewsGuard und dazu, ob die von NewsGuard identifizierten Accounts für das Creator Rewards Program von TikTok in Frage kommen, lehnte TikTok eine Antwort ab.

NewsGuard schrieb außerdem E-Mails an das Büro von Premierminister Keir Starmer, das britische Kabinettsbüro und das Department for Science, Innovation and Technology, um Kommentare zu den TikTok-Videos zu erhalten, erhielt jedoch keine Antwort.

Weitere Berichterstattung von Alice Lee.
Redigiert von Dina Contini und Eric Effron