Sie finanzieren die nächste Generation von Content-Farmen:

Wie einige der weltweit bekanntesten Marken ungewollt die Verbreitung von unzuverlässigen, KI-generierten Nachrichtenwebseiten unterstützen

NewsGuard hat 141 Unternehmen identifiziert, die Geld für programmatische Werbeanzeigen an qualitativ minderwertige, KI-generierte Nachrichten- und Informationsseiten zahlen, die mit nur geringer oder keiner menschlichen Aufsicht betrieben werden.

Von Jack Brewster, Zack Fishman und Elisa Xu

Mit Beiträgen von Chiara Vercellone, Sara Badilini, Natalie Huet, Leonie Pfaller und Giulia Pozzi

Eine neue Analyse von NewsGuard zeigt: Namhafte internationale Marken unterstützen die Ausbreitung von unzuverlässigen, durch künstliche Intelligenz generierten Nachrichten- und Informationswebseiten (UKIN), indem sie Geld für programmatische Werbung an diese rasant wachsende Zahl von Webseiten leiten. 

Programmatische Werbeschaltung bedeutet, dass die Unternehmen sich nicht selbst dafür entscheiden, ihre Anzeigen auf diesen Webseiten zu schalten, sondern dass sie automatisch platziert werden. Dabei wird die Art oder Qualität der jeweiligen Webseite nicht berücksichtigt und so werden auch qualitativ minderwertige Webseiten finanziert, inklusive Webseiten, die Fehlinformationen veröffentlichen ⁠— was , die “Markensicherheit” von Unternehmen stark gefährdet. Die meisten solcher Anzeigen werden von Google geschaltet.

NewsGuard definiert unzuverlässige, KI-generierte Nachrichtenseiten (UKIN) als Webseiten, die größtenteils oder vollständig von künstlicher Intelligenz betrieben werden und mit wenig bis gar keiner menschlichen Kontrolle arbeiten. Allein im letzten Monat haben Analyst:innen von NewsGuard die Zahl der Webseiten auf dem neuen Tracking-Center für Künstliche Intelligenz von 49 auf 217 aktualisiert (lesen Sie im Abschnitt zur Methodik am Ende dieses Berichts mehr darüber, wie NewsGuard UKIN definiert).

Viele KI-generierte Webseiten scheinen vollständig durch programmatische Werbeschaltung finanziert zu werden. Sie veröffentlichen Unmengen an Artikeln, auf denen Anzeigen platziert werden können. Im Durchschnitt produziert eine solche Webseite mehr als 1.200 Artikel pro Tag – die programmatische Werbeschaltung fördert damit die Entstehung dieser minderwertigen, von KI generierten Webseiten ohne erkennbare redaktionelle Kontrolle. Obwohl viele Werbetreibende und ihre Werbeagenturen “Ausschlusslisten” von für Marken “unsichere” Webseiten führen, auf denen ihre Werbung nicht erscheinen soll, werden diese Listen oft nicht auf dem neuesten Stand gehalten und können nicht mit dem explosionsartigen Anstieg der UKIN-Webseiten Schritt halten.

Im Mai und Juni 2023 fanden die Analyst:innen von NewsGuard 393 programmatische Anzeigen von 141 großen Marken, die auf 55 der 217 von NewsGuard identifizierten UKIN erschienen. Nicht alle von NewsGuard gefundenen UKIN enthalten Anzeigen großer Marken und einige veröffentlichen gar keine programmatische Werbung. Die Werbeanzeigen wurden NewsGuards Analyst:innen beim Browsen im Internet in vier Ländern angezeigt: in den USA, Deutschland, Frankreich und Italien.

Da es wahrscheinlich ist, dass keine der Marken oder ihre Werbeagenturen wussten, dass ihre Anzeigen auf diesen unzuverlässigen, von KI gesteuerten Webseiten erscheinen, nennt NewsGuard sie hier nicht explizit. Es handelt sich jedoch um eine Vielzahl von namhaften, unter anderem deutschen Werbetreibenden: eine bekannte Autovermietung, eine große Kreuzfahrtreederei, ein weltweit tätiger Versicherer und Finanzdienstleister, ein bekannter Online-Händler für Mode und Lifestyle, sowie zwei Staatsunternehmen.

In andere Ländern finden sich zudem mehrere große Banken und Finanzdienstleistungsunternehmen, vier Luxuskaufhäuser, drei führende Sportbekleidungsmarken, drei Haushaltsgerätehersteller, zwei der weltweit größten Unternehmen im Bereich Verbrauchertechnologie, zwei globale E-Commerce-Unternehmen, zwei der führenden Breitbandanbieter in den USA, drei Streaming-Dienste amerikanischer Rundfunknetze, eine digitale Plattform aus dem Silicon Valley und eine große europäische Supermarktkette.

Über 90 Prozent der von NewsGuard identifizierten Anzeigen – 356 von 393 – wurden von Google Ads, der größten Online-Werbeplattform, geschaltet. Laut Digiday generierte sie im letzten Jahr 168 Milliarden US-Dollar Umsatz aus Online-Werbung.

Ein weiterer problematischer Aspekt ist, dass programmatische Werbung Algorithmen und fortschrittliche Auktionsverfahren anwendet, um digitale Anzeigen zielgerichtet direkt an einzelne Benutzer:innen zu liefern, anstatt an bestimmte Webseiten. Das bedeutet, dass die Werbung Nutzer:innen quasi “folgt”, während sie im Internet surfen. 

Da der Werbeschaltungsprozess so undurchsichtig ist, haben die im Rahmen der NewsGuard-Recherche gefundenen Marken wahrscheinlich keine Ahnung, dass sie durch ihre Werbung auch die Verbreitung von UKIN finanzieren. Denn die Anzeigen werden in der Regel über Dritte gekauft, und es sind meist mehrere Zwischenhändler beteiligt.

Große Marken neben von KI-generierten Plagiaten und gefährlichen Heilmitteln

Alle 393 Anzeigen, die NewsGuard gefunden hat, erschienen direkt neben Artikeln, die KI-spezifische Fehlermeldungen enthielten, wie zum Beispiel die Formulierung “Als KI-Modell kann ich keine…”. Dass sich diese Meldungen in veröffentlichten Artikeln finden, ist ein Zeichen dafür, dass die Webseiten anscheinend wenig bis keine menschliche redaktionelle Aufsicht haben.

So fand NewsGuard beispielsweise programmatische Anzeigen für eine weltweit führende Bank, zwei führende Breitbandanbieter, ein bekanntes Sportbekleidungsunternehmen und einen Automobilhersteller, die neben einem Artikel auf NoticiasDeEmprego.com.br, einer brasilianischen Website mit Stellenanzeigen, erschienen sind. Der Artikel enthielt eine typische Chatbot-Fehlermeldung in der Überschrift: “Entschuldigung, als KI-Sprachmodell habe ich keine Möglichkeit, eigenständig auf externe Links oder Websites zuzugreifen.”

Einige der UKIN, auf denen Anzeigen von bekannten Marken angezeigt wurden, verwendeten anscheinend KI-Tools, um Artikel von etablierten Medien umzuschreiben, oft ohne Quellenangabe. So erschienen beispielsweise Anzeigen für eine US-amerikanische Wohnungssuch-Webseite, eine globale E-Commerce-Webseite, einen japanischen Bürodrucker und einen chinesischen Elektronikhersteller neben einem Artikel, der von UKIN AlaskaCommons.com veröffentlicht wurde. Dabei handelte es sich offenbar um eine durch KI umgeschriebene Version eines Artikels, der ursprünglich von der US-Ausgabe des britischen Boulevardblatts The Sun veröffentlicht wurde. Der Artikel enthielt die gleichen Bilder und ähnliche Formulierungen. Gegen Ende des AlaskaCommons.com-Artikels schrieb die Webseite “How to Get Free Bets on Football” (“Wie man kostenlose Fußballwetten bekommt”) ⁠— die gleiche Zwischenüberschrift wie in dem The Sun Artikel. Im Absatz darunter fand sich die folgende KI-Fehlermeldung: “Als KI-Sprachmodell kann ich keine Informationen über Gratiswetten auf Fußball geben. Bitte wenden Sie sich für weitere Informationen an vertrauenswürdige Nachrichtenquellen oder Webseiten für Wetten.”  Die Sun hat nicht auf zwei E-Mails von NewsGuard geantwortet, die im Juni 2023 gesendet wurden und in denen gefragt wurde, ob AlaskaCommons.com berechtigt war, Inhalte von ihrer Website zu kopieren.

Auch in diesen Fällen ist es für die Marken, deren Anzeigen neben diesen minderwertigen oder offensichtlich plagiierten Inhalten erscheinen, nicht ohne weiteres möglich zu erkennen, dass sie diese Webseiten unterstützen.

Die meisten Anzeigen wurden den Analyst:innen von NewsGuard auf KI-generierten Webseiten angezeigt, die zwar von geringer Qualität sind, aber keine Fehlinformationen verbreiten. NewsGuard fand allerdings auch Werbung für zwei US-amerikanische Streaming-Videodienste, ein Unternehmen für Bürobedarf, einen japanischen Autohersteller, eine weltweit tätige Bank mit Sitz in New York, einen Anbieter von Heimtierbedarf, ein Online-Shop für Nahrungsergänzungsmittel, ein Diätunternehmen und einen Staubsaugerhersteller auf MedicalOutline.com. Diese UKIN wirbt regelmäßig für unbewiesene und potenziell schädliche Naturheilmittel – mit Schlagzeilen wie “Kann Zitrone Hautallergien heilen?”, “Was sind 5 natürliche Heilmittel für ADHS?” und “Wie kann man Krebs auf natürliche Weise vorbeugen?”.

Das Ad-Tech-Unternehmen, das primär hinter der UKIN-Maschine steht: Google

Gemäß den Werberichtlinien von Google dürfen Webseiten “Google-Anzeigen nicht auf Seiten platzieren”, die “spam-ähnliche automatisch generierte Inhalte” enthalten. Darunter versteht Google unter anderem “Inhalte, die programmatisch generiert wurden, ohne Originalität vorzuweisen oder ausreichend Mehrwert zu bieten”.

Dennoch wurden, wie oben erwähnt, über 90 Prozent der von NewsGuard auf den UKINs identifizierten Anzeigen von Google Ads geschaltet. NewsGuard schickte vier E-Mails an Google und bat um eine Stellungnahme zur Monetarisierung von UKIN. Nach Erhalt der Anfrage bat ein Google-Sprecher NewsGuard per E-Mail um weitere Informationen, der NewsGuard nachkam. Bis zum 25. Juni 2023 hatte NewsGuard jedoch noch keine Antwort erhalten.

Einige der UKIN, auf denen Werbeanzeigen großer Marken gefunden wurden, veröffentlichen – scheinbar mit Hilfe eines Chatbots – Hunderte von Artikeln pro Tag. (Es ist allerdings oft schwierig zu erkennen, ob ein Artikel mit KI geschrieben wurde, wenn er keine der in KI-generierten Texten häufig vorkommenden Fehlermeldungen enthält.)

Beispielsweise veröffentlichte UKIN World-Today-News.com (eine Nachrichten- und Lifestyle-Webseite) in der Woche vom 9. Juni 2023 bis zum 15. Juni 2023 im Durchschnitt etwa 8.600 Artikel ⁠— also rund 1.200 pro Tag. Im Vergleich dazu veröffentlicht die New York Times laut einer in April 2022 veröffentlichten Q&A-Session typischerweise lediglich 150 Artikel pro Tag. Auf World-Today-News.com fand NewsGuard programmatische Anzeigen für eine in den USA ansässige Fluggesellschaft, einen E-Commerce-Marktplatz und ein US-amerikanisches Kaufhaus, die keine Verfasserangaben enthält und keine Informationen über ihre redaktionelle Leitung preisgibt. Die zuvor erwähnte Seite AlaskaCommons.com und eine andere UKIN, Time.news, veröffentlichten während des gleichen Zeitraums jeweils 5.867 und 6.108 Artikel.

Während Time.news keine Autorennamen angibt, werden die Artikel auf AlaskaCommons.com regelmäßig einer Reihe von scheinbar unechten Autorenprofilen zugeschrieben. “Ingrid Taylor”, einer der Namen, die AlaskaCommons.com häufig als Autorennamen für seine Artikel angibt, hat seit Beginn dieses Jahres 4.364 Artikel veröffentlicht, darunter 108 allein am 15. Juni 2023. NewsGuard fand auf AlaskaCommons.com Anzeigen für eine US-Wohnungsvermietungsseite, eine globale E-Commerce-Seite, einen japanischen Bürodrucker und einen chinesischen Elektronikhersteller sowie auf Time.news Anzeigen für zwei große US-Banken, einen Online-Musikdienst, ein Sportbekleidungsunternehmen und ein Medienunternehmen aus dem Silicon Valley.

Andere UKIN enthielten bis zu einem Dutzend oder mehr Anzeigenflächen in Artikeln mit KI-Fehlermeldungen. Diese Widgets sind Codefragmente, die Entwickler:innen auf ihrer Webseite platzieren können, um programmatische Werbung zu schalten. Google scheint keine Begrenzung für die Anzahl der Anzeigenflächen zu haben, die eine Webseite auf einer bestimmten Seite platzieren kann, wie aus dem Hilfebereich der Webseite des Unternehmens hervorgeht. 

Ein KI-generierter Artikel mit einer Chatbot-Fehlermeldung auf der UKIN FoodingWorld.com ( einer Webseite, die die Geschichte und die Inhaltsstoffe von Lebensmitteln erklärt) enthielt 15 Google Ads-Anzeigenwidgets. Die auf der Webseite geschalteten Anzeigen stammten von Marken wie einer globalen Autovermietungskette, einer US-amerikanischen Bank, einem Matratzenhändler und einem E-Commerce-Unternehmen.

Für UKIN ist es, wie für jede andere Webseite auch, einfach, ihre Inhalte schnell zu monetarisieren. Auf der Homepage für Google AdSense, dem Produktnamen der von Google an Publisher bereitgestellten Anzeigenwidgets, wirbt Google damit, wie einfach es ist, programmatische Werbeeinnahmen zu erzielen: “Man fügt einfach den AdSense-Code auf der Webseite ein und dann läuft alles von allein.”

Seit dem Beginn der Erfassung der UKIN im Mai 2023 hat NewsGuard etwa 25 neue Webseiten pro Woche gefunden. Die Gesamtzahl ist wahrscheinlich höher als die derzeit von NewsGuard identifizierten 217 Webseiten, da NewsGuard in der Regel nur dann neue UKIN finden kann, wenn diese Artikel mit Fehlermeldungen des KI-Sprachmodells veröffentlicht haben.

NewsGuard hat 40 der 141 im Rahmen dieser Recherche gefundenen Marken kontaktiert und sie gefragt, ob ihnen bewusst ist, dass ihre Anzeigen auf Webseiten mit unzuverlässigen KI-generierten Nachrichten geschaltet werden. Vier Marken antworteten, lehnten aber eine Stellungnahme ab.

NewsGuard schickte E-Mails an vier der sechs in diesem Bericht erwähnten UKIN und erkundigte sich nach deren Einsatz von KI und den KI-Fehlermeldungen, die NewsGuard in veröffentlichten Artikeln fand. Keine der Webseiten hat daraufhin geantwortet. Für die beiden anderen UKIN, NoticiasDeEmprego.com.br und AlaskaCommons.com, konnte NewsGuard keine Kontaktinformationen ermitteln.

Hinweis: NewsGuard stellt seine Bewertungen von 30.000 Nachrichten- und Informationsquellen – darunter mehr als 8.500 Webseiten – zur Lizenzierung zu Verfügung, um Marken zu helfen, die unbeabsichtigte Platzierung von programmatischer Werbung auf Webseiten mit Falschinformationen zu vermeiden. Die Ausschlusslisten von NewsGuard werden von Werbetreibenden, Werbeagenturen und Ad-Tech-Unternehmen verwendet, um Webseiten von der automatisierten Werbeplatzierung auszuschließen. Die Einschlusslisten von NewsGuard werden ergänzend verwendet, um Anzeigen auf allgemein vertrauenswürdigen Webseiten zu platzieren und so Qualitätsjournalismus zu unterstützen.

Methodik:

Im Mai und Juni 2023 haben NewsGuards Analyst:innen in den USA, Deutschland, Frankreich und Italien 55 Webseiten untersucht, auf denen programmatische Werbung geschaltet wird und die NewsGuards Kriterien für unzuverlässige, KI-generierte Nachrichten erfüllen (siehe unten). Die Analyst:innen verwendeten verschiedene Browser, den privaten Browsing-Modus und Virtual Private Networks (VPN), ein Tool, mit dem Nutzer:innen im Internet surfen können, als wären sie in einem anderen Land. Dabei erstellten sie fortlaufend Screenshots ihrer Ergebnisse. In diesem Bericht wurden nur Anzeigen von Unternehmen mit einem Jahresumsatz von 500 Millionen US-Dollar [etwa 457 Millionen Euro] oder mehr berücksichtigt.

NewsGuard stuft eine Webseite als unzuverlässige, KI-generierte Nachrichtenseite (UKIN) ein, wenn sie alle vier dieser Kriterien erfüllt:

1. Es gibt eindeutige Belege dafür, dass ein wesentlicher Teil der Webseite von KI erstellt wird.
2. Ebenso wichtig ist, dass es deutliche Hinweise darauf gibt, dass Inhalte ohne nennenswerte menschliche Kontrolle veröffentlicht werden. Beispielsweise könnten zahlreiche Artikel Fehlermeldungen oder andere spezifische Chatbot-Formulierungen enthalten, die darauf hindeuten, dass die Inhalte von KI-Tools ohne angemessene Bearbeitung erstellt wurden. (Es ist davon auszugehen, dass jetzt oder in Zukunft viele Nachrichtenseiten KI-Tools verwenden werden, die dies jedoch mithilfe effektiver menschlicher Kontrolle tun. Diese Seiten werden nicht als UKIN eingestuft).
3. Die Webseite ist so gestaltet, dass Leser:innen denken könnten, der Inhalt sei von Autor:innen oder Journalist:innen erstellt worden. Das liegt daran, dass die Webseite ein Layout, einen generischen Namen oder andere für Nachrichten- und Informationswebseiten typische Inhalte verwendet.
4. Die Webseite weist nicht eindeutig darauf hin, dass ihr Inhalt von KI erstellt wird.