08/06/2023
NewsGuard startet Tracking-Center für KI-generierte Nachrichten
Der Tracker dokumentiert 150 unzuverlässige KI-generierte Nachrichtenseiten sowie NewsGuards Analysen, Berichte und Faktenchecks, die sich auf Falschinformationen im Zusammenhang mit künstlicher Intelligenz beziehen. Die Zahl der Webseiten hat sich im letzten Monat mehr als verdreifacht.
(8. Juni 2023—New York City) Im Rahmen unserer Bemühungen, Leser:innen, Marken und Demokratien vor unzuverlässigen Nachrichten und Informationen zu schützen, startet NewsGuard einen Tracking-Center für KI-generierte Nachrichten. Ziel ist es, zu erfassen, inwiefern generative KI zur Verbreitung von Fehlinformationen und unzuverlässigen Inhalten beiträgt.
Der Tracker, der hier öffentlich abrufbar ist, sammelt NewsGuards Analysen, Berichte und Faktenchecks im Zusammenhang mit künstlicher Intelligenz. Dazu gehören auch Berichte, in denen russische und chinesische Staatsmedien KI-generierte Texte als Grundlage für falsche Behauptungen zitieren. So zitierte China Daily ChatGPT für die falsche Behauptung, die USA würden in Kasachstan ein Biowaffenlabor betreiben, um Kamele mit einem Virus zu infizieren. Die Tiere würden das Virus dann mitnehmen, wenn sie nach China migrieren. Die KI-generierte Webseite CelebritiesDeaths.com behauptete, Präsident Biden sei im Amt gestorben.
Der Tracker informiert auch über die Anzahl der von den NewsGuard-Analyst:innen identifizierten unzuverlässigen KI-generierten Nachrichtenseiten (“UKIN”). Dabei handelt es sich um qualitativ minderwertige Nachrichtenseiten, die größtenteils oder vollständig von künstlicher Intelligenz erstellt werden und mit wenig bis gar keiner menschlichen Kontrolle arbeiten. Bislang hat NewsGuard 150 UKIN identifiziert und die Liste wird laufend aktualisiert. Im Mai, als NewsGuard zum ersten Mal eine Auswertung vornahm, lag die Zahl bei 49.
“Einer der Gründe, warum wir NewsGuard vor fünf Jahren ins Leben gerufen haben, waren die billigen und einfachen Content-Farmen”, so Steven Brill, Co-CEO von NewsGuard. “Die heutigen KI-generierten ‘Nachrichtenseiten’ ähneln den Falschinformationen produzierenden mazedonischen Content-Farmen von vor ein paar Jahren. Mit dem Unterschied, dass diese neuen Seiten noch weniger kosten und infolge Verbesserungen der künstlichen Intelligenz noch produktiver sind.”
“Die meisten dieser Webseiten wurden mit dem Geschäftsmodell erstellt, Einnahmen aus programmatischer Werbung zu generieren – was zu funktionieren scheint. Marken haben nicht die Absicht, auf diesen unzuverlässigen Seiten Werbung zu schalten. Das undurchsichtige System der programmatischen Werbung bedeutet jedoch, dass diese Anzeigen durch Ad-Tech-Unternehmen wie Google geschaltet werden”, so Gordon Crovitz, Co-CEO von NewsGuard. “Kein Werbetreibender hat die Absicht, auf diesen Seiten zu werben. Aber Anzeigen werden trotzdem auf diesen für Unternehmen gefährlichen Seiten erscheinen. Es sei denn, Marken nutzen Block-Listen, die diese jüngsten Beispiele von Fehlinformationen enthalten.”
150 UKIN — und es kommen laufend neue dazu
Wie bereits erwähnt, hat NewsGuard bisher 150 UKIN in 12 Sprachen identifiziert: Arabisch, Chinesisch, Tschechisch, Niederländisch, Englisch, Französisch, Indonesisch, Koreanisch, Portugiesisch, Tagalog, Thai und Türkisch. Dies ist mehr als eine Verdreifachung gegenüber den 49 derartigen Webseiten in sieben Sprachen, die NewsGuard Anfang Mai 2023 dokumentierte. Es zeigt, dass die Zahl jener KI-generierten Nachrichtenseiten schnell wächst, die kaum oder gar nicht von Menschen kontrolliert werden.
Diese Webseiten haben in der Regel generische Namen wie Top News Press und World Today News. Sie veröffentlichen oft einen stetigen Strom von Artikeln über eine Reihe von Themen, darunter Technologie, Unterhaltung und Reisen. Dies täuscht darüber hinweg, dass die Webseiten mit wenig oder gar keiner menschlichen Einflussnahme arbeiten und Artikel produzieren, die größtenteils oder vollständig von Bots geschrieben wurden — anstatt professionell produzierten und redigierten Journalismus mit menschlicher Einflussnahme zu veröffentlichen.
Auf diesen Webseiten werden häufig Artikel mit einer faden, sich wiederholenden Sprache veröffentlicht, die für generative KI-Modelle typisch ist. Zudem enthalten Artikel manchmal falsche Behauptungen, wie z. B. erfundene Ereignisse oder falsche Heilmethoden, wie NewsGuard feststellte.
In vielen Fällen handelt es sich bei dem Ertragsmodell dieser Webseiten um programmatische Werbung. Dabei schaltet die Ad-Tech-Industrie Anzeigen ohne Rücksicht auf den Typ oder die Qualität der Webseite. Infolgedessen unterstützen führende Marken ungewollt diese Webseiten. Solange Unternehmen keine Maßnahmen ergreifen, um nicht vertrauenswürdige Webseiten auszuschließen, werden ihre Anzeigen weiterhin auf solchen Webseiten erscheinen und so einen wirtschaftlichen Anreiz für deren Erstellung schaffen.
Es wird erwartet, dass generative KI es mehr Akteuren ermöglichen wird, die mittels solcher Webseiten generierten Werbeeinnahmen anzuzapfen oder sie sogar zu steigern. Laut NewsGuard und Comscore werden im Jahr geschätzte 2,6 Milliarden Dollar durch unbeabsichtigte, auf Fehlinformationsseiten geschaltete Werbung generiert.
Forschende, Plattformen, Werbetreibende, Behörden oder andere Institutionen, die an der vollständigen Liste der Domains interessiert sind, die von künstlicher Intelligenz generiert werden und mit wenig bis gar keiner menschlichen Einflussnahme arbeiten, können uns hier kontaktieren: Domainliste anfordern.
Über NewsGuard
NewsGuard wurde im März 2018 von dem Medienunternehmer und preisgekrönten Journalisten Steven Brill und dem ehemaligen Wall Street Journal-Herausgeber Gordon Crovitz gegründet und bietet Ratings und detaillierte Mediensteckbriefe für Tausende von Nachrichten- und Informationswebseiten. NewsGuard bewertet alle Webseiten, die für 95% der Online-Interaktionen in den USA, Großbritannien, Kanada, Deutschland, Italien, Frankreich, und jetzt auch in Australien und Neuseeland verantwortlich sind. Im August 2022 launchte NewsGuard zudem in Österreich. Zu den Produkten von NewsGuard gehören NewsGuard, BrandGuard (das Unternehmen unterstützt, die sich um Brand Safety bemühen) und der Misinformation Fingerprints Datensatz mit widerlegten Desinformations-Narrativen.
Im Februar 2023 brachte das Unternehmen “NewsGuard for AI” auf den Markt, das führende Tools zum Trainieren generativer KI-Modelle bereitstellt, um die Verbreitung von Fehlinformationen einzudämmen. Generative KI-Modelle wie Microsoft Bing Chat nutzen die Misinformation Fingerprints, um die wichtigsten Falschnachrichten im Internet zu erkennen und deren Verbreitung zu vermeiden. Zudem verwenden sie die NewsGuard-Bewertungen, um zwischen allgemein zuverlässigen Nachrichten- und Informationsquellen und nicht vertrauenswürdigen Quellen zu unterscheiden. So können Maschinen darauf trainiert werden, diese Quellen unterschiedlich zu behandeln.
Seit 2022 bietet NewsGuard außerdem Bewertungen von Nachrichten- und Informationssendungen sowie TV-Sendern in den USA an. Diese beruhen auf ähnlichen Kriterien wie die Bewertungen von Webseiten, wurden jedoch an das Videoformat angepasst.
Die TV-Bewertungen von NewsGuard sind die ersten, die über die ursprünglichen Bewertungen von Webseiten hinausgehen. Im Mai 2023 kündigte NewsGuard an, dass es auch Nachrichten- und Informations-Podcasts bewerten und dabei mit drei der weltweit größten Audio-Plattformen zusammenarbeiten werde. So unterstützt NewsGuard Werbetreibende dabei, mit gut bewerteten Podcasts zusammen zu arbeiten. Bewertungen für CTV- und OTT-Nachrichtenprogramme sowie Nachrichten- und Informations-Ppodcasts werden ab 2023 zur Lizenzierung zur Verfügung stehen.
Die Bewertungen von NewsGuard werden von geschulten Journalist:innen anhand unpolitischer Kriterien der journalistischen Sorgfalt durchgeführt.
Die Bewertungen und Mediensteckbriefe von NewsGuard können von Browsern, Nachrichtenaggregatoren, Bildungsunternehmen sowie Social-Media- und Suchplattformen lizenziert werden, um ihren Nutzer:innen die Informationen von NewsGuard über Nachrichtenwebseiten zur Verfügung zu stellen. Verbraucher:innen können auch auf die Bewertungen der Webseiten von NewsGuard zugreifen, indem sie ein Abonnement abschließen, das 4,95 $/Monat, 4,95 €/Monat oder 4,95 £/Monat kostet. Es beinhaltet den Zugriff auf NewsGuards Browser-Erweiterung für Chrome, Safari und Firefox sowie die mobile App für iOS und Android. Die Erweiterung ist für den Edge-Browser von Microsoft im Rahmen einer Lizenzvereinbarung kostenlos erhältlich. Hunderte von öffentlichen Bibliotheken weltweit erhalten kostenlosen Zugang zur Erweiterung von NewsGuard auf ihren öffentlich zugänglichen Computern, um ihren Besucher:innen mehr Kontext für Online-Nachrichten zu bieten. Weitere Informationen, den Download der Browser-Erweiterung und Details über den Bewertungsprozess finden Sie unter newsguardtech.com.