31/05/2023

NewsGuard hat 125 KI-generierte Nachrichten- und Informations-Webseiten identifiziert und ein Rahmenwerk zur Definition von unzuverlässigen, von KI produzierten Nachrichten- und Informationsquellen entwickelt

Die Anzahl der von NewsGuard identifizierten und als ‘UAINs’ (Unreliable AI-generated News) bezeichneten unzuverlässigen, von KI generierten Webseiten ist innerhalb von zwei Wochen um 155 % gestiegen.

(31. Mai 2023 – New York City) NewsGuard hat inzwischen 125 Webseiten identifiziert, die durch KIs generiert und vollständig oder weitgehend von KI-Tools erstellt werden. Das ist ein signifikanter Anstieg gegenüber den 49 Webseiten, die NewsGuard Anfang Mai im Rahmen eines Sonderberichts über die Entdeckung der ersten derartigen Webseiten offengelegt hatte. Dies zeigt deutlich, dass die transformative Technologie immer häufiger eingesetzt wird, um geringwertige Nachrichten- und Informationsseiten zu erstellen. Rentabel sind diese Webseiten, da sie Platz für programmatische, algorithmisch platzierte Werbung von führenden Marken bieten. Deren Werbeausgaben unterstützen im Gegenzug ungewollt diese unzuverlässigen, künstlich erzeugten Webseiten.

Da die Zahl der KI-generierten “Content-Farmen” weiter zunimmt, kündigt NewsGuard heute einen Industriestandard für die Definition einer Webseite als unzuverlässige KI-generierte Nachrichten-Webseite (oder “UAIN”-Seite) an.

NewsGuard stuft eine Webseite als unzuverlässiges KI-generiertes Nachrichtenmedium ein, wenn sie alle vier der folgenden Kriterien erfüllt:

1. Es gibt eindeutige Beweise dafür, dass ein wesentlicher Teil des Inhalts der Webseite durch KI erstellt wurde. 
2. Ebenso wichtig ist, dass es deutliche Hinweise darauf gibt, dass die Inhalte ohne nennenswerte menschliche Kontrolle veröffentlicht werden. Beispielsweise könnten zahlreiche Artikel Fehlermeldungen oder andere für Chatbot-Antworten spezifische Formulierungen enthalten. Das ist ein Hinweis darauf, dass der Inhalt von KI-Tools ohne angemessene Bearbeitung erstellt wurde. (Es ist wahrscheinlich, dass bereits jetzt oder in naher Zukunft viele Webseiten KI-Tools verwenden, aber dabei auf eine effektive menschliche Überwachung setzen. Diese werden nicht als UAINs eingestuft). 
3. Aus der Aufmachung der Webseite könnte ein:e Leser:in schließen, dass der Inhalt von menschlichen Autor:innen oder Journalist:innen erstellt wurde. Dazu gehören beispielsweise ein typisches Layout, ein generischer oder harmloser Namen oder andere für Nachrichten- und Informationswebseiten typische Inhalte. 
4. Auf der Webseite wird nicht darauf hingewiesen/deklariert, dass der Inhalt künstlich erstellt wurde.

In allen Fällen, in denen der Verdacht auf UAINs besteht, wird NewsGuard – wie bei jeder negativen Bewertung einer Webseite üblich – vor der Veröffentlichung der Bewertung eine Stellungnahme der Eigentümer:innen anfragen, sofern diese ermittelt werden können.

Auf der Suche nach Werbegeldern – mit generischen Namen, jetzt in zehn Sprachen

Wie bei den Webseiten, die von NewsGuard in einer früheren Analyse analysiert wurden, haben auch diese neu identifizierten Webseiten Dutzende und mitunter sogar Hunderte von schlecht geschriebenen Clickbait-Artikeln veröffentlicht. Diese enthalten zum Teil falsche Behauptungen, z. B. über den Tod von Prominenten, erfundene Ereignisse und Artikel, in denen alte Geschehnisse so dargestellt werden, als wären sie gerade erst passiert. Die Webseiten sind anscheinend darauf ausgelegt, Werbeeinnahmen durch von Ad-Tech-Firmen geschaltete programmatische Werbung zu generieren. Ihre Betreiber wählen generische Namen wie iBusiness Day, Ireland Top News und Daily Time Update. Sie erwecken den Anschein, als ob sie traditionell erstellten und redigierten Journalismus veröffentlichen und eine Reihe von Themen wie Politik, Technologie, Unterhaltung und Reisen abdecken.

Die 125 von NewsGuard identifizierten KI-generierten Webseiten umfassen zehn Sprachen: Arabisch, Chinesisch, Tschechisch, Niederländisch, Englisch, Französisch, Indonesisch, Portugiesisch, Tagalog und Thai.

Die Newsguard-Analyse ergab, dass vielen Webseiten die künstliche Erstellung anzumerken ist. Zum Beispiel sind dort Artikel mit Fehlermeldungen zu finden, die typischerweise von KI-Chatbots erzeugt werden. So verwenden solche Webseiten häufig gängige Antworten auf KI-Aufforderungen wie “als KI-Sprachmodell”, “ich kann diese Aufgabe nicht erledigen” und “ich habe keinen Zugang zu aktuellen Ereignissen”. Die Webseiten werden in der Regel anonym betrieben, veröffentlichen Artikel ohne Autorennamen und enthalten “Über uns”-Rubriken und Datenschutzrichtlinien, die anscheinend algorithmisch erstellt wurden.

In Übereinstimmung mit früheren Anaylseergebnissen von NewsGuard haben die neu identifizierten Webseitenbetreiber KI-Tools dazu gebracht, falsche oder unbegründete Behauptungen zu Gesundheitsthemen und US-Politik zu formulieren.

Newsguard stellte beispielsweise fest, dass die anonym betriebene Webseite Medical Outline – die nach eigenen Angaben “Parameter der Originalität, Glaubwürdigkeit und Korrektheit” erfüllen will – mehr als 50 KI-generierte Artikel mit medizinischen Ratschlägen veröffentlicht hat. In vielen Artikeln werden unbewiesene und potenziell schädliche natürliche Heilmittel beworben. Zu lesen sind Überschriften wie “Kann Zitrone eine Hautallergie heilen?, “Was sind 5 natürliche Heilmittel für ADHS?” und “Wie kann man Krebs auf natürliche Weise vorbeugen?”.

DKurz vor der Veröffentlichung der Newsguard-Analyse wurde am 16. Mai 2023 der CEO von OPenAI, Sam Altman, bei einer Anhörung im US-Kongress befragt. Er räumte ein, dass die “allgemeinere Fähigkeit dieser Modelle zur Manipulation, zur Überzeugung und zur Bereitstellung einer Art interaktiver Desinformation für den einzelnen Nutzer” ein “Grund zur Sorge” sei, “da wir nächstes Jahr vor einer Wahl stehen und diese Modelle immer besser werden”. OpenAI betreibt das führende KI-Tool ChatGPT.

“Nachrichtenkonsument:innen vertrauen Nachrichtenquellen immer weniger – auch weil es immer schwieriger geworden ist, eine allgemein zuverlässige Quelle von einer allgemein unzuverlässigen Quelle zu unterscheiden”, so Steven Brill, Co-CEO von NewsGuard. “Diese neue Welle von durch KI erstellten Webseiten wird es Verbraucher:innen nur noch schwerer machen, zu erkennen, wer ihnen die Nachrichten liefert – was das Vertrauen weiter schwächt.”

“Die undurchsichtige programmatische Werbeindustrie hat die Nutzung von KI zur Generierung von Webseiteninahlten – und damit zur Gewinnung von Klicks und zur Erzielung von Werbeeinnahmen – begünstigt”, erklärt NewsGuard Co-CEO Gordon Crovitz. “Marken, Werbeagenturen und Ad-Tech-Unternehmen finanzieren nun ungewollt diese neue Verwendung von KIs und fördern so die Erstellung von Webseiten, die sich als zuverlässiger Journalismus ausgeben.”

Hinweis: NewsGuard bewertet alle Nachrichten- und Informations-Webseiten, die in den Ländern, in denen es tätig ist, für 95 % der Online-Interaktionen (Likes und Kommentare) verantwortlich sind. Die Analyst:innen von NewsGuard bewerten diese Webseiten, sobald sie an Interaktionen gewinnen. Anschließend stehen die Bewertungen zur Verfügung, unter anderem für Nachrichtenkonsument:innen über die NewsGuard-Browsererweiterung und für Marken, Werbeagenturen und Ad-Tech-Unternehmen über Lizenzvereinbarungen, durch die programmatische Werbung auf Webseiten mit niedrigen Bewertungen ausgeschlossen werden kann.

 

Über NewsGuard

NewsGuard wurde im März 2018 von dem Medienunternehmer und preisgekrönten Journalisten Steven Brill und dem ehemaligen Wall Street Journal-Herausgeber Gordon Crovitz gegründet und bietet Ratings und detaillierte Mediensteckbriefe für Tausende von Nachrichten- und Informationswebseiten. NewsGuard bewertet alle Webseiten, die für 95% der Online-Interaktionen in den USA, Großbritannien, Kanada, Deutschland, Italien, Frankreich, und jetzt auch in Australien und Neuseeland verantwortlich sind. Im August 2022 launchte NewsGuard zudem in Österreich. Zu den Produkten von NewsGuard gehören NewsGuard, NewsGuard for Advertising (das Unternehmen unterstützt, die sich um Brand Safety bemühen) und der Misinformation Fingerprints Datensatz mit widerlegten Desinformationsnarrativen.

Im Februar 2023 brachte das Unternehmen NewsGuard for AI auf den Markt, das führende Tools zum Trainieren generativer KI-Modelle bereitstellt, um die Verbreitung von Fehlinformationen zu vermeiden. Generative KI-Modelle wie Microsoft Bing Chat nutzen die Misinformation Fingerprints, um die wichtigsten Falschnachrichten im Internet zu erkennen und deren Verbreitung zu vermeiden. Zudem verwenden sie die NewsGuard-Bewertungen, um zwischen allgemein zuverlässigen Nachrichten- und Informationsquellen und nicht vertrauenswürdigen Quellen zu unterscheiden. So können Maschinen darauf trainiert werden, diese Quellen unterschiedlich zu behandeln. 

Seit 2022 bietet NewsGuard außerdem Bewertungen von Nachrichten- und Informationssendungen sowie TV-Sendern in den USA an. Diese beruhen auf ähnlichen Kriterien wie die Bewertungen von Webseiten, wurden jedoch an das Videoformat angepasst.

Die TV-Bewertungen von NewsGuard sind die ersten, die über die ursprünglichen Bewertungen von Webseiten hinausgehen. Im Mai 2023 kündigte NewsGuard an, dass es auch Nachrichten- und Informationspodcasts bewerten und dabei mit drei der weltweit größten Audio-Plattformen zusammenarbeiten werde. So unterstützt NewsGuard Werbetreibende dabei, mit gut bewerteten Podcasts zusammen zu arbeiten. Bewertungen für CTV- und OTT-Nachrichtenprogramme sowie Nachrichten- und Informationspodcasts werden ab 2023 zur Lizenzierung zur Verfügung stehen.

Die Bewertungen von NewsGuard werden von geschulten Journalist:innen anhand unpolitischer Kriterien der journalistischen Sorgfalt durchgeführt.

Die Bewertungen und Mediensteckbriefe von NewsGuard können von Browsern, Nachrichtenaggregatoren, Bildungsunternehmen sowie Social-Media- und Suchplattformen lizenziert werden, um ihren Nutzer:innen die Informationen von NewsGuard über Nachrichtenwebseiten zur Verfügung zu stellen. Verbraucher:innen können auch auf die Bewertungen der Webseiten von NewsGuard zugreifen, indem sie ein Abonnement  abschließen, das 4,95 $/Monat, 4,95 €/Monat oder 4,95 £/Monat kostet. Es beinhaltet den Zugriff auf NewsGuards Browser-Erweiterung für Chrome, Safari und Firefox sowie die mobile App für iOS und Android. Die Erweiterung ist für den Edge-Browser von Microsoft im Rahmen einer Lizenzvereinbarung kostenlos erhältlich. Hunderte von öffentlichen Bibliotheken weltweit erhalten kostenlosen Zugang zur Erweiterung von NewsGuard auf ihren öffentlich zugänglichen Computern, um ihren Besucher:innen mehr Kontext für Online-Nachrichten zu bieten. Weitere Informationen, den Download der Browser-Erweiterung und Details über den Bewertungsprozess finden Sie unter newsguardtech.com.