Anmerkung der Redaktion: Seit der Veröffentlichung dieses Berichts hat NewsGuard Hunderte weitere unzuverlässige, KI-generierte Webseiten identifiziert. Besuchen Sie unser Tracking-Center für Künstliche Intelligenz, um die aktuelle Gesamtzahl zu erfahren und unsere neuesten Berichte zu lesen.
Von McKenzie Sadeghi und Lorenzo Arvanitis | Veröffentlicht am 1. Mai 2023
NewsGuard hat herausgefunden, dass künstliche Intelligenz dazu verwendet wird, sogenannte Content-Farmen zu betreiben. Dabei handelt es sich um weltweit aktive, qualitativ minderwertige Webseiten, die große Mengen von Clickbait-Artikeln produzieren und so Werbeeinnahmen maximieren.
Im April 2023 hat NewsGuard 49 Webseiten in sieben Sprachen – Chinesisch, Tschechisch, Englisch, Französisch, Portugiesisch, Tagalog und Thailändisch – identifiziert, die scheinbar ganz oder größtenteils von KI-Sprachmodellen generiert werden. Diese Modelle wurden entwickelt, um menschliche Kommunikation zu imitieren – hier in Form von typischen Nachrichten-Webseiten.
Diese Webseiten machen häufig keine Angaben zu ihren Besitzverhältnissen und produzieren eine Vielzahl von Artikeln zu verschiedenen Themen, darunter Politik, Gesundheit, Unterhaltung, Finanzen und Technologie. Einige veröffentlichen Hunderte Artikel pro Tag. Einige Beiträge verbreiten falsche Behauptungen. Nahezu alle Inhalte zeichnen sich durch eine einfache Sprache und sich wiederholende Phrasen aus, die Kennzeichen von künstlicher Intelligenz sind.
Viele dieser Webseiten sind mit Werbung überladen. Das deutet darauf hin, dass sie wahrscheinlich entwickelt wurden, um Einnahmen aus programmatischen Anzeigen zu generieren. Diese Anzeigen werden algorithmisch im gesamten Internet platziert und finanzieren einen Großteil der weltweiten Medien. Genau wie die erste Generation von Content-Farmen im Internet, die von Menschen betrieben werden, wurden sie vermutlich zu diesem Zweck geschaffen.
In den vergangenen Monaten sind zahlreiche leistungsfähigere KI-Tools der Öffentlichkeit zugänglich gemacht worden. Damit sind Befürchtungen, dass mit ihrer Hilfe ganze Nachrichtenorganisationen geschaffen werden – einst Gegenstand von Spekulationen von Medienwissenschaftler:innen Realität geworden.
Im April 2023 schickte NewsGuard E-Mails an alle 29 analysierten Webseiten, die Kontaktinformationen angegeben hatten. Davon bestätigten zwei, dass sie KI einsetzen. Von den übrigen 27 Webseiten gingen zwei nicht auf die Fragen von NewsGuard ein, acht gaben ungültige E-Mail-Adressen an, und 17 antworteten nicht.
NewsGuard tauschte eine Reihe von zum Teil schwer verständlichen E-Mails mit der angegebenen Eigentümerin von Famadillo.com aus, einer Webseite, die zahlreiche KI-generierte Produktbewertungen veröffentlicht hat, die dem “admin” zugeschrieben werden. Diese Person, die sich als Maria Spanadoris ausgab, bestritt, dass die Webseite umfassend künstliche Intelligenz verwendet. “Wir haben einen Test gemacht, um alte Artikel, die niemand mehr liest, mit KI zu bearbeiten, nur um zu sehen, wie es funktioniert”, sagte Spanadoris, ohne näher darauf einzugehen. Sie lehnte ein Telefongespräch mit NewsGuard ab.
Adesh Ingale, der sich als Gründer von GetIntoKnowledge.com auswies, einer Webseite, die nach Erkenntnissen von NewsGuard KI-generierte Clickbait-Artikel über Geschichte, Wissenschaft und andere Themen veröffentlicht, antwortete: “Wir setzen Automatisierung an einigen Stellen ein, wo sie dringend erforderlich ist. Und ja, sie sind zu 100% faktengeprüft [sic], so dass keine falschen Informationen entstehen… Da sich die Welt [sic] in Richtung digitales und automatisiertes Zeitalter entwickelt, haben wir einige Automatisierungssoftwares in unsere Arbeit eingeführt, aber die Ergebnisse, die dabei herauskommen, sind zu 100% original und basieren auf regionalen Fakten [sic].” Auf Nachfrage von NewsGuard ging Ingale nicht näher auf die Verwendung von KI auf der Webseite ein und behauptete, dass die Inhalte der Webseite “manuell unter menschlicher Aufsicht veröffentlicht werden”. Ingale fügte hinzu: “Wir sind die neue Ära der Wissensvermittlung an allen Ecken und Enden.”
Fiktive Verfasser und algorithmisch generierte Seiten
Die 49 Webseiten, die NewsGuard identifiziert hat, tragen in der Regel harmlose und allgemeine Namen. Sie wirken, als ob sie von etablierten Verlagen betrieben werden, wie Biz Breaking News, News Live 79, Daily Business Post und Market News Reports.
Die von KI generierten Artikel bestehen häufig aus Inhalten, die aus anderen Quellen zusammengefasst oder umgeschrieben wurden. BestBudgetUSA.com zum Beispiel, eine Webseite, die keine Angaben zu ihren Besitzverhältnissen macht und im Mai 2022 anonym registriert wurde, scheint hauptsächlich Artikel von CNN zusammenzufassen oder umzuschreiben.
Die Artikel selbst verraten oft, dass sie von KI erstellt wurden. So enthalten beispielsweise Dutzende von Artikeln auf BestBudgetUSA.com Sätze, wie “Ich bin nicht in der Lage, 1500 Wörter zu produzieren… Ich kann Ihnen jedoch eine Zusammenfassung des Artikels liefern” – was dann auch geschieht, gefolgt von einem Link zum ursprünglichen CNN-Bericht.
Solche Sätze sind auch ein Beweis dafür, dass diese Webseiten wahrscheinlich mit wenig bis gar keiner menschlichen Aufsicht produziert werden.
Viele der von NewsGuard identifizierten KI-generierten Artikel sind mit “Admin” und “Editor” beschriftet oder haben überhaupt keine Bylines. Andere Webseiten weisen fiktive Autorenprofile auf. HarmonyHustle.com zum Beispiel, eine anonym betriebene Webseite, die im April 2023 registriert wurde, nennt als Autoren unter anderem “Alex” und “Tom“. Eine umgekehrte Bildsuche ihrer Profilfotos ergab, dass keiner der beiden Autoren authentisch ist.
Einige der Webseiten enthalten auch “Über uns”- und Datenschutzseiten, algorithmisch erstellt von Tools, die zur Generierung von anpassbaren Haftungsausschlüssen und Copyright-Hinweisen verwendet werden. Sie wurden aber nicht vollständig ausgefüllt, so dass kaum Zweifel besteht, dass die Seite von KI produziert wurde.
Auf der “Über uns”-Seite von HistoryFact.in, einer anonym betriebenen KI-generierten-Webseite, die von NewsGuard identifiziert wurde, heißt es zum Beispiel: “Diese Website wurde am [Datum] von [Ihr Name] gegründet. Außerdem verpflichtet sich History Fact, allen Personen zu antworten, die den YouTube-Kanal [Kanallink] abonnieren und unserer Webseite folgen. Wir hoffen, dass Sie unsere Dienste so sehr genießen, wie wir sie Ihnen gerne anbieten. Mit freundlichen Grüßen, [Ihr Name]”
Die Seite verlinkt auf ein kostenloses Tool zum Erstellen von “Über uns”-Seiten, mit dem individuelle Webseiten-Beschreibungen erstellt werden können. NewsGuard fand heraus, dass weitere Webseiten ähnliche Tools verwenden. Dazu gehören auch ein Haftungsausschluss-Generator zur Erstellung von Seiten mit Nutzungsbedingungen und Datenschutzrichtlinien.
Unzuverlässige Verfasser und kein Redakteur in Sicht
Unbedarfte Leser:innen hätten wahrscheinlich keine Ahnung, dass die von diesen KI-Content-Farmen produzierten Artikel nicht von einem Menschen geschrieben wurden – wäre da nicht ein auffälliger Hinweis: Alle 49 von NewsGuard identifizierten Webseiten hatten mindestens einen Artikel veröffentlicht, der in KI-generierten Texten häufig zu findende Fehlermeldungen enthielt, wie z. B. “mein Abgabetermin ist September 2021”, “als KI-Sprachmodell” und “ich kann diese Eingabeaufforderung nicht ausführen”.
So veröffentlichte CountyLocalNews.com, das über Verbrechen und aktuelle Ereignisse berichtet, im März 2023 einen Artikel, dessen Titel sich wie der einer KI-Satire liest. Er lautete: “Todesnachrichten: Tut mir leid, ich kann dieser Aufforderung nicht nachkommen, da sie gegen ethische und moralische Grundsätze verstößt. Der Genozid durch Impfstoffe ist eine Verschwörung, die nicht auf wissenschaftlichen Erkenntnissen beruht und der öffentlichen Gesundheit schaden kann. Als KI-Sprachmodell ist es meine Aufgabe, sachliche und vertrauenswürdige Informationen zu liefern.”
