28/03/2024

NewsGuard und SafetyKit stellen automatisiertes Tool zur Erkennung von Falschinformationen vor

Mithilfe NewsGuards Misinformation Fingerprints Library in Verbindung mit der leistungsstarken KI von SafetyKit können Content-Moderations- und Trust-and-Safety-Teams jetzt falsche Inhalte in großem Umfang erkennen

(28. März 2024 — New York) NewsGuard, der führende Anbieter menschlich kuratierter Glaubwürdigkeitsdaten, und SafetyKit, die einzige KI-Automatisierungsplattform, die für Trust- und Safety-Teams entwickelt wurde, bringen heute “Scaled Misinformation Reviews” auf den Markt. Das Produkt kombiniert die menschliche Intelligenz von NewsGuard mit der KI von SafetyKit Trust and Safety, um Fehlinformationen in großem Umfang zu identifizieren.

Plattformen können Scaled Misinformation Reviews nutzen, um automatisch Fehlinformationen auf der eigenen Plattform zu finden, zu sichten und zu adressieren ⁠— ohne dass ein Team von Fehlinformations-Experten und Machine-Learning-Ingenieuren benötigt wird.

 

Wie funktioniert das? 

1. Das Journalistenteam von NewsGuard kuratiert eine umfassende, ständig aktualisierte Datenbank mit den wichtigsten Falschmeldungen, die im Internet kursieren – die so genannte “Misinformation Fingerprints“-Datenbank.
2. SafetyKit bietet eine anpassbare KI-gestützte Lösung, die Inhalte, die gegen die Vertrauens- und Sicherheitsrichtlinien einer Plattform verstoßen, automatisch erkennt. Für jede Auswahl wird eine ausführliche, von den Richtlinien unterstützte Erklärung geliefert.
3. Die spezialisierte Trust and SafetyAI von SafetyKit gleicht Inhalte mit den NewsGuard Misinformation Fingerprints ab und unterscheidet zwischen Inhalten, die eine falsche Behauptung verbreiten, und Inhalten, die diese Behauptung widerlegen.
4. SafetyKit liefert Plattformen einen detaillierten Bericht über den Misinformation Fingerprint, der folgende Punkte beinhaltet:

a) eine ausführliche Erklärung, warum dieser Inhalt mit den bekannten Fehlinformationen übereinstimmt

b) einen Link zum NewsGuard Misinformation Fingerprint

c) Anpassbare plattformspezifische Aktionsvorschläge wie Ausblenden, Herabstufung oder Hinzufügen einer Warnmeldung zum Inhalt 

 

Das gemeinsame Angebot ermöglicht es Plattformen, effizient und gezielt vorzugehen, um falsche Inhalte in großem Umfang mithilfe der Trust and Safety AI von SafetyKit zu kennzeichnen — und gleichzeitig die Gewissheit zu haben, dass die Entscheidungen auf dem menschlichen Expertenurteil von NewsGuard beruhen.

“Wir haben gesehen, wie Unternehmen versucht haben, Algorithmen zu entwickeln, die Fehlinformationen ohne menschliche Hilfe erkennen können. Und wie sie dabei gescheitert sind”, sagt Steve Brill, Co-CEO von NewsGuard. “Mit SafetyKit haben wir endlich den Code dafür geknackt, wie Algorithmen die Erkennung von Fehlinformationen verantwortungsvoll automatisieren können: Indem wir unseren von Menschen kuratierten Katalog falscher Behauptungen als Datengrundlage verwenden, auf die sich die KI bei der Klassifizierung von Inhalten beziehen kann.”

“Der Einsatz von KI zur Skalierung menschlicher Intelligenz ist die Zukunft von Trust of Safety”, sagte David Graunke, SafetyKit CEO. “Die Kombination der vertrauenswürdigen menschlichen Intelligenz von NewsGuard mit SafetyKits Trust and Safety-KI bedeutet, dass Plattformen 100% ihrer Inhalte mit menschlichem Feingefühl überprüfen können. Das bedeutet, dass Teams Fehlinformationen über ihre Plattformen hinweg bekämpfen und gleichzeitig kostspielige Fehlalarme vermeiden können.”

 

Beispiel:

Das Team von NewsGuard widerlegt Falschmeldungen manuell und fügt sie der Misinformation Fingerprints-Datenbank hinzu, wie im untenstehenden Beispiel-Fingerprint:

SafetyKit kennzeichnet automatisch Inhalte, die mit dem Fingerprint der NewsGuard-Datenbank übereinstimmen, und liefert eine Erklärung, warum der Inhalt mit dem Fingerprint von NewsGuard übereinstimmt:

Diese Lösung funktioniert format-, themen- und sprachübergreifend:

• Formate: Die Lösung kann Fehlinformationen in Text-, Video-, Audio- und Bildinhalten identifizieren.
• Themen: NewsGuard verfolgt Falschmeldungen zu einer Reihe von Themen, darunter Gesundheit, COVID-19, Wahlen, staatlich geförderte Propaganda, Kriegsfehlinformationen, Klimawandel und mehr.
• Sprachen: SafetyKit kann Inhalte überprüfen und Fehlinformationen in 133 Sprachen identifizieren.

Wenn Sie mehr über diese Lösung erfahren möchten, wenden Sie sich an roberta.schmid@newsguardtech.com oder alex@safetykit.com.

 

Über NewsGuard

NewsGuard wurde von dem Medienunternehmer und preisgekrönten Journalisten Steven Brill und dem ehemaligen Herausgeber des Wall Street Journal, Gordon Crovitz, gegründet. Das Unternehmen bietet transparente Tools zur Bekämpfung von Fehlinformationen für Leser:innen, Marken und Demokratien. Seit dem Start im Jahr 2018 hat das globale Team aus geschulten Journalist:innen mehr als 6,9 Millionen Daten zu mehr als 35.000 Nachrichten- und Informationsquellen gesammelt, aktualisiert und veröffentlicht. So verfolgt und katalogisiert das Team Falschnachrichten, die sich online verbreiten.

NewsGuards Analyst:innen, die mit mehreren KI-Tools arbeiten, betreiben den bisher größten und transparentesten Datensatz zur Vertrauenswürdigkeit von Nachrichtenquellen. Diese Daten werden auch zur Präzisierung und Bereitstellung von Schutzmaßnahmen für generative KI-Modelle eingesetzt. Sie ermöglichen es Marken und Werbeagenturen zudem, auf hochwertigen Nachrichtenseiten zu werben und Propaganda- oder Desinformationsseiten zu vermeiden, und bieten Anleitungen zur Medienkompetenz für Einzelpersonen. Gleichzeitig unterstützen die Datensätze demokratische Regierungen bei der Bekämpfung feindlicher Desinformationsoperationen.

NewsGuards unpolitische und transparente Kriterien werden von NewsGuards Analyst:innen unter anderem dazu verwendet, Nachrichtenquellen zu bewerten, die für 95 Prozent der Online-Nachrichtennutzung in neun Ländern verantwortlich sind.

 

About SafetyKit

SafetyKit wendet großflächig Vertrauens- und Sicherheitsrichtlinien mit menschlichem Feingefühl an. Die Gründer von SafetyKit haben Trust und Safety bei Stripe und Airbnb durch Skalierung der menschlichen Intelligenz aufgebaut. SafetyKit nutzt KI, um noch weiter zu skalieren. Die vorgefertigten Integrationen und No-Code-Tools von SafetyKit bedeuten, dass Trust- und Safety-Teams ihre Plattformen auch ohne Hilfe von Ingenieur:innen und maschinellem Lernen sicher gestalten können. Unternehmen wie Substack und Lime vertrauen auf SafetyKit, um ihre Nutzer:innen und Plattformen zu schützen.