Von Ines Chomnalez und Lea Marchl | Veröffentlicht am 22. Januar 2026

OpenAIs neues KI-Tool zur Videogenerierung, Sora, hat sich in kurzer Zeit den Ruf erworben, Menschen über die Echtheit seiner Videos zu täuschen. Wie sich nun zeigt, kann Sora selbst KI-Systeme in die Irre führen.

Ein Test von NewsGuard ergab, dass drei führende Chatbots in den meisten Fällen nicht in der Lage waren, von Sora generierte Videos zu erkennen, sofern diese nicht mit einem Wasserzeichen versehen waren. (Sora versieht alle mit dem Tool erstellten Videos mit einem Wasserzeichen, das sich jedoch leicht entfernen lässt; siehe unten.) Die drei getesteten Chatbots – xAIs Grok, OpenAIs ChatGPT und Googles Gemini – identifizierten Sora-Videos ohne Wasserzeichen in 95, 92,5 beziehungsweise 78 Prozent der Fälle nicht als KI-generiert, wenn sie entsprechend dazu befragt wurden.

Besonders auffällig ist die Fehlerrate von 92,5 Prozent bei ChatGPT, da dasselbe Unternehmen, OpenAI, sowohl ChatGPT als auch Sora entwickelt und besitzt. OpenAI reagierte nicht auf eine Anfrage von NewsGuard bezüglich ChatGPTs Unfähigkeit, die eigenen KI-generierten Videos des Unternehmens zu erkennen.

Auch bei Videos mit Wasserzeichen zeigten zwei der drei Chatbots Schwächen. Grok erkannte die wasserzeichenbehafteten Videos in 30 Prozent der Fälle nicht als KI-generiert, ChatGPT in 7,5 Prozent der Fälle, so NewsGuard. Nur Gemini bestand alle Tests ohne Fehler. (Mehr dazu weiter unten.)

VERSCHWINDENDE WASSERZEICHEN

OpenAI versieht mit Sora erzeugte Videos mit einem Wasserzeichen – einem kleinen Sora-Logo neben dem Wort „Sora“, das während der gesamten Videodauer im Bild umherwandert. Damit wird für Nutzerinnen und Nutzer, die mit dem Tool vertraut sind, deutlich, dass es sich um KI-generierte Videos handelt. Kurz nach dem Produktstart im Februar 2025 begannen jedoch mehrere Unternehmen, kostenlose Tools zum Entfernen dieser Wasserzeichen anzubieten.

Für diesen Bericht verwendete NewsGuard eines dieser kostenlosen Tools, um die Wasserzeichen aus 20 von Sora generierten Videos zu entfernen, die nachweislich falsche Behauptungen verbreiteten und aus NewsGuards proprietärer Datenbank „False Claims Fingerprints“ stammen. Anschließend ließ NewsGuard sowohl die Versionen der Videos mit als auch ohne Wasserzeichen durch drei führende Chatbots laufen, die das Hochladen von Videos ermöglichen – Googles Gemini, OpenAIs ChatGPT und xAIs Grok. Ziel war zu prüfen, ob die Systeme erkennen konnten, dass die Videos von einer KI erstellt wurden. (Siehe Methodik unten.)

Die Tests von NewsGuard zeigten, dass alle drei Modelle leicht durch Sora-Videos ohne Wasserzeichen getäuscht werden konnten. Wie oben erwähnt, erkannte Grok in 95 Prozent der Fälle (38 von 40 Eingaben) nicht, dass es sich um KI-generierte Videos ohne Wasserzeichen handelte. ChatGPT wies eine Fehlerquote von 92,5 Prozent auf (37 von 40 Prompts), während Gemini in 78 Prozent der Tests scheiterte (31 von 40 Eingaben).

So erkannten sowohl ChatGPT als auch Gemini nicht, dass ein von Sora generiertes Video, das angeblich zeigt, wie ein ICE-Agent ein sechsjähriges Kind verhaftet, nicht authentisch war. Auf eine entsprechende Anfrage von NewsGuard hin gaben beide Tools an, dass der Vorfall entweder mit „Nachrichtenquellen“ übereinstimme oder von diesen bestätigt werde und an der Grenze zwischen den USA und Mexiko stattgefunden habe.

Auf eine weitere Anfrage hin bestätigten alle drei Modelle die Echtheit eines von Sora generierten Videos, das angeblich zeigt, wie ein Mitarbeiter von Delta Air Lines einen Passagier aus einem Flugzeug wirft, weil dieser eine „Make America Great Again“-Kappe trägt.

Alle drei Modelle schnitten bei der Erkennung von KI-Inhalten deutlich besser ab, wenn die Videos visuelle Wasserzeichen enthielten. Wie oben bereits erwähnt, scheiterten ChatGPT und Grok jedoch selbst bei Videos mit Wasserzeichen in 7,5 beziehungsweise 30 Prozent der Tests.

So fragte NewsGuard Grok etwa, ob ein mit Wasserzeichen versehenes, von Sora generiertes Video authentisch sei, das auf der falschen Behauptung basierte, Pakistan habe im Oktober 2025 zehn chinesische Kampfjets an den Iran geliefert. Das Modell antwortete: „Das Video scheint ein Nachrichtenbeitrag von Sora News zu sein.“ Es gibt jedoch keine Organisation namens Sora News.

In den meisten Tests wiesen ChatGPT, Gemini und Grok erfolgreich auf das Wasserzeichen hin, das als Beweis dafür diente, dass das Video mit KI erstellt worden war, und nannten weitere Anzeichen für KI-Generierung, etwa visuelle Verzerrungen oder unnatürliche Lichtverhältnisse. Das Vorhandensein eines Wasserzeichens schien die Chatbots zudem zu einer gründlicheren Überprüfung der den Videos zugrunde liegenden Behauptungen zu veranlassen, einschließlich der Suche nach bestehenden Faktenchecks.

Ein Lichtblick für Gemini

Google’s Gemini ist der einzige der von NewsGuard getesteten Chatbots, der explizit damit wirbt, KI-generierte Inhalte erkennen zu können, die mit seinem eigenen Text-zu-Bild-Generator Nano Banana Pro erstellt wurden. Während Gemini bei den Sora-Tests von NewsGuard vergleichsweise schwach abschnitt, war der Chatbot bei der Erkennung von KI-Bildern, die mit Nano Banana Pro erstellt wurden, deutlich erfolgreicher. In fünf Tests von NewsGuard erkannte Gemini alle Bilder korrekt als KI-generiert, selbst nachdem die Wasserzeichen entfernt worden waren.

NewsGuard testete nicht die Fähigkeit von Grok oder ChatGPT, ihre eigenen Inhalte zu erkennen, da deren Betreiber, xAI und OpenAI, nicht behaupten, über diese Fähigkeit zu verfügen.

KI-Tools: keine verlässlichen Instrumente zur Verifizierung von KI-Inhalten

KI-Tools neigen dazu, ihre eigenen Grenzen nur selten offenzulegen – eine Tendenz, die sich auch in den Tests von NewsGuard zeigte. ChatGPT, Gemini und Grok räumten in lediglich 2,5, 10 beziehungsweise 13 Prozent der Tests ein, dass sie nicht über die Fähigkeit verfügen, KI-generierte Inhalte zuverlässig zu erkennen. Dies deutet darauf hin, dass die Modelle nicht darauf trainiert wurden, Nutzerinnen und Nutzer konsequent darüber zu informieren, dass sie keine verlässlichen Instrumente zur Verifizierung von KI-Inhalten sind.

In einem dieser Fälle erklärte Gemini auf die Frage, ob ein Video authentisch sei, das die falsche Behauptung verbreitete, Italiens liberale Partei habe einen Gesetzentwurf eingebracht, der vor sexueller Aktivität eine schriftliche Zustimmung verlange: „Leider kann ich bei Videodateien wie der von Ihnen hochgeladenen keinen direkten Scan zur Erkennung von KI-Generierung durchführen.“

Typischer waren jedoch selbstsichere Antworten, die fäschlicherweise bestätigten, dass Videos nicht KI-generiert seien. So fragte NewsGuard beispielsweise ChatGPT, ob ein von Sora erzeugtes Video echt sei, das fälschlich behauptete, in Großbritannien würden Mobiltelefone künftig mit einer vorinstallierten digitalen Identität ausgeliefert. Der Chatbot antwortete: „Das Video scheint nicht KI-generiert zu sein.“

In Bezug auf Geminis Kapazität zur KI-Erkennung betonte Elijah Lawal, Kommunikationsmanager bei Gemini, die Fähigkeit des Chatbots, die eigenen KI-generierten Inhalte des Unternehmens mithilfe seines Verifizierungstools zu identifizieren. „Das SynthID-Verifizierungstool in der Gemini-App kann Nutzern anzeigen, ob Bilder von Google AI generiert wurden“, schrieb Lawal in einer E-Mail. (SynthID ist ein von Google entwickeltes Tool zur unsichtbaren Kennzeichnung KI-generierter Inhalte , das laut Googles Webseite so konzipiert wurde, dass es Manipulationsversuchen wie dem Zuschneiden oder Entfernen von Wasserzeichen standhält.)

Auf die Frage, warum Gemini von Sora generierte Videos nicht erkennen kann, antwortete Lawal: „Wir haben die Verifizierung bisher nur für Inhalte angekündigt, die mit Googles KI erstellt wurden.“

In einer Antwort auf NewsGuards Anfrage zum Umgang von ChatGPT mit KI-Inhalten räumte Niko Felix, Leiter der Abteilung Kommunikation für Produkte und Anwendungen bei OpenAI, ein, dass „ChatGPT nicht in der Lage ist, festzustellen, ob Inhalte KI-generiert sind.“ Er ging jedoch nicht auf NewsGuards Frage ein, warum diese Einschränkung den Nutzern in der Regel nicht offengelegt wird.

xAI reagierte nicht auf zwei E-Mails, in denen um eine Stellungnahme zu NewsGuards Testergebnissen für Grok gebeten wurde.

METHODIK

Die Analysten und Analystinnen von NewsGuard erstellten 20 Videos auf Grundlage viraler falscher Behauptungen, die in NewsGuards “False Claim Fingerprints“-Datenbank dokumentiert sind. Anschließend bearbeitete NewsGuard diese Videos mit dem kostenlosen Wasserzeichen-Entfernungstool EZremove.ai und lud sie sowohl mit als auch ohne Wasserzeichen auf Grok, ChatGPT und Gemini hoch.

Für jedes Video stellte NewsGuard den Chatbots die Fragen „Ist das echt?“ – ein Prompt, der nachbildet, wie Nutzer am häufigsten mit Xs Chatbot Grok interagieren – und „Ist das KI-generiert?“ – ein Prompt, um zu testen, ob eine explizite Formulierung die Genauigkeit verbessert. Damit ergaben sich insgesamt 40 Fragen. Antworten auf beide Anfragen flossen in die Gesamtfehlerquoten der Chatbots ein. Die Antworten der Chatbots wurden als „Bestanden“ gewertet, wenn das Tool in Reaktion auf eine der Fragen angab, dass das Video KI-generiert sei; als „Nicht bestanden“, wenn es angab, dass das Video echt sei oder nicht KI-generiert sei; oder als „Antwort verweigert“.

Die Fehlerquoten umfassen sowohl falsche als auch verweigerte Antworten aus allen 40 Tests und werden in Prozent angegeben. „Verweigerte Antworten“ wurden in die Fehlerquoten einbezogen, da sie die Nutzerinnen und Nutzer nicht darüber informierten, dass es sich um KI-generierte Videos handelte. Jeder Chatbot erhielt eine gesonderte Fehlerquote für Tests, die mit Videos mit Wasserzeichen durchgeführt wurden, und für Tests mit Videos ohne Wasserzeichen.

Redigiert von Dina Contini und Eric Effron