Protéger l’IA contre les opérations d’ingérence étrangère visant à contaminer les grands modèles de langage

Le service de NewsGuard FAILSafe pour IA permet aux entreprises d’IA générative de détecter et de prévenir les opérations d’ingérence étrangère qui visent à corrompre les réponses de l’IA avec de la désinformation et de la propagande d’État.

Le service FAILSafe a été créé après la publication par NewsGuard d’un audit inédit qui a montré comment des réseaux de désinformation russe ont contaminé les principaux outils d’intelligence artificielle générative, menant ces outils à répéter des récits de propagande dans 33% des cas. Il fournit aux entreprises d’IA des données en temps réel (vérifiées par des chercheurs en désinformation spécialisés dans les opérations d’ingérence étrangère) sur les récits et les sources impliqués dans les opérations d’ingérence menées par les gouvernements russes, chinois et iranien.

Des données en temps réel sur les infox issues d’opérations d’influence étatiques

FAILSafe fournit aux entreprises d’IA un flux de données continuellement mis à jour sur les récits faux diffusés par les opérations d’ingérence russes, chinoises et iraniennes. Les entreprises d’IA peuvent utiliser ces données pour s’assurer que leurs systèmes ne répètent pas par inadvertance ces récits en réponse aux requêtes des utilisateurs.

Base de données des domaines et comptes liés à des opérations d’ingérences étrangères 

Les entreprises d’IA peuvent utiliser les données continuellement mises à jour de la base de données FAILSafe, qui comprend des sites, comptes sur les réseaux sociaux, utilisateurs sur les plateformes et autres lieux de publication directement impliqués dans les opérations malveillantes d’influence étrangère. Cette base de données est construite pour permettre aux entreprises d’IA de s’assurer que leurs systèmes ne s’appuient pas sur le contenu de ces sites web et comptes. 

Audits et veille par des experts de la désinformation 

Les analystes de NewsGuard peuvent effectuer des tests de résistance périodiques des produits d’IA pour déterminer si, et dans quelle mesure, les récits faux russes, chinois et iraniens ont contaminé les réponses. Ces tests sont effectués par des analystes de NewsGuard spécialistes de la désinformation, qui s’appuient pour ce faire sur les données exclusives de NewsGuard relatives aux récits faux connus de désinformation étrangère.