20/05/2023

NewsGuard a désormais identifié 125 sites d’information et d’actualité générés par l’intelligence artificielle, et a développé un cadre pour définir les sources d’information et d’actualité non-fiables générées par l’IA

Le nombre de sites non-fiables générés par l’intelligence artificielle a augmenté de 155% en deux semaines. 

(20 mai 2023 —New York ) – Le nombre de sites d’actualité et d’information générés par l’IA (et gérés avec peu voire pas de supervision humaine), a plus que doublé en deux semaines, selon une analyse de NewsGuard. 

NewsGuard a désormais identifié 125 sites entièrement ou principalement générés par des outils d’intelligence artificielle – beaucoup plus que les 49 sites que NewsGuard avait identifiés il y a seulement deux semaines dans un rapport au sujet de ces sites. Cela montre que cette technologie transformative est de plus en plus utilisée à grande échelle pour produire des sites d’actualité et d’information de piètre qualité. Ce qui permet à ces sites de générer des revenus, c’est la possibilité d’attirer des publicités programmatiques pour de grandes marques occidentales, qui soutiennent ainsi involontairement ces sites peu fiables. 

Alors que le nombre de fermes de contenus générés par l’IA continue d’augmenter, NewsGuard annonce aujourd’hui la mise en place d’un cadre de critères à l’échelle du secteur pour définir un site comme étant un site d’actualité non-fiable généré par l’IA, ou “UAIN” (pour “Unreliable AI-generated News site” en anglais). 

NewsGuard considère qu’il s’agit d’un site d’information non-fiable généré par l’IA s’il remplit les quatre critères suivants : 

1. Il existe des preuves évidentes qu’une part importante du contenu du site est produite par l’IA.
   
2. Il y a de fortes raisons de penser que le contenu est publié sans contrôle humain notable. Par exemple, de nombreux articles peuvent contenir des messages d’erreur ou d’autres termes propres aux réponses des chatbots, ce qui indique que le contenu a été produit par des outils d’IA sans avoir été correctement édité. (Il est probable qu’aujourd’hui ou à l’avenir, de nombreux sites d’information utiliseront des outils d’IA mais déploieront également une supervision humaine efficace ; ils ne seront alors pas considérés comme des UAINs).
   
3. Le site est présenté de telle sorte qu’un lecteur moyen pourrait supposer que son contenu est produit par des rédacteurs ou des humains, du fait de sa mise en page, d’un nom générique ou anodin, ou d’autres éléments typiques des sites d’actualité et d’information.
   
4. Le site n’indique pas clairement que son contenu est produit par l’IA.

Dans tous les cas où des UAINs sont soupçonnés, et comme c’est la pratique habituelle lorsque NewsGuard évalue négativement un site, NewsGuard cherchera à obtenir un commentaire de la part des propriétaires du site, s’ils peuvent être identifiés, avant de publier son évaluation.

 

En quête de recettes publicitaires – avec des noms génériques, maintenant en dix langues 

Comme les sites identifiés lors de l’analyse précédente de NewsGuard, ces sites nouvellement identifiés ont produit des dizaines, voire des centaines d’articles mal rédigés et “piège à clics”. Ces articles contiennent parfois de fausses affirmations, comme des infox sur la mort de célébrités, des événements inventés de toutes pièces et des articles présentant des événements anciens comme s’ils venaient de se produire. Ces sites sont apparemment conçus pour optimiser les recettes publicitaires programmatiques grâce aux publicités placées par des sociétés de technologie publicitaire. Les opérateurs de ces sites choisissent des noms génériques tels que iBusiness Day, Ireland Top News et Daily Time Update, ce qui donne l’impression qu’ils publient des articles journalistiques créés et édités de manière traditionnelle et qu’ils traitent d’un large éventail de sujets comme la politique, la technologie, le divertissement et les voyages. 

Les 125 sites générés par l’IA identifiés par NewsGuard publient en dix langues : anglais, arabe, chinois, français, indonésien, néerlandais, portugais, tagalog, thaï et tchèque. 

NewsGuard a constaté que les sites donnent souvent eux-mêmes des signes qu’ils sont générés par l’IA, par exemple en publiant des articles qui contiennent des messages d’erreur révélateurs, connus pour être générés par des chatbots d’IA. Par exemple, ces sites utilisent souvent des éléments de réponse typiques donnés par l’IA à certaines questions, tels que “en tant que modèle de langage d’IA”, “je ne peux pas accomplir cette tâche” et “je n’ai pas accès à l’actualité”. Les sites sont généralement gérés de manière anonyme, publient des articles sans signature et incluent des pages “À propos de nous” et des politiques de confidentialité qui semblent avoir été produites par un algorithme. 

Comme NewsGuard l’avait précédemment constaté, ces sites nouvellement identifiés ont incité les outils d’intelligence artificielle à produire des affirmations fausses ou non fondées sur la santé et la politique américaine.

Par exemple, NewsGuard a constaté que le site Medical Outline, géré anonymement et qui affirme que son contenu vise des “paramètres d’originalité, de crédibilité et de validité”, a publié plus de 50 articles générés par l’IA donnant des conseils médicaux. De nombreux articles font la promotion de remèdes naturels non avérés et potentiellement dangereux, avec des titres tels que “Le citron peut-il guérir les allergies cutanées ?”, “Quels sont les 5 remèdes naturels contre le TDAH ?” et “Comment prévenir le cancer de manière naturelle”.  

Ces observations de NewsGuard font suite à une audition du 16 mai 2023 devant le Congrès américain, au cours de laquelle le PDG d’OpenAI, Sam Altman, a admis qu’un “sujet de préoccupation majeur” était “la capacité plus générale de ces modèles à manipuler, à persuader et à fournir une sorte de désinformation interactive et personnalisée … étant donné que nous allons être confrontés à des élections l’année prochaine et que ces modèles sont de plus en plus performants”. OpenAI exploite l’outil d’IA de référence, ChatGPT.

“Les consommateurs d’information font de moins en moins confiance aux sources d’information, en partie parce qu’il est devenu difficile de distinguer une source généralement fiable d’une source généralement peu fiable”, souligne Steven Brill, co-PDG de NewsGuard. “Cette nouvelle vague de sites créés par l’IA ne fera que rendre la tâche plus difficile pour les consommateurs qui cherchent à savoir qui leur fournit les actualités, ce qui sapera encore plus leur confiance”.

“L’industrie opaque de la publicité programmatique a favorisé cette nouvelle vague d’utilisation de l’IA pour générer des vues sur leurs pages afin d’attirer des revenus publicitaires”, ajoute Gordon Crovitz, co-PDG de NewsGuard. “Les marques, les agences de publicité et les sociétés d’ad-tech financent désormais involontairement ces opérations d’IA, encourageant la création de sites se faisant passer pour du journalisme fiable”.

Remarque : NewsGuard évalue tous les sites d’actualité et d’information dont les contenus représentent 95% de l’engagement dans les pays où il opère. Les analystes de NewsGuard notent ces sites au fur et à mesure qu’ils gagnent en engagement, et ces évaluations sont ensuite disponibles, notamment pour les consommateurs d’informations par le biais de l’extension de navigateur NewsGuard, et pour les marques, les agences de publicité et les sociétés d’ad tech au travers de licences leur permettant d’exclure la publicité programmatique des sites mal notés.

 

À propos de NewsGuard

Lancé en mars 2018 par le journaliste primé et entrepreneur des médias Steven Brill, et par Gordon Crovitz, ancien directeur de la publication du Wall Street Journal, NewsGuard fournit des évaluations de crédibilité et des “Étiquettes Nutritionnelles” détaillées pour des milliers de sites d’actualité et d’information. NewsGuard évalue tous les sites d’information et d’actualité qui représentent 95% du contenu partagé, commenté et aimé en ligne aux États-Unis, au Canada, au Royaume-Uni, en Allemagne, en Autriche, en France, en Italie, en Australie et en Nouvelle-Zélande. Parmi les produits de NewsGuard figurent les évaluations de NewsGuard, NewsGuard pour les Annonceurs, qui aide les annonceurs concernés par leur image de marque, ainsi que les Empreintes de la Mésinformation (Misinformation Fingerprints), un catalogue des principales infox qui circulent en ligne.

En février 2023, NewsGuard a lancé NewsGuard pour l’IA, qui fournit des outils pour entraîner des modèles d’IA générative à éviter de diffuser des infox. Des modèles d’IA générative comme Microsoft Bing Chat utilisent les  Empreintes de la Mésinformation pour reconnaître et éviter de diffuser les principales infox qui circulent en ligne, et utilisent NewsGuard pour distinguer les sources d’information globalement fiables des sources peu fiables, afin que les machines les traitent différemment.

En 2022, NewsGuard pour les Annonceurs a commencé à inclure des évaluations des programmes d’actualité et des chaînes de télévision en utilisant des critères similaires à ceux utilisés pour évaluer les sites, mais adaptés au média télévisuel. Les évaluations TV de NewsGuard sont les premières nouvelles évaluations proposées par NewsGuard en plus des sites. En mai 2023, NewsGuard a annoncé qu’il évaluait aussi désormais les podcasts d’information et d’actualité, en travaillant aux côtés des trois plus grandes plateformes audio. Cela aidera les annonceurs à soutenir avec confiance les podcasts aux très bonnes évaluations.

Les évaluations de NewsGuard sont réalisées par des journalistes qui s’appuient sur des critères apolitiques relatifs aux pratiques journalistiques.

Les navigateurs, les agrégateurs de contenu, les sociétés d’éducation, les plateformes de réseaux sociaux et les moteurs de recherche achètent des licences d’accès aux évaluations de NewsGuard et à ses Étiquettes Nutritionnelles pour rendre accessibles à leurs utilisateurs les informations de NewsGuard concernant les sites d’actualité. Les consommateurs peuvent accéder aux évaluations de NewsGuard en achetant un abonnement à NewsGuard, qui coûte 6,95$ australiens ou néo-zélandais, 4,95$ américains, 4,95€, ou 4,95£ par mois, et comprend un accès à l’extension de navigateur de NewsGuard sur Chrome, Safari et Firefox, ainsi qu’à son application mobile sur iOS et Android. L’extension de navigateur est disponible gratuitement sur Edge, le navigateur de Microsoft, grâce à un accord de licence avec Microsoft. Des centaines de bibliothèques publiques dans le monde ont accès gratuitement à l’extension de navigateur NewsGuard sur les ordinateurs mis à disposition du public, pour offrir davantage de contexte à leurs visiteurs sur les informations qu’ils lisent en ligne. Pour plus d’informations, notamment sur comment télécharger l’extension de navigateur et pour en savoir plus sur notre processus d’évaluation, rendez-vous sur newsguardtech.com/fr/.