FAILSafe: proteggere l’IA dalle operazioni di influenza straniera che prendono di mira i modelli linguistici di grandi dimensioni

Il servizio di sicurezza FAILSafe (“Foreign Adversary Influence in LLMs Safety Service”) di NewsGuard aiuta le aziende di IA a rilevare e a difendersi dalle operazioni di influenza straniera volte a contaminare le risposte dell’IA con narrazioni di disinformazione e propaganda sponsorizzate dagli Stati.

Creato in risposta a un audit di NewsGuard che ha rilevato come le reti di disinformazione russa abbiano contaminato i principali strumenti di IA, inducendoli a ripetere narrazioni di propaganda il 33% delle volte, FAILSafe fornisce alle aziende di IA dati in tempo reale, verificati da ricercatori di disinformazione esperti in influenza straniera, sulle narrazioni e le fonti coinvolte in operazioni di influenza gestite dai governi russo, cinese e iraniano.

Per saperne di più

Vuoi maggiori informazioni su NewsGuard? Compila questo modulo e verrai contattato dal nostro staff.

  • This field is for validation purposes and should be left unchanged.
AUDIT IA

Una rete globale di siti di “notizie” finanziata da Mosca ha “contaminato” gli strumenti di intelligenza artificiale occidentali in tutto il mondo con la propaganda russa

Un audit ha rilevato che i 10 principali strumenti di IA generativa hanno favorito gli obiettivi di disinformazione di Mosca, ripetendo il 33% delle volte affermazioni false diffuse dalla rete filo-Cremlino Pravda.

Leggi il report
ANNUNCIO SERVIZIO

NewsGuard lancia un nuovo servizio per proteggere i modelli linguistici di grandi dimensioni dalle operazioni di influenza straniera

Il servizio FAILSafe for AI consente ai modelli di intelligenza artificiale di individuare e prevenire le operazioni di influenza straniera che “contaminano” le risposte dell’IA con disinformazione e propaganda sponsorizzate da governi.

Leggi il comunicato
AUDIT IA

I 10 principali modelli di intelligenza artificiale generativa ripetono le narrazioni della disinformazione russa un terzo delle volte, citando come fonti autorevoli siti fake di notizie locali creati da Mosca

Un audit di NewsGuard rileva che i principali chatbot IA diffondono narrazioni di disinformazione russa create da John Mark Dougan, ex vicesceriffo della Florida che ora risiede a Mosca sotto la protezione del Cremlino, il 32% delle volte. Le risposte citano come fonti affidabili i suoi siti fake di notizie locali e le affermazioni da lui inventate e diffuse su YouTube.

Leggi il report

NewsGuard nei media

La propaganda russa si diffonde nei chatbot AI

Il grooming dell’intelligenza artificiale: avvelenare i pozzi, per inondare il web di propaganda

L’allarme: così milioni di fake news pro Russia sono finite nell’addestramento delle IA occidentali

Dati in tempo reale sulle narrazioni di disinformazione straniera

FAILSafe fornisce alle aziende di IA un flusso di dati costantemente aggiornato a proposito delle narrazioni false diffuse dalle operazioni di influenza russa, cinese e iraniana. Il servizio è stato progettato per consentire alle aziende di IA di garantire che i loro sistemi non ripetano inavvertitamente queste narrazioni in risposta alle domande degli utenti.

Dati su domini e account usati nelle operazioni di influenza estera

Le aziende di IA possono accedere al database FAILSafe, costantemente aggiornato, che include siti, account dei social network, handle di piattaforme e altri spazi direttamente coinvolti in operazioni di influenza estera. FAILSafe è costruito per permettere alle aziende di IA di garantire che i loro sistemi non si basino su contenuti provenienti da questi siti e account.

Red-teaming e monitoraggio da esperti della disinformazione

Gli analisti di NewsGuard possono effettuare stress-test periodici dei prodotti IA per rilevare se, e in che misura, la disinformazione russa, cinese e iraniana e le narrazioni di propaganda abbiano contaminato le risposte dei chatbot. Questi test sono condotti dagli analisti di NewsGuard utilizzando dati proprietari sulle narrazioni di disinformazione identificate.

Integrazione rapida e semplice tramite API o datastream nel cloud