La disinformazione rappresenta una grande sfida per i professionisti dei media e gli utenti, ma anche per i processi democratici. Il progetto finanziato dall’UE “European Narrative Observatory” / PROMPT (Predictive Research On Misinformation and narratives Propagation Trajectories) utilizza i Modelli Linguistici di Grandi Dimensioni (LLM) per scoprire online le narrazioni e i modelli della disinformazione e per decifrarne i retroscena. In questo modo, i giornalisti avranno a disposizione strumenti che li aiuteranno a riconoscere meglio la disinformazione. Nei prossimi mesi, il “European Journalism Observatory” pubblicherà regolarmente approfondimenti sul progetto e sui suoi risultati.

Martin Lestra e Jordan Ricker coordinano il progetto presso l’istituto di ricerca francese OPSCI. Nell’intervista con l’EJO spiegano di cosa tratta il progetto e quali obiettivi il team intende perseguire con l’ausilio degli LLM.

Martin Lestra è Coordinatore delle Partnership Internazionali e della Ricerca presso l’istituto di ricerca OPSCI. Il ricercatore ha diretto diversi progetti di cooperazione internazionale all’intersezione tra dati e politiche pubbliche presso l’OCSE e Datactivist. Ha conseguito un dottorato in Scienze Politiche (European University Institute-EHESS) e insegna all’Università di Lione.

EJO: Potreste presentare il progetto? Di cosa si tratta?

Martin Lestra:

PROMPT è un “Osservatorio Europeo delle Narrazioni” finanziato dalla Commissione Europea, il cui obiettivo è identificare e analizzare l’emergere di narrazioni disinformative, utilizzando l’intelligenza artificiale (IA), su tre temi considerati prioritari dalla Commissione Europea: la guerra in Ucraina, i diritti e le libertà LGBTQIA+ e le elezioni europee del 2024.
Nei prossimi 18 mesi lavoreremo per decifrare le origini di queste narrazioni e il loro emergere sia offline che online in 6 paesi (Francia, Regione Baltica, Italia e Romania) e in 8 lingue (inclusi inglese e russo). Analizzeremo il loro ruolo nel plasmare le opinioni delle persone e i valori emotivi che supportano le narrazioni disinformative di “successo”. Svilupperemo una metodologia per comprendere meglio come nascono le narrazioni e come si diffondono attraverso le piattaforme. Ci concentreremo su nodi informativi chiave nei media influenti, nelle piattaforme social e su Wikipedia.

In ultima analisi, offriremo a giornalisti e attivisti nuovi strumenti per riconoscere, anticipare e affrontare le narrazioni disinformative. PROMPT è un progetto pilota, il che significa che mobilitiamo competenze all’avanguardia e tecnologie IA per tentare di affrontare la disinformazione. Abbiamo il privilegio di lavorare attraverso discipline diverse (matematica, linguistica, sociologia, studi sui media, ecc.) con 11 attori leader in 8 paesi dell’UE, in particolare esperti di media e giornalisti, come l’Erich-Brost Institute (Germania), Les Surligneurs (Francia), Re:Baltica (Stati Baltici) e Asociatia Digital Bridge (Romania).

Cosa ha ispirato lo sviluppo di questo progetto?

Abbiamo uno scopo chiaro: sostenere un dibattito democratico sano. Lavoriamo sul monitoraggio dell’opinione online da oltre 10 anni e sulla comunicazione/retorica da più di 20 anni. Abbiamo osservato come la disinformazione si sia evoluta e quanto sia diventata sfumata (non si tratta solo di distinguere tra notizie “false” o “vere”). Abbiamo collaborato con giornalisti e attivisti e abbiamo constatato che esiste un potenziale non sfruttato degli strumenti di intelligenza artificiale per supportare il loro lavoro.

I due principali motori del progetto sono tecnologico e sociale.

Tecnologico, perché i recenti progressi nell’IA, che abbiamo integrato nel nostro lavoro sull’analisi di grandi volumi di dati sociali già da diversi anni, ci hanno permesso di fare un notevole salto in avanti nelle prestazioni, consentendo un’elaborazione avanzata delle espressioni online tramite LLM (Large Language Models) e la loro categorizzazione qualitativa automatizzata, “potenziando” le capacità degli analisti.

Sociale, perché crediamo che solo un approccio inclusivo e condiviso a livello di società possa consentirci di vincere le battaglie nella guerra contro la disinformazione. I professionisti impegnati in questa battaglia spesso si sentono soli o privi di risorse di fronte all’aumento delle operazioni di destabilizzazione. La nostra umile ambizione è fornire loro armi aggiuntive.

Cosa distingue questo progetto da altri progetti (precedenti) sull’intelligenza artificiale, la reportistica sui media e la formazione?

PROMPT è il secondo Osservatorio Europeo delle Narrazioni. Ci siamo basati sul lavoro di NODES (Narratives Observatory Combatting Disinformation in Europe Systemically), un progetto che si è concentrato principalmente su come sono strutturate e interagiscono le comunità online di disinformazione su altri temi di interesse, come migrazione, cambiamento climatico e Covid-19.

La nostra ricerca si basa su questo lavoro con ulteriori passi, utilizzando ad esempio i Large Language Models (LLM) per approfondire il monitoraggio dell’emergere e della diffusione delle narrazioni.

Tuttavia, PROMPT non riguarda solo la costruzione del miglior modello “miracoloso” – siamo scettici su questo tipo di approccio. Si tratta di creare il modello più utile.

Esistono molti sforzi accademici per sviluppare metodologie all’avanguardia per analizzare le narrazioni. Ciò che è anche molto importante, e spesso manca, è l’impegno aggiuntivo per rendere la ricerca operativa per coloro che combattono la disinformazione ogni giorno. Buoni esempi in questo campo includono progetti come vera.ai, che aiutano a progettare e testare strumenti alimentati dall’IA per rilevare la disinformazione. Con fact-checker e Wikimedia France – Wikipedia, che è una piattaforma online molto grande che affronta rischi sistemici secondo l’UE – a bordo del team di PROMPT, siamo fiduciosi di poter avere un grande impatto sul nostro pubblico. Inoltre, integriamo il lavoro di verifica dei fatti e dell’educazione ai media, ad esempio quello dell’European Digital Media Observatory (EDMO) o dei membri della European Fact-Checkers Standards Network. Siamo anche entusiasti di poter costruire sulla competenza dell’Erich-Brost Institute, che può amplificare la nostra portata in una rete completa di istituti giornalistici a livello dell’UE, coprendo tutti gli Stati membri.

Jordan Ricker è Chief Operating Officer dell’istituto di ricerca OPSCI. Come cofondatore della società di consulenza going public, ha sviluppato strategie digitali. Ha insegnato marketing all’Université Sorbonne Nouvelle. Inoltre, per due anni e mezzo, è stato responsabile della presenza digitale della città di Parigi.

Come contribuisce l’Osservatorio Europeo delle Narrazioni alla lotta contro la disinformazione?

Per rispondere a questa domanda, è necessario prima comprendere perché le narrazioni siano importanti. Le narrazioni di disinformazione comportano rischi e minacce significativi per i Paesi dell’UE. La diffusione di informazioni false e fuorvianti sulla guerra in Ucraina ha un forte potenziale di minare il sostegno pubblico alle azioni nazionali e comuni dell’UE a favore dell’Ucraina. Le false narrazioni che prendono di mira e attaccano la comunità LGBTQIA+ possono causare danni significativi all’integrazione e all’uguaglianza di questi gruppi, nonché influire sull’esercizio dei diritti umani. Le narrazioni di disinformazione relative alle elezioni possono fuorviare gli elettori e minare le basi delle nostre democrazie.

Gli attori della disinformazione, tra cui quelli sostenuti da Stati canaglia che tentano di destabilizzare le nostre democrazie, lavorano instancabilmente per seminare il malcontento e polarizzare il dibattito pubblico. Dobbiamo affrontare questo problema, con le migliori prove e tecniche. Nominarli, svelarli, stigmatizzarli, controbattere e rendere gli sforzi di disinformazione più costosi: il lavoro sulle narrazioni, come quello di PROMPT e di altri progetti, contribuisce agli sforzi per contrastare la disinformazione online e offline.

Ci sono ancora molti aspetti della disinformazione da studiare: come, ad esempio, essa circoli attraverso le piattaforme sociali con “pattern” retorici “universali” o con idiosincrasie linguistiche e culturali locali. Questa è una delle principali questioni che il progetto PROMPT affronterà.

Qual è il ruolo dei Modelli Linguistici di Grandi Dimensioni (LLM) nel rilevare le fake news attraverso i media e Internet?

La disinformazione non riguarda solo le notizie “false” e “vere”. Concettualmente, pensiamo che la disinformazione abbia modi preferiti e ripetuti di presentarsi. Ma allo stesso tempo, il linguaggio è complesso, e le strutture linguistiche e il significato possono variare tra le lingue e i tipi di discorso (ad esempio, il linguaggio d’odio esplicito e aggressivo rispetto all’umorismo implicito). I LLM sono molto bravi a rilevare e analizzare su larga scala queste caratteristiche sistematiche e le loro variazioni.

La maggior parte delle persone conosce i LLM come strumenti che aiutano a scrivere testi (o codici). Ma non solo i genAI possono rilevare la disinformazione, possono anche contestualizzarla per i giornalisti e i fact-checkers in una forma molto semplice. In altre parole, così come si discute dei migliori piani per il compleanno di un bambino di 4 anni con ChatGPT, con il modello che intendiamo sviluppare, si possono discutere le caratteristiche della falsa o fuorviante affermazione che l’IA ha rilevato: da dove proviene? Dove abbiamo visto affermazioni simili? In quali lingue? Quali sono i pregiudizi che questa affermazione sfrutta e le tecniche retoriche che usa per diffondere la disinformazione?

Ci sono molte cose che i LLM possono fare, ma in ultima analisi, tutto ciò deve essere utile a coloro che sono in prima linea nella lotta contro la disinformazione. Ecco perché i giornalisti e gli attivisti della società civile sono il cuore di questo progetto e partecipano attivamente.

Quali argomenti affronta il progetto e perché sono stati scelti?

La Commissione Europea ha definito le tematiche. L’attenzione si sta spostando dal concentrarsi principalmente sul Covid-19, ad altre preoccupazioni principali (e spesso correlate). Senza sorpresa, tra queste c’è la guerra contro l’Ucraina. Sta accadendo così tanto online che ci sono molti dati e conoscenze su cui il progetto PROMPT può costruire. C’è anche la crescente diffusione di false e dannose narrazioni legate all’identità di genere e all’espressione di genere (disinformazione basata sul genere), spesso vista nel contesto di discorsi discriminatori o peggiorativi contro le donne, l’omofobia e la discriminazione contro la comunità LGBTQIA+, esaminando i modi per mitigare i rischi posti alla coesione sociale, alla democrazia e ai diritti umani fondamentali. Le narrazioni fuorvianti sulle elezioni hanno, naturalmente, un grande  impatto sull’opinione pubblica, sul comportamento degli elettori e sui processi democratici.

Ma come ho accennato, gli argomenti – migrazione, Ucraina – non sono solo una lista di cose da fare per quanto riguarda la disinformazione. Sappiamo dai nostri studi precedenti, da altri progetti di ricerca e dal lavoro di giornalisti e fact-checker, che gli account che diffondono disinformazione, un giorno parlano di Covid o vaccini, e il giorno dopo promuovono la versione di Putin su ciò che sta accadendo in Ucraina. Oppure che narrazioni e affermazioni simili riappaiono da una elezione all’altra. Questo significa che PROMPT ha molto da prendere e dare ad altre iniziative per combattere la disinformazione.

Maggiori informazioni sul progetto ENO/ PROMPT sono disponibili qui.

Seguici su X e Facebook.