Produttori di bufale – con l’intelligenza artificiale

C’è la storia di Magon d’Aloia, diciassette anni, sospeso dal Liceo scientifico per aver scritto un tema sulla “dittatura sanitaria”. Poi c’è quella di Giulia, niente cognome, picchiata selvaggiamente e insultata per essere entrata in un supermercato a Beinasco, nella prima cintura torinese, senza mascherina. E quella di Martino Iannini, due anni e mezzo, sottratto dal tribunale ai genitori ipocondriaci che gli facevano portare la mascherina giorno e notte… 

Vicende estreme, fonti di accesi dibattiti sul web, ma con una caratteristica in comune: quasi sicuramente non sono mai avvenute. Pur essendo diventate virali, tutte queste storie hanno sempre un’unica fonte: Beatrice Juvenal, che fino a pochi giorni fa si identificava su Facebook come “giornalista indipendente” (oggi a quanto pare preferisce il titolo di “leader novax”). 

Il suo modus operandi è sempre quello: per prima, c’è la pubblicazione di un post su Facebook corredato da una fotografia del protagonista, in primo piano e con uno sfondo indefinito. Le sue storie hanno quasi sempre a che fare con i vaccini o con la pandemia, magari in associazione con altri temi di attualità (come la vicenda di Sossella Lage, che avrebbe denunciato di essere stata presa con la forza da tre alpini e portata in un hub vaccinale contro la sua volontà, o come quella di Magonda Loya, infermiera ucraina in fuga dalla guerra e assunta per sostituire una collega novax – nome stranamente simile allo studente Magon d’Aloia, tra l’altro). Il secondo step è quello dell’attesa: il post guadagna like e condivisioni, spesso finisce ripreso su altri social, come Twitter o Telegram. Infine, il contenuto del post viene cancellato e via, pronti per un nuovo giro di giostra, con una nuova notizia priva di fonti e senza riscontri su qualsiasi quotidiano o su altre fonti indipendenti e in qualche modo commentabili. 

Quanto ai protagonisti delle storie, rimangono dei fantasmi: non sembrano esistere sul web prima dei post di Beatrice Juvenal. Niente profili sui social, nessun’altra prova della loro esistenza, nessun risultato sui servizi di ricerca inversa di immagini (solo in un caso, per la notizia “Novax licenziato trova un sistema per vincere alla roulette e va a vivere alle Canarie”, l’utente ha usato una foto facilmente identificabile… che risulta però essere quella dell’attore Jesus Jr). Certo, l’assenza dai social non è una prova certa di non esistenza, ma è curioso che la cosa si verifichi sempre, immancabilmente, per ognuna delle presunte vicende in questione. 

L’ipotesi più probabile – avanzata, ad esempio, da Facta e da Open – è che queste immagini siano dei GAN (generative adversarial network), cioè di fotografie generate da un’intelligenza artificiale. Questa, tutto sommato, è la cosa più interessante di questa vicenda, in parte simile a quella di altri serial hoaxers e troll, ma con qualche spunto tecnologico in più.

La tecnologia GAN è in sostanza una classe di metodi che “insegnano” a una rete neurale a produrre nuovi dati a partire da un database di addestramento. In questo modo, ad esempio, iniziando da una collezione di foto di gatti, è possibile generarne una nuova, realistica, non presente tra le immagini originarie. E non si tratta soltanto di una possibilità teorica: è stato fatto sul serio, come potrete verificare cliccando su This Cat does not Exist e aggiornando la pagina ogni volta. Lo stesso sistema è stato usato per creare opere d’arte, personaggi di anime, case per le vacanze. Nel 2018 un dipinto realizzato da “Edmond de Belamy” (un algoritmo il cui nome è un omaggio a Ian Goodfellow, uno dei primi studiosi delle tecniche GAN – Goodfellow è l’inglese per “buon amico”, in francese “bel ami”) è stato venduto all’asta per 435.000 dollari. 

Dal 2019 è attivo anche This Person does not exist, frutto di un progetto personale dell’ingegnere Phillip Wang, che sfrutta la stessa tecnologia per generare volti umani. Sulla stessa base sono nati servizi che permettono di creare una foto profilo fittizia da usare sui social a partire da poche informazioni di base. Distinguere le immagini false da quelle reali non è per niente facile: a volte l’intelligenza artificiale può commettere errori, introducendo artefatti o asimmetrie su oggetti che dovrebbero essere simmetrici (occhiali, orecchini), ma il più delle foto sono assolutamente indistinguibili anche agli occhi di un fotografo professionista. Se volete mettervi alla prova, vi consigliamo il sito Which Face is Real?

Gli autori, Jevin West e Carl Bergstrom, l’hanno creato proprio per cercare di insegnare qualche trucco per identificare i falsi e per render consapevoli gli utenti della facilità con cui si può essere ingannati. La tecnologia GAN può essere usata, infatti, per creare falsi profili da sfruttare nelle truffe affettive, ed è alla base dello sviluppo dei deepfake. 

Ma questa tecnica può essere impiegata – come nel caso di “Beatrice Juvenal” – per rendere più credibili storie inventate. Quanto alla sedicente giornalista, il 14 maggio ha scritto sui social di essere stata sospesa dall’Ordine, anche se dalle indagini di David Puente sembra non esservi mai stata iscritta. 

Forse, ora che il suo nome è stato associato alle bufale, cambierà profilo e identità, o forse continuerà la sua attività online come se nulla fosse. Sta a noi, in realtà, rimanere vigili e consapevoli delle tecnologie che si possono sfruttare, e non rilanciare storie che provengono sempre da un’unica fonte (magari della quale fino a poco prima non avevamo mai sentito parlare).