Le pagine religiose su Facebook sono piene di “sbobba artificiale”

Verso la fine di agosto, qualcosa è cambiato sulla pagina Facebook “La luce di Gesù e Maria”, con oltre 18 mila follower. Dal condividere principalmente immagini di Padre Pio ed esortazioni a «lasciare un cuore rosso se ami la Madonna», la pagina ha preso a condividere contenuti più laici.

Con la stessa didascalia «Nemmeno un ciao solo perché lavoriamo nei campi», la pagina ha pubblicato varie foto a tema agricolo – una donna sorridente con una carriola piena di ortaggi, un’altra donna con un cesto di fichi, due bimbi con una grande quantità di uva. Tutte immagini create con l’intelligenza artificiale, come si può capire da particolari come piccole imprecisioni nei bottoni dei vestiti, negli occhi e nelle dita delle finte persone raffigurate.

È un esempio di quanto negli Stati Uniti viene chiamato da un po’ di tempo AI slop e che in italiano potremmo chiamare “sbobba artificiale”: contenuti di bassa qualità creati con l’unico scopo di alimentare l’algoritmo dei social network.

In un post più recente, la foto di due donne sorridenti di fronte a una folta mandria di bovini è accompagnata dal testo «so che non avrò mai tanti ‘mi piace’ come Lady Gaga o Jennifer Lopez perché non sono bella o famosa come loro, ma non mi vergogno del mio lavoro e amo i miei animali…».

Il richiamo acchiappa-like ha funzionato – la foto ha raccolto 5mila “mi piace” e 746 commenti, spesso sullo stile di questo: «Ciao siete molto belle e carine tutte due che Dio vi assiste al vostro pesante lavoro siete molto giudiziose e oneste ciao un abbraccio forte».

Quasi tutte le oltre 250 foto pubblicate da “La luce di Gesù e Maria” nello scorso mese e mezzo sono su questa falsariga. Finti bambini e anziani che festeggiano compleanni, inesistenti neo-genitori e coppie che celebrano nascite e anniversari.

Le uniche eccezioni sono i post che condividono collage di immagini catastrofiche e invitano gli utenti a seguire la pagina su Messenger e WhatsApp.

Come si può vedere nella storia delle modifiche dei post, però, anche questi erano in precedenza “sbobba artificiale”: l’immagine principale è stata rimossa e sostituita con il richiamo al gruppo su Messenger e WhatsApp.

Seguendo il link si arriva a un bot gestito dalla pagina “Pregare per la pace” (con appena 230 follower, la pagina ha ben 10 admin – segno che probabilmente è gestita da una rete di operatori). Dopo un po’ di tentativi, il bot ci ha consigliato di contattare una certa “Lisa Lisa” per ascoltare il catechismo online gratuitamente. Lisa posta soprattutto contenuti religiosi, ma sostiene di non sapere niente delle pagine che rimandano al suo profilo.

La “Luce di Gesù e Maria” non è l’unica pagina di questo genere. Sono almeno 14 le pagine a sfondo religioso che fanno parte di questo network e operano nella stessa esatta maniera. Diamo a questo gruppo di pagine il nome “Sei profezie”, in onore del post che introducono in maniera ingannevole nei loro feed.

Il network di pagine “Sei profezie” ha complessivamente 124 mila follower, principalmente operative da fine 2023. Le foto sono palesemente artificiali e di frequente del tutto implausibili.

Tutte queste pagine Facebook appaiono gestite da una dozzina di persone in totale, non tutte localizzate in Italia, secondo le informazioni che è possibile ottenere dal social network. 

In tutti i casi, il copione è lo stesso:

1. le pagine sono principalmente composte da foto acchiappa-click, come questa di un bimbo all’apparenza carino ma palesemente alieno (la sua uniforme in stile romanista è un pasticcio di lettere senza senso);
2. quando un post ottiene centinaia/migliaia di like, la foto viene convertita nel collage cataclismico sulle presunte “sei profezie avverate” tratte dalla Bibbia, che rimanda all’account su Messenger o WhatsApp di una pagina religiosa più piccola;
3. l’account Messenger, dopo qualche scambio automatico, rimanda al profilo Facebook di quella che si presenta come una donna italiana che predica il catechismo.

Il problema è che non si riesce a capire il perché di tutto questo. Di solito la “sbobba artificiale” viene usata per costruire un pubblico più ampio e poi rimandare gli utenti a siti web di scarso valore, colmi di pubblicità (durante le ricerche per questo articolo, ad esempio, abbiamo scoperto il tris di pagine MI PIACE La Dialettica Inclusiva, MI PIACE la Libera Informazione e MI PIACE la casa bella, che operano in questa maniera). In altri casi la sbobba artificiale viene usata per sollecitare dati personali o denaro tramite un account Telegram collegato.

Nel caso di questa rete di pagine, invece, non c’è una chiara strategia di monetizzazione. Quando abbiamo scritto ai profili Facebook delle catechiste per chiedere chiarimento, non hanno spiegato la ragione per le foto false usate dalle pagine che rimandano a loro. Abbiamo invece ricevuto messaggi spirituali scarsamente personalizzati.

È possibile che queste pagine siano davvero dedicate alla propaganda religiosa. 

Il sospetto è che le pagine di “sbobba artificiale” siano gestite in maniera semi-automatica da una singola organizzazione, che rimanda ai catechisti online per uno scopo non ben identificato.

Non è certo questo il problema principale causato dall’accelerazione dell’intelligenza artificiale negli scorsi due anni – i deepfake pornografici nelle scuole, ad esempio, sono di gran lunga più preoccupanti.

Ma la rete “Sei profezie” è l’ennesima prova che Facebook sta diventando un “social network zombie”. Una piattaforma in cui i contenuti falsi vengono usati senza remore da pagine che ingannano il proprio pubblico e lo rimandano senza un chiaro scopo (e possibilmente a pagamento) ad altre pagine ancora gestite da profili semi-automatizzati.

Un social network che si autoalimenta grazie alla “sbobba artificiale”, con l’eccezione di qualche commento e click da parte di utenti digitalmente ingenui. Ma è anche un social network che appare prossimo all’inutilità: la versione digitale di un centro commerciale mezzo chiuso che vende solo sigarette elettroniche e schedine del Superenalotto.