Gesù gamberetto e bambine annegate: come l’intelligenza artificiale sta “zombificando” Internet

Di Leonardo Bianchi

Utilizzare Facebook nel 2024 è un’esperienza radicalmente diversa rispetto a com’era soltanto pochi anni fa.

Molti account di “amici” sono fermi o inutilizzati, mentre le pagine che si seguivano non compaiono nelle bacheche con la stessa frequenza di una volta. Le notizie giornalistiche sono praticamente scomparse, e lo stesso vale per i link esterni. Sempre più spesso, inoltre, nel feed spuntano strane pagine con immagini ancora più bizzarre, tutte realizzate con l’intelligenza artificiale generativa.

Negli ultimi tempi, diverse testate internazionali hanno parlato dell’invasione di questi contenuti generati con IA. 404 Media, un giornale online specializzato in tecnologia, ha notato un trend piuttosto macabro e inquietante: quello delle immagini di bambini e bambine (spesso con mutilazioni) ai lati di una strada, tra le baracche o annegate in mare, che chiedono agli utenti di festeggiare il proprio compleanno e donare soldi.

Oltre ai post con bambini mutilati, sono molto gettonati pure quelli che mostrano case di lusso (che non esistono realmente) oppure false sculture in legno di Mark Zuckerberg e Gesù Cristo. A tal proposito, esiste un intero filone di illustrazioni di Cristo generate con l’IA che sconfina nell’assurdità più totale.

In alcune Gesù è ritratto in uno yacht insieme a donne in abiti succinti; in altre ha le fattezze di una statua formata da bottiglie di plastica o da uova; e in altre ancora ha il corpo a forma di gamberetto o di altri crostacei.

Quest’ultima immagine si è diffusa anche su altre piattaforme, diventando un vero e proprio meme: lo «Shrimp Jesus», ossia il «Gesù gamberetto». I commenti sotto questi post rendono il tutto ancora più insensato: una sfilza di “amen” ed emoji di mani giunte a mo’ di preghiera, postati nella maggior parte dei casi da account falsi.   

Per quanto bislacco, il «Gesù gamberetto» fa parte di un fenomeno più ampio e serio, descritto con l’espressione «AI slop» – traducibile come «brodaglia dell’intelligenza artificiale».

In questa «brodaglia IA» rientrano le suddette illustrazioni di Facebook così come le «allucinazioni» dell’intelligenza artificiale di Google (AI Overviews), che consiglia di mettere la colla nella pizza e di mangiare un sasso al giorno per restare in salute, oppure sostiene che Batman è un poliziotto.

La teoria dell’Internet morto
Ma l’aumento esponenziale della «brodaglia IA» ha avuto anche un altro effetto: rimettere in circolo la cosiddetta «teoria dell’Internet morto» (Dead Internet Theory).

Secondo questa specie di teoria del complotto, i contenuti prodotti da bot e intelligenza artificiale avrebbero ormai superato quelli generati dagli esseri umani. A partire dal 2016 (o 2017) Internet sarebbe ormai un posto gestito in larga parte dalle macchine, sfuggito al controllo umano.

Questa teoria – si legge in un articolo su Forbes – ha iniziato a girare alla fine degli anni Dieci su alcuni canali della imageboard 4chan, ma è diventata nota soltanto nel 2021, quando un utente l’ha rilanciata nel forum Agora Road’s Macintosh Cafe.

Chiaramente, non esistono dati in grado di dimostrare la validità di questa teoria. Che tuttavia si basa su un fondo di verità innegabile: la discussione pubblica sui social network è fortemente influenzata e da bot e contenuti falsi generati con l’IA.

Nel 2018 uno studio pubblicato su Nature ha rilevato che i bot hanno svolto un ruolo cruciale nella disseminazione su Twitter di articoli e informazioni non affidabili tra il 2016 e il 2017. L’anno successivo, un altro studio apparso sempre su Nature ha dimostrato che su Twitter la discussione sulle sparatorie di massa è avvelenata dai bot.

Più recentemente, reti di bot e account fasulli sono stati impiegati in complesse operazioni di disinformazione che puntano a screditare l’Ucraina – e alcune figure politiche apicali del Paese, su tutti il presidente Volodymyr Zelensky – e promuovere narrazioni filorusse.

Questa strategia è stata impiegata clandestinamente anche dall’esercito degli Stati Uniti, che all’apice della pandemia di Covid-19 ha diffuso propaganda antivaccinista nel Sud-Est asiatico per contrastare la «diplomazia vaccinale» cinese, considerata come un tentativo di attirare i Paesi di quell’area nell’orbita di Pechino. È per questo motivo che gli account falsi avevano preso di mira il vaccino prodotto dall’azienda farmaceutica cinese Sinovac, nonché le mascherine e altri dispositivi sanitari provenienti dalla Cina.

Come abbiamo scritto su Facta, negli ultimi tempi l’intelligenza artificiale è stata usata per scrivere centinaia di articoli e riempire falsi siti di notizie, così da renderli credibili agli occhi del lettore medio e veicolare storie del tutto inventate.

A ogni modo, la «teoria dell’Internet morto» è soprattutto una critica metaforica alle grandi piattaforme, accusate di aver rinchiuso Internet in una serie di «giardini recintati» (se non dei veri e propri ghetti), e quindi di aver corrotto l’idea originaria e utopica di una rete libera e accessibile a chiunque.

Del resto, qualche anno fa lo stesso inventore del World Wide Web Tim Berners Lee aveva detto che «il web che c’è adesso non è quello che volevamo».

La «zombificazione» di Internet
Per il giornalista Jason Koebler – cofondatore di 404 Media ed esperto di cultura digitale – il concetto di «Internet morto» è fuorviante e non adatto a descrivere la reale situazione della Rete, che sarebbe addirittura peggiore di un sistema completamente in mano alle macchine.

In un recente articolo che ha generato molto dibattito, il giornalista ha spiegato che ci troveremmo di fronte a una «zombificazione» di Internet. Sebbene la «brodaglia IA» sia generata con l’intelligenza artificiale, i fruitori rimangono pur sempre persone in carne e ossa – che necessariamente hanno la capacità di distinguere un contenuto vero da uno falso. Questo, prosegue Koebler, ha un «impatto su come le persone utilizzano Facebook e su come, più in generale, percepiscono la realtà».

D’altro canto, quella di riempire la piattaforma di Gesù a forma di gamberetto è una precisa tattica per sfruttare l’algoritmo di Facebook, inondare i feed delle persone e far crescere le pagine.

Come ha evidenziato uno studio condotto su 120 pagine, pubblicato lo scorso marzo dalla ricercatrice Renee DiResta e dal collega Josh A. Goldstein, le motivazioni sono prettamente economiche. L’obiettivo finale di chi gestisce quelle pagine e genera quelle immagini è portare le persone al di fuori della piattaforma, verso siti che vendono prodotti di vario genere.

Il risultato, scrive Koebler, è un sito ormai alla deriva in cui non c’è l’ombra di reali connessioni sociali. È più che altro un miscuglio inestricabile di «bot che parlano con bot, bot che parlano con bot ma si rivolgono agli esseri umani, umani che parlano con umani, umani che parlano con i bot, umani che interagiscono con contenuti creati dai bot, account che una volta erano umani ma ora sono bot, e umani preoccupati che il loro interlocutore sia un bot».

Insomma: il social non è completamente morto, ma non è nemmeno del tutto vivo. È una piattaforma “zombie”, secondo alcuni analisti. E in assenza di contromisure efficaci, altri siti rischiano di fare la stessa fine.