I volti delle celebrità sbarcano su ChatGPT (e non è una buona notizia)

Lo scorso 25 marzo Sam Altman, amministratore delegato di OpenAI, ha annunciato un importante aggiornamento delle capacità di generazione di immagini di ChatGPT, l’ormai noto chatbot basato sull’intelligenza artificiale.

we are launching a new thing today—images in chatgpt!

two things to say about it:

1. it’s an incredible technology/product. i remember seeing some of the first images come out of this model and having a hard time they were really made by AI. we think people will love it, and we…

— Sam Altman (@sama) March 25, 2025

ChatGPT può ora sfruttare GPT-4o – il modello di punta di intelligenza artificiale generativa dell’azienda annunciato lo scorso anno – per creare e modificare in modo nativo immagini e foto, spiega TechCrunch, sito statunitense specializzato in informatica e tecnologia. Come si legge nella nota ufficiale del lancio dell’aggiornamento pubblicata da OpenAI, «GPT-4o è in grado di analizzare e apprendere dalle immagini caricate dagli utenti, integrandone perfettamente i dettagli nel contesto per informare la generazione delle immagini». Inoltre, prosegue la nota, «l’addestramento su immagini che riflettono un’ampia varietà di stili consente al modello di creare o trasformare immagini in modo convincente». 

Tra gli esempi per mostrare le potenzialità del nuovo strumento, l’azienda ha caricato questa immagine del filosofo tedesco Karl Marx generata a partire da un preciso prompt testuale che sembra uno scatto fotografico realistico.

OpenAI ha affermato di sapere che «queste nuove capacità comportano anche alcuni nuovi rischi» e in un’appendice del 25 marzo ha spiegato in che modo intende affrontarli. Senza controlli di sicurezza, «la generazione di immagini 4o potrebbe creare o alterare le fotografie in modi che potrebbero essere dannose per le persone raffigurate». Per questo motivo OpenAI ha dichiarato di impegnarsi a «massimizzare l’utilità e la libertà creativa per i nostri utenti riducendo al minimo i danni» e di aggiornare le proprie regole in base all’uso che gli utenti faranno di questo nuovo strumento. 

Ma a pagina 6 di questo documento c’è una novità piuttosto importante che potrebbe contribuire in modo cruciale alla diffusione della disinformazione. Se in precedenza, infatti, la società impediva la generazione di qualsiasi immagine di personaggi pubblici, ora OpenAI ha comunicato che al momento non intende bloccare la capacità di generare immagini di personaggi pubblici maggiorenni. Coloro che non desiderano che la loro rappresentazione venga creata possono richiedere che questo non accada. Inoltre, tutte le immagini generate saranno dotate di metadati C2PA⁠, che permetteranno di identificare e capire quando un’immagine proviene da GPT‑4o.

Come spiega però la stessa azienda, i metadati come C2PA non sono una panacea per risolvere i problemi di provenienza di un’immagine perché «possono essere facilmente rimossi accidentalmente o intenzionalmente. Ad esempio, la maggior parte delle piattaforme di social media oggi rimuove i metadati dalle immagini caricate e anche azioni come l’acquisizione di uno screenshot possono rimuoverli. Pertanto, un’immagine priva di questi metadati potrebbe essere stata generata o meno con ChatGPT o la nostra API».

La società ha specificato poi che saranno messe in atto delle misure di sicurezza che prevedono il blocco di generare immagini fotorealistiche di personaggi pubblici minorenni e di materiale che viola le norme dell’azienda su violenza, immagini d’odio, istruzioni per attività illecite, contenuti erotici, ecc. Per l’azienda comunque questa decisione sulle immagini generative di personaggi pubblici «apre la possibilità di usi utili e vantaggiosi in aree come il discorso educativo, storico, satirico e politico». 

Tuttavia come si legge su “Faked Up”, newsletter sulla disinformazione digitale curata da Alexios Mantzarlis, direttore della Security, Trust, and Safety Initiative alla Cornell Tech a New York, negli ultimi due anni i deepfake delle celebrità sono stati utilizzati «per alimentare truffe che hanno estorto miliardi di dollari», sponsorizzare diete dubbie, integratori sessuali poco trasparenti e investimenti discutibili e diffondere «disinformazione sensazionalistica e clickbait a sfondo politico, come nel caso degli account TikTok che hanno raggiunto milioni di persone con immagini deepfake che sostenevano la morte di Papa Francesco».

La stessa OpenAI è ben consapevole dei rischi legati a permettere la generazione di immagini generative di personaggi pubblici. Come ricorda Mantzarlis, infatti, nel 2023 l’azienda scriveva che «la capacità di produrre immagini realistiche di persone, in particolare personaggi pubblici, può contribuire alla generazione di informazioni errate e disinformazioni». 

Ad esempio, ora con questo nuovo aggiornamento di ChatGPT si potranno generare in brevissimo tempo e senza nessuna competenza specifica immagini realistiche di Papa Francesco che sembra malato o un’altra di Luigi Mangione, l’uomo accusato dell’omicidio di Brian Thompson, l’amministratore delegato di UnitedHealthcare, con un cappello MAGA in testa. «Nessuna di queste foto è impeccabile, ma sono tutte sicuramente abbastanza buone per un post virale su X» e alimentare così disinformazione, scrive l’autore di “Faked Up”.

OpenAI says its “more fine-grained” approach “opens the possibility of helpful and beneficial uses in areas like educational, historical, satirical and political speech.”

Sure. I’m excited about the breakthroughs that are just around the corner because I can add a MAGA hat on Luigi Mangione.

[image or embed]

— Alexios Mantzarlis (@mantzarlis.com) 2 aprile 2025 alle ore 15:00

Kendall Jenner promoting your drink? Pope Francis looking unwell? Get in the car loser, everything’s fair game

fakedup.org/openai-says-…

[image or embed]

— Alexios Mantzarlis (@mantzarlis.com) 2 aprile 2025 alle ore 15:03

Questa decisione di ChatGPT sembra più che altro un modo per evitare di perdere quote di mercato a favore di concorrenti come Grok, il chatbot di Elon Musk, dove era già possibile creare immagini di personaggi famosi senza particolari restrizioni, afferma Mantzarlis, che conclude la newsletter domandandosi: quali sarebbero gli «usi utili e vantaggiosi» della possibilità di generare immagini di personaggi pubblici nello strumento di intelligenza artificiale generativa più popolare al mondo che compensano i rischi citati in precedenza?