C’è un nuovo inquilino indesiderato nei nostri feed dei social media: lo spam generato dall’intelligenza artificiale. Post bizzarri, emotivamente manipolativi o apertamente fraudolenti, creati da algoritmi sempre più sofisticati, stanno dilagando su piattaforme come Facebook, Threads e LinkedIn. E il problema è aggravato dal fatto che spesso sono gli stessi social network a promuovere attivamente questi contenuti, innescando un circolo vizioso di disinformazione e frustrazione per gli utenti.
Meta e company annunciano contromisure (come l’etichettatura dei post AI), ma è abbastanza per arginare questa nuova ondata di spam hi-tech?
Il volto bizzarro dello spam AI
Per molti utenti, il primo incontro con lo spam AI avviene in modo surreale. “Il testo recita ‘Chiudi gli occhi al 70% e vedi la magia’. E senza nemmeno strizzare troppo gli occhi, ti appare chiaramente una sorta di immagine di Gesù composta da verdure, un trattore e una bambina distorti.
E vogliamo parlare delle migliaia e migliaia di immagini simili con didascalie identiche? Dei post emotivamente manipolativi raffiguranti madri disabili e bambini nel fango che realizzano improbabili e complicate strutture con bottiglie di plastica? Siamo già in un manicomio. E ce lo propongono come primo piatto, anche.
Se l’algoritmo promuove lo spam
Il problema dello spam AI su Facebook è aggravato dal fatto che, in molti casi, sembra essere l’algoritmo stesso della piattaforma a dare visibilità a questi post.
Uno studio condotto da ricercatori delle università di Georgetown e Stanford ha analizzato oltre 100 pagine Facebook che pubblicano regolarmente contenuti AI, a volte decine e decine di volte al giorno. I risultati? Sono allarmanti: molte di queste pagine sono impegnate in truffe e spam, e Facebook sta attivamente raccomandando alcuni di questi contenuti nei feed degli utenti.
Abbiamo visto immagini generate dall’IA di tutto ciò che si possa immaginare, da case di tronchi a nonne con torte di compleanno, a bambini con dipinti magistrali che semplicemente non potevano essere reali.
Josh Goldstein, ricercatore di Georgetown e co-autore dello studio.
Il lato oscuro dello spam AI
L’analisi di Goldstein e del suo co-autore ha rivelato che alcune di queste pagine sono di classici spammer, che pubblicano link a siti web dove possono raccogliere entrate pubblicitarie. Altri sono truffatori che pubblicizzano prodotti generati dall’IA che non sembrano esistere realmente. Altri però, e non è necessariamente una buona notizia, non hanno una chiara motivazione finanziaria. Sembrano semplicemente accumulare un pubblico per scopi sconosciuti.
“Potrebbe trattarsi di pagine dannose che cercano di costruire un pubblico per poi passare alla vendita di beni, a link a siti web pieni di pubblicità o persino a cambiare completamente argomento verso qualcosa di politico”, ipotizza Goldstein. “Ma sospetto che più probabilmente, molte di queste pagine siano semplicemente creators che hanno capito che è una tattica utile per ottenere coinvolgimento del pubblico”.
Le piattaforme social corrono ai ripari. Più o meno.
Lo sapevamo, ce lo diciamo da quasi 3 anni: lo tsunami di contenuti scadenti prodotti da un uso improprio e leggero dell’AI ci avrebbe travolto. E ora che facciamo?
Di fronte all’ondata di spam AI, le piattaforme social dicono di metterci una pezza. Facebook ha annunciato di stare iniziando ad etichettare alcuni contenuti creati da strumenti di intelligenza artificiale. La scorsa settimana, TikTok ha iniziato ad applicare etichette simili ad alcuni post generati dall’IA sulla sua piattaforma.
Meta, la società madre di Facebook e Instagram, ha dichiarato in una nota:
Lavoriamo per ridurre la diffusione di contenuti spam o sensazionalistici perché vogliamo che gli utenti abbiano una buona esperienza, ed è per questo che offriamo loro il controllo su ciò che vedono nel loro feed.
Sicuri sicuri?
Spam AI, l’impatto negativo è forte
Per molti utenti, le misure annunciate dai social potrebbero non essere sufficienti. Ho amici che raccontano di dover scoraggiare un genitore anziano dall’acquistare lavori in legno e altri articoli di arredamento visti su Facebook, e chiaramente falsi.
Alcuni utenti stanno addirittura considerando di abbandonare la piattaforma a causa per la frustrazione di vedersi costantemente bombardati di immagini AI spam.
A parte il fastidio (che mi tocca al punto di bannare qualsiasi cosa del genere mi capiti a tiro) vorrei ragionare con voi sulle implicazioni più ampie della diffusione di immagini artificiali ovunque. La mia idea è che nel breve periodo rafforzeranno semplicemente l’incredulità delle persone. E sul medio periodo le renderanno ancora più difficile distinguere il reale dal falso. E nel mondo, in questo periodo storico, perdere il senso di realtà è una roba pericolosissima.
Il futuro è un’incognita
Le contromisure sventolate dai padroni della conversazione social saranno sufficienti? L’etichettatura dei contenuti generati dall’IA potrebbe essere un passo nella giusta direzione, ma non bastare a frenare il flusso di post fasulli e ingannevoli che stanno invadendo i nostri feed.
E la facilità con cui chiunque può ora creare contenuti AI rischia di trasformare questa tendenza in un problema endemico. In sostanza, l’ascesa dello spam AI sui social media è il sintomo di un problema più ampio: la difficoltà di navigare in un mondo in cui la linea tra realtà e finzione è sempre più sfocata.
Eppure serve orientarci, anche a costo di grandi sforzi: perché perdersi in questo mare di bugie è un attimo.
