“Heather” ha 14 anni, un profilo Snapchat e non esiste. È il nuovo asso nella manica della polizia del New Mexico per le indagini online contro i pedofili. Ma usare l’IA per creare minorenni virtuali è davvero la soluzione giusta? Preparatevi, perché questa storia vi farà riflettere.
Quando la realtà supera il “solito” Black Mirror
Le indagini online stanno prendendo una piega che nemmeno Charlie Brooker avrebbe osato immaginare per la sua serie distopica. La polizia del New Mexico ha deciso di giocare con il fuoco digitale, creando un’adolescente virtuale per attirare predatori sessuali sui social. Un’idea brillante o un disastro etico in attesa di esplodere? Tutto è iniziato con una causa legale contro Snapchat, accusata di non proteggere abbastanza i minori sulla sua piattaforma (riecheggia la questione di Pavel Durov o sbaglio io?). Per dimostrare quanto fosse facile per i predatori adescare ragazzini, gli investigatori hanno creato “Heather”, una quattordicenne generata dall’IA.
Non si sono limitati a usare la foto di qualche giovane poliziotta, come si faceva ai vecchi tempi. No, hanno deciso di alzare la posta, utilizzando l’intelligenza artificiale per creare un’immagine il più realistica e convincente possibile. Il risultato? Un successo inquietante.
Pescare nel torbido con le indagini online
Con “Heather” come esca, gli agenti hanno iniziato a pescare nel mare nero dei social. E che pesci hanno abboccato! Utenti con nomi da brivido come “child.rape” e “pedo_lover10” non hanno esitato a contattare la finta ragazzina, cercando di ottenere materiale esplicito. La tattica ha funzionato fin troppo bene, rivelando un lato oscuro dell’app che molti preferirebbero ignorare. Ma ci sono anche delle domande. La prima, probabilmente la più importante: è giusto creare immagini sessualizzate di minori, anche se finte, per catturare i veri predatori? È come combattere il fuoco con il fuoco, o stiamo solo aggiungendo benzina all’incendio?
Carrie Goldberg, l’avvocata che ha rappresentato alcune vittime di Harvey Weinstein, non ha dubbi: “Sarebbe eticamente preoccupante se il governo creasse deepfake di abusi su minori, perché quelle immagini sono illegali e non vogliamo più materiale del genere in circolazione”.
L’elefante nella stanza dell’AI
C’è poi un altro problema, sempre ingombrante: per generare immagini realistiche di bambini, l’IA deve essere addestrata su foto di bambini veri. Vi sentite a vostro agio con questa idea? Io non lo so. Penso di no. Pensateci un attimo: stiamo usando le immagini di bambini reali, che non possono dare un vero consenso, per creare versioni sessualizzate e fittizie di altri bambini. Non so voi, ma a me viene la pelle d’oca. Come se non bastasse, c’è il rischio che questa tattica si ritorca contro la polizia stessa. Goldberg avverte che usare foto generate dall’IA potrebbe fornire armi per difese giudiziarie. Immaginate un avvocato che dice: “Il mio cliente non stava cercando una ragazzina vera, ma una creazione artificiale della polizia”.
Indagini online: la tecnologia corre, l’etica arranca
Mentre discutiamo, la tecnologia continua a correre. Le immagini di abusi su minori generate dall’IA sono già in aumento. In questo scenario, la mossa della polizia del New Mexico sembra un tentativo disperato di stare al passo con i criminali. Ma la domanda rimane: stiamo davvero proteggendo i bambini, o stiamo solo creando un nuovo tipo di sfruttamento, anche se virtuale?
Ci troviamo di fronte a un vero e proprio “Comma 22” dell’era digitale. Ricordate il romanzo, e il corrispondente paradosso? Da un lato, questa tattica sembra funzionare nell’attirare i predatori. Dall’altro, stiamo entrando in un territorio etico molto grigio, se non completamente nero.
E ora?
Non ho una risposta definitiva, e forse nessuno ce l’ha. Quello che è certo è che questa storia ci mette di fronte a domande scomode sul futuro delle indagini online e sul ruolo dell’IA nella lotta al crimine. Forse la vera soluzione non sta nella creazione di vittime virtuali, ma nel rendere le piattaforme social più sicure alla radice. O forse dovremo accettare che, in un mondo sempre più digitale, anche la lotta al crimine dovrà adottare metodi che ci faranno sentire a disagio.
Il dibattito sulle indagini online è appena iniziato, e non sarà una conversazione facile. Ma è una conversazione che dobbiamo avere, per il bene dei nostri figli reali, non quelli generati dall’IA. E voi, da che parte state?
