La vita come descritta nel 1984 di George Orwell “potrebbe realizzarsi nel 2024” se i legislatori non proteggeranno il pubblico dall’intelligenza artificiale, ha avvertito il presidente di Microsoft, Brad Smith. E sarà “difficile recuperare il ritardo”, considerato il progresso così rapido di questa tecnologia.
“Se non mettiamo in atto le leggi che proteggono il pubblico da un futuro così, scopriremo molto presto che la tecnologia è andata troppo avanti per poterla rimettere sotto controllo”, ha detto senza mezzi termini Smith.
Mi vengono costantemente in mente le lezioni di George Orwell nel suo libro 1984. Parlava di un governo che poteva vedere tutto ciò che tutti facevano e ascoltare tutto ciò che tutti dicevano in ogni momento. Non è successo nel 1984, ma se non stiamo attenti succederà nel 2024.
Se Orwell fosse stato a Pechino
In alcune parti del mondo, la realtà si sta avvicinando sempre di più alla visione distopica di George Orwell.
L’ambizione della Cina è quella di diventare il leader mondiale nell’AI entro il 2030, e molti considerano le sue capacità ben oltre quelle europee.
- Nel 2019, la Cina ha battuto gli Stati Uniti nel numero di brevetti garantiti dalle istituzioni accademiche per l’innovazione nelle tecnologie AI.
- Secondo una ricerca di Comparitech, il 54% dei 770 milioni di telecamere CCTV del mondo si trova in Cina.
Il dottor Lan Xue, consulente del governo cinese, ha affermato che il riconoscimento facciale potrebbe rivelarsi “estremamente utile” nell’identificare le persone nelle riunioni di massa in caso di “grave incidente”. E posso assicurarvi che lo sviluppo di questa tecnologia è già parecchio avanzato.
Le reazioni cinesi al j’accuse degli americani
Eric Schmidt, ex amministratore delegato di Google e ora presidente della Commissione per la sicurezza nazionale degli Stati Uniti sull’intelligenza artificiale, ha avvertito che battere la Cina nell’intelligenza artificiale è imperativo.
“Siamo in un conflitto strategico geo-politico con la Cina”, ha detto. “Il modo per vincere è mettere insieme le nostre risorse per avere strategie nazionali e globali affinché le democrazie vincano nell’AI. Se non lo faremo, guarderemo a un futuro in cui ci verranno imposti altri valori”. Valori alla Orwell.
Il dottor Xue non è dello stesso avviso. “La Cina non cerca di esportare i suoi valori. Certo, ha effettivamente compiuto enormi progressi nello sviluppo tecnologico, e gli USA sentono che questa è una minaccia. Per questo hanno dato vita ad una sorta di Guerra Fredda sulla tecnologia” (e non solo, direi).
Sebbene la Cina abbia enormi differenze con gli USA nei suoi valori e nella sua politica, la sua visione del mondo non è la convergenza ma la coesistenza.
Keyu Jin, professore associato presso la London School of Economics.
Progetto Maven
Quando si tratta di controllo alla Orwell, però, gli USA mostrano di avere ambizioni non del tutto dissimili da quelle cinesi. Il dottor Schmidt è diventato consigliere del Pentagono nel 2016, pur mantenendo la posizione di presidente esecutivo di Alphabet, la società madre di Google. Negli anni successivi, Google ha avviato un contratto con il Pentagono che gli consente di utilizzare alcune delle sue tecnologie di riconoscimento delle immagini come parte di un progetto militare.
Il progetto, chiamato Maven, usava il machine learning per distinguere persone e oggetti nei video dei droni.
“Maven all’epoca era… un modo per sostituire gli occhi umani con la visione automatica per le riprese dei droni che venivano utilizzate nei vari conflitti arabi”, dice Schmidt. Orwell non gli viene in mente, immagino. “Ho visto l’uso di quella tecnologia come un netto positivo per la sicurezza nazionale e una buona partnership per Google”. Vorrei capire perchè una tecnologia in mano cinese diventa subito “repressiva”, e la stessa tecnologia in mano americana diventa subito “positiva per la sicurezza nazionale”, e vabbè.
E non sono l’unico a chiederselo. Anche gli stessi dipendenti Google lo hanno fatto, criticando il progetto, presentando petizioni per contrastarlo e perfino dimettendosi.
“Google non dovrebbe essere coinvolto nel business della guerra”, diceva l’ingegnere del software Laura Nolan che si è dimessa nel 2018, quando ha scoperto la natura del progetto. “Mi sembrava di avere le mani sporche di sangue”.
Inutile dire che Google ha affermato che la sua intelligenza artificiale sarebbe stata utilizzata solo per scopi non offensivi, prima di ritirarsi completamente (?) dal progetto Maven nel giugno 2018. Il dottor Orwell, pardon, Schmidt ha affermato di ritenere che la tecnologia potrebbe aiutare i militari a “prendere le decisioni giuste”, e di ritenere che sia una “cosa buona”.
Wannabe Orwell, la corsa agli armamenti dell’IA
Insomma, si fa presto a dire “Orwell”, ma la verità è che i cittadini del mondo sono di fronte ad un rischio potenziale piuttosto bipartisan. Il Dipartimento della Difesa continua a cercare partnership nella Silicon Valley, nel tentativo di vincere la corsa globale con la Cina agli armamenti con intelligenza artificiale.
Perché siamo in una gara, perché siamo in questa competizione, è davvero di questo che si tratta. Ci aiuteranno a vincere questa gara o essenzialmente saranno contro di noi? La Cina non ha lo stesso sistema di governo che abbiamo noi. La corsa agli armamenti dell’IA potrebbe portare a un conflitto con la Cina? Assolutamente.”
Seth Moulton, presidente della US Future of Defense Task Force, esorta le aziende tecnologiche a sostenere il Dipartimento della Difesa.
Il dottor Orwell, pardon, Xue (ormai vedo Orwell ovunque) ha convenuto che esiste un potenziale conflitto. Ma sornione, e nello stile morbido che caratterizza l’establishment del Celeste Impero, dice “ma non è inevitabile: gli Stati Uniti e la Cina dovrebbero davvero collaborare per evitare che ciò accada”.
