Il Queensland Police Service (QPS) in Australia avvierà un processo basato sull’intelligenza artificiale (AI) per determinare il rischio futuro che alcuni soggetti segnalati facciano violenza domestica.
Gli autori identificati come “ad alto rischio” (in base a precedenti segnalazioni, a precedenti penali o altri) saranno visitati a casa dalla polizia prima che la violenza domestica si aggravi e venga commesso qualche crimine.
Violenza domestica: prevenire è meglio, ma…
Lo dico subito: serve trovare modi migliori per migliorare la sicurezza delle donne vittime di violenza domestica. Tuttavia, l’utilizzo della tecnologia AI in questo contesto può avere conseguenze indesiderate, e questo piano proposto solleva serie domande sul ruolo della polizia nella prevenzione degli incidenti di violenza domestica.
L’approccio si basa su un algoritmo che è stato sviluppato da dati esistenti. Tutti gli algoritmi statistici devono valutare il rischio sulla base dei dati disponibili. Questo a sua volta significa che sono validi “solo” quanto i dati che li sostengono. Non è un caso che gli esperti critichino gli strumenti di valutazione del rischio basati sui dati nelle attività di polizia, sottolineando la mancanza di trasparenza nei tipi specifici di dati analizzati.
Attenzione a giocare alla ”Pre crimine”
Come detto, i dati chiave acquisiti in modo più coerente sono le informazioni sulle situazioni passate in cui è stata chiamata la polizia e i dati sui precedenti penali. L’uso di queste informazioni per addestrare un algoritmo di intelligenza artificiale potrebbe rafforzare i pregiudizi esistenti nel sistema di giustizia penale. Potrebbe creare un ciclo di feedback infinito, un circolo vizioso senza uscita tra la polizia e quei cittadini che hanno più contatti con la polizia.
Se vi vengono in mente anche discriminazioni etniche, non siete lontani dal vero. In Australia, ad esempio, le persone che entrano più in contatto con la polizia sono gli aborigeni. Non è difficile immaginare che sotto questo nuovo regime “anti violenza domestica” gli aborigeni saranno più visitati dalla polizia .
La polizia tiene a dire che per questo progetto pilota gli attributi di etnia e posizione geografica sono stati rimossi prima di addestrare il modello di AI. Nonostante questo, è comunque probabile che gli aborigeni continueranno a essere presi di mira in modo sproporzionato, dal momento che sono sovrarappresentati in tutti i tipi di contatto con la polizia.
Quello basato sul ”rischio” di crimine è un buon approccio?
L’obiettivo di queste strategie di polizia basate sull’intelligenza artificiale è prevenire o ridurre la criminalità, attraverso una valutazione del rischio di reati futuri. In teoria, questo significa che la polizia interverrebbe in anticipo per impedire che si verifichi un crimine. Chi ricorda la già citata ”Pre crimine” di ”Minority Report”?
Io dico che con questo approccio ci sono rischi che la polizia possa addirittura creare criminalità. Un programma ”preventivo” di questo tipo può aumentare le resistenze e i meccanismi di aggiramento: non mi sorprenderebbe se questo portasse ad altri reati.
In sintesi, il piano proposto dalla polizia australiana presenta un evidente rischio. Quello di allargare la rete di criminalizzazione sia per gli autori, sia per le vittime (che possono essere erroneamente identificate come autori.) Come? Ad esempio, a volte le vittime che hanno usato la violenza per legittima difesa sono state arrestate al posto dell’autore.
Può portare ulteriori danni alle vittime di violenza domestica?
Anche il ruolo della vittima in un tale programma è preoccupante. Qualsiasi programma che approfondisca la sorveglianza dei colpevoli approfondisce anche la sorveglianza delle vittime .
Le vittime non sempre vogliono che la polizia intervenga nelle loro vite. In alcuni casi, questa forma di polizia proattiva potrebbe sembrare un’estensione del controllo, piuttosto che un aiuto. Cosa succede quando la polizia visita e scopre che un perpetratore e una vittima ad alto rischio vivono di nuovo insieme?
I rischi ci sono
Le vittime possono temere che le autorità per la protezione dell’infanzia vengano coinvolte e si sentano obbligate a nascondere il fatto che sono ancora con l’autore del reato. E una volta che una vittima è stata costretta a mentire, potrebbe essere riluttante a chiamare la polizia la prossima volta che ha bisogno dell’intervento della polizia. In altri casi, l’autore o la vittima possono decidere di non seguire i consigli di sicurezza degli agenti di polizia che visitano. Non è chiaro cosa potrebbe fare la polizia in una situazione in cui chiedesse a un aggressore di andarsene o cercasse di portare in salvo una vittima, ma questi si rifiutano.
La missione di qualsiasi intervento contro la violenza domestica dovrebbe essere quella di restituire il potere alle vittime. Ma sappiamo che gli interventi non aiutano tutte le donne (o gli uomini) allo stesso modo. Le disuguaglianze strutturali , tra cui razza e classe, significano che gli interventi sono vissuti in modo diverso da persone diverse.
