La polizia predittiva è molto più importante di quanto pensavamo una volta: relazione

Sapere come proteggerci dalle violazioni dei dati online è diventata una conoscenza sempre più cruciale per la partecipazione alla vita online: Noi (si spera) cambiamo le nostre password e controlliamo diligentemente la casella di verifica in due parti. Ma un nuovo rapporto ha rivelato che nelle città di tutto il paese, solo chiamare la polizia contribuisce a una rete dati più ampia e più insidiosa di quanto non avessimo mai realizzato prima.

Dozzine di città degli Stati Uniti sono state trovate in possesso di contratti precedentemente non confermati con PredPol, una società tecnologica "criminale-prevedente" che ha paragonato il loro software a una strategia di polizia "a finestre rotte". Le comunità colpite, tra cui Atlanta, Palo Alto, California e Tacoma, Washington, sono collettivamente sede di oltre 1 milione di residenti, secondo i documenti ottenuti dall'outlet motherboard attraverso una serie di richieste del Freedom of Information Act.

La polizia predittiva usa i dati raccolti dai dipartimenti di polizia nel tentativo di prevedere quando e dove i crimini volontà si verificano. Se quella tattica sembra un pio desiderio, beh, sì, lo è, almeno in sostanza. Gran parte della politica predittiva si è evoluta dalla strategia di polizia "finestre rotte", che ha acquisito importanza negli anni '80. La teoria criminologica ora ampiamente criticata sostiene che i segni di crimine, disordine e comportamento antisociale - come, letteralmente, finestre rotte - creano un ambiente urbano che favorisce ulteriore disordine e criminalità, in misura più grave. La soluzione era di reprimere il crimine piccolo, nel tentativo di ostacolare il futuro crimine serio. Quello che è successo invece è stato il controllo eccessivo delle comunità minoritarie.

In che modo la Prevalenza della polizia predittiva è stata sottostimata

I sostenitori della polizia predittiva sostengono, tuttavia, che i dati sono dati. Sono numeri. È infallibile. Ma naturalmente, A.I. è ancora costruito dagli umani, che abitualmente inseriscono i loro apparentemente obiettivi sistemi con pregiudizi razziali. La polizia predittiva non è diversa. Già nel 2016, i difensori dei diritti civili, tra cui l'ACLU, hanno espresso preoccupazione per l'uso crescente del software di polizia predittiva, sostenendo che ciò porta a un eccessivo controllo delle comunità povere e minoritarie.

"I sistemi progettati per supportare lo status quo non trovano spazio nella polizia americana", si legge in una dichiarazione firmata da 17 organizzazioni per i diritti civili, tra cui l'ACLU e la NAACP. "I dati che guidano le attività di controllo predittivo - come la posizione e la tempistica dei reati precedentemente segnalati, o modelli di chiamate al 911 avviate da comunità e ufficiali - sono profondamente limitati e distorti".

Uno dei principali reclami di polizia predittiva è che si basa esclusivamente su reati segnalati. Non - non può - prendere in considerazione l'effettivo ambiente sociale di una comunità. Inoltre, la polizia predittiva "predice" il crimine di strada. Il software non traccia il crimine dei colletti bianchi. Non colloca agenti dell'FBI agli angoli di Wall Street per dare la caccia a individui che sembrano potenti affamati per commettere qualche insider trading.

PredPol, con sede a Santa Cruz, in California, sostiene di avere un algoritmo in grado di prevedere il crimine in aree di 500 per 500 piedi. In alcuni casi, dicono, possono persino individuare specifici angoli o case di blocco. Usando "big data e intelligenza artificiale", l'azienda promette anche di "prevedere dove e quando è probabile che si verifichino eventi avversi: crimini, collisioni, overdose - facciamo tutto", secondo la loro biografia su Twitter.

Secondo i documenti della Motherboard, PredPol ha detenuto - e in un certo numero di casi, continua a detenere - dozzine di contratti precedentemente non segnalati con città in tutto il paese. La mancanza di trasparenza ricade sulla posizione di PredPol come venditore. Molti dei loro file sono, tecnicamente, conoscenza pubblica; ma le comunità, in particolare quelle che cadono in preda alla sovra-sorveglianza, non sanno dove guardare.