Le tecnologie di riconoscimento facciale dell'FBI non rispettano la tua privacy e i tuoi diritti

Chi è il cane da guardia del cane da guardia? The Government Accountability Office, come suggerisce il titolo. Il recente rapporto del GAO sull'uso della tecnologia di riconoscimento facciale da parte del governo è arrivato al pubblico mercoledì. Essenzialmente, ci siamo fatti una situazione. Una brutta situazione. In breve: con i suoi programmi di riconoscimento facciale, l'FBI sta violando la tua privacy e non te ne parla. Inoltre, l'FBI non effettua test per garantire che questi programmi siano accurati e affidabili.

L'FBI e la biometria risalgono al passato: la relazione amorosa è iniziata con i database delle impronte digitali. Ma va molto oltre, ora. "Biometria", per l'FBI e secondo il GAO, significa "il riconoscimento automatico degli individui in base alle loro caratteristiche biologiche e comportamentali". Nel 2011, l'FBI ha lanciato il progetto pilota del suo sistema "Next-Generation Identification" (NGI); quattro anni dopo, nell'aprile 2015, era pienamente operativo.

La NGI utilizza in parte l'Interstate Photo System (IPS) per questi cosiddetti dati biometrici. Questo database, oltre a database esterni di società private, fornisce alle agenzie governative l'accesso a oltre 411 milione foto del viso (la popolazione attuale degli Stati Uniti è di 319 milioni). Il Dipartimento di Giustizia afferma che la maggior parte di queste foto proviene da foto segnaletiche - "Oltre l'80% delle foto in NGI-IPS è criminale" - ma si associano anche a numerosi stati per ottenere l'accesso alle patenti e alle foto dei passaporti. Il GAO dice che il momento a sospettare è "prenotato per un crimine", lui o lei è nei libri - cioè nel NGI-IPS.

Ciò che non è esattamente chiaro dal rapporto è quanto l'FBI faccia le cose con le tue foto sui social media. L'FBI afferma di non includerli nel NGI-IPS, ma li usa:

"… le foto scattate da telecamere di sicurezza o foto di social media non sono registrate in NGI-IPS … Secondo l'FBI, i database di foto esterni non contengono foto o foto ottenute privatamente dai social media, e l'FBI non gestisce queste foto; cerca solo contro di loro ".

Ma vale la pena notare quanta parte dei social media potrebbe essere. L'app fotografica del tuo computer ha la capacità di riconoscere te e i tuoi amici. Anche Facebook fa ed è disturbato nel catalogare ogni persona in una foto. Ogni volta che usi un obiettivo Snapchat, Snapchat mappa i contorni unici del tuo viso. E non finisce qui: queste tecnologie sono praticamente ovunque.

Indipendentemente da ciò, non è solo l'FBI che si diverte con il tuo viso: l'accesso si estende ai dipartimenti di polizia locali. (C'è anche questo: "Il sistema di riconoscimento facciale del Dipartimento della Difesa è usato per supportare i combattenti sul campo per identificare i combattenti nemici.") L'FBI è l'unica agenzia con diretto accesso, ma chiunque altro può semplicemente richiedere l'accesso. Una volta concesso l'accesso, l'agenzia in questione invia una foto all'FBI e richiede un numero specifico di potenziali corrispondenze. (La foto potrebbe essere ad alta risoluzione, ma, conoscendo le telecamere di sicurezza, probabilmente non lo è.) Una volta lì, il NGI-IPS esegue la foto attraverso il suo database, e quindi, il GAO dice, "l'analisi umana deve essere eseguita." Una squadra di "29 specialisti di immagini biometriche addestrate nei servizi di valutazione dell'analisi facciale analisi facciale", quindi fornisce l'ultima parola. Alla fine, il numero richiesto di potenziali partite torna all'agenzia. Spetta quindi a quell'agenzia stabilire se questi sospetti apparenti siano o meno sospetti.

Ecco come funziona:

"In particolare, la tecnologia estrae le caratteristiche dai volti e li inserisce in un formato, spesso definito come un faceprint, che può essere utilizzato per la verifica, tra le altre cose. Una volta creato il faceprint, la tecnologia può utilizzare un algoritmo di riconoscimento facciale per confrontare i volti faccia a faccia l'uno con l'altro per produrre un valore di punteggio singolo che rappresenta il grado di somiglianza tra le due facce."

A seconda della tua familiarità con la fantascienza, potrebbe sembrare un sistema affidabile e degno di fiducia. Non è. Ecco un sezione intestazione nel rapporto GAO:

"L'FBI ha informazioni limitate sull'accuratezza delle sue capacità tecnologiche per il riconoscimento dei volti."

Tutto quello che l'FBI sa è quello, quando lo fa fatto testare il tasso di accuratezza del 50-potenziale-match del programma - che ha fatto, in modo snervante, con un database di test, e non con il vero database - era accurato all'86 percento. L'FBI non ha "valutato l'accuratezza delle ricerche di riconoscimento facciale di NGI-IPS nelle sue impostazioni operative - l'impostazione in cui le foto registrate, piuttosto che un database di test di foto - sono utilizzate per condurre una ricerca di lead investigativi". attenzione a quanto siano accurati i sistemi di riconoscimento facciale impiegati dalle società private: non ci sono controlli.

Ottantasei per cento precisi. In altre parole: circa quattro stelle su cinque. Se il tuo ristorante di sushi locale avesse quattro stelle su cinque, potresti prendere in considerazione l'idea di ordinare il cibo da asporto. Ma proprio come un basso numero di recensioni può distorcere la valutazione di un ristorante, così anche a alto il numero di potenziali corrispondenze può distorcere l'accuratezza di NGI-IPS. Cinquanta potenziali corrispondenze è il massimo che le agenzie possono richiedere; il sistema potrebbe sputarne fuori Due. Il GAO dice che più piccola è la lista, meno accurato è il sistema.

C'è anche tutta la fastidiosa cosa falsa positiva. "I funzionari dell'FBI hanno dichiarato di non aver valutato la frequenza con cui le ricerche di riconoscimento facciale NGI-IPS corrispondono erroneamente a una persona nel database (il tasso di falsi positivi)." I falsi positivi sono - perdono il mio linguaggio - serie cazzate, perché "possono alterare la tradizionale presunzione di innocenza nei casi criminali ponendo un maggior carico sul convenuto per dimostrare che non è quello che il sistema lo identifica. "Il sistema può scomporre su entrambe le estremità dell'equazione: se la foto è di scarsa qualità, il tasso di successo precipita; se il software è di scarsa qualità, i tassi di successo crollano. Bassi tassi di successo significano molti falsi positivi.

Il GAO, dopo aver completato il suo rapporto, ha dato sei consigli al procuratore generale statunitense Loretta Lynch e al direttore dell'FBI James Comey. L'essenza: il Dipartimento di giustizia ha un problema di opacità. Il pubblico può sapere che la sua privacy è stata violata, ma il pubblico non lo sa in modo specifico Come la sua privacy è stata violata. Inoltre, il Dipartimento di Giustizia deve porre rimedio alla mancanza di supervisione per garantire che ci siano passi di privacy minimi. Infine, il Dipartimento di giustizia deve assicurarsi - anche se retroattivamente - che questi programmi siano affidabili.

Il Dipartimento di Giustizia ha acconsentito, per intero, con una raccomandazione. Ha "parzialmente concordato" con altri due, ma ha respinto i restanti tre - due dei quali hanno tentato di stabilire linee guida di accuratezza.