FBIs ansigtsgenkendelsesteknologier respekterer dine personlige oplysninger og rettigheder

Hvem er vagthundens vagthund? Regeringen Ansvarskontoret, som dens titel antyder. GAOs nylige rapport om regeringens brug af ansigtsgenkendelsesteknologi fandt sin vej til offentligheden onsdag. I det væsentlige fik vi os selv en situation. En dårlig situation. Kort sagt: Med sine ansigtsgenkendelsesprogrammer overtræder FBI din privatliv og fortæller dig ikke om det. Endvidere tester FBI ikke at sikre, at disse programmer er korrekte og pålidelige.

FBI og biometri går langt tilbage - det kærlige forhold begyndte med fingeraftrykdatabaser. Men det går meget længere end det nu. "Biometrics," til FBI og ifølge GAO betyder "den automatiske anerkendelse af individer baseret på deres biologiske og adfærdsmæssige karakteristika." I 2011 rullede FBI piloten af ​​sin "Next Generation Identification" (NGI) system; fire år senere, i april 2015, var det fuldt operationelt.

NGI bruger delvis Interstate Photo System (IPS) til disse såkaldte biometri. Denne database - ud over eksterne databaser fra private virksomheder - giver offentlige myndigheder adgang til over 411 million face photos (den nuværende amerikanske befolkning er kun 319 millioner). Justitsministeriet hævder, at de fleste af disse billeder er fra krigsbilleder - "Over 80 procent af billederne i NGI-IPS er kriminelle" - men de går også sammen med mange stater for at få adgang til kørekort og pasfoto. GAO siger, at øjeblikket a formode er "booket for en forbrydelse", er han eller hun i bøgerne - dvs. i NGI-IPS.

Hvad der ikke er helt klart i rapporten, er, hvor meget FBI diddles med dine sociale medier. FBI hævder, at det ikke omfatter dem i NGI-IPS, men det bruger dem:

"… billeder taget fra sikkerhedskameraer eller sociale medier fotografier er ikke tilmeldt NGI-IPS … Ifølge FBI indeholder de eksterne fotodatabaser ikke privatbilleder eller fotos fra sociale medier, og FBI opretholder ikke disse fotos. den søger kun imod dem."

Men det er værd at bemærke, hvor meget af guldmine sociale medier kan være. Din computers fotoapp har evnen til at genkende dig og dine venner. Facebook gør det også, og det er foruroligende godt at katalogisere hver person i et billede. Hver gang du bruger en Snapchat-linse, kortlægger Snapchat dit ansigts unikke konturer. Og det stopper ikke der - disse teknologier er praktisk taget overalt.

Uanset det er det ikke kun FBI, der har det sjovt med dit ansigt: adgangen strækker sig ned til lokale politiafdelinger. (Der er også dette: "Forsvarsministeriets ansigtsgenkendelse system bruges til at støtte krigsførere i marken for at identificere fjendtlige kampanter.") FBI er det eneste agentur med direkte adgang, men alle andre kan simpelthen anmode om adgang. Når adgangen er tildelt, sender agenturet et foto til FBI og anmoder om et bestemt antal potentielle kampe. (Fotoet kan være høj opløsning, men ved at kende sikkerhedskameraer er det sandsynligvis ikke.) NGI-IPS kører derimod billedet gennem sin database, og GAO siger, at "human analyse skal udføres." Et hold af "29 uddannede biometriske billeder specialister i FACE Ansigtsanalyse Sammenligning Evaluering Services" giver derefter det endelige ord. Til sidst finder det nødvendige antal potentielle kampe sin vej tilbage til agenturet. Det er så op til agenturet for at afgøre, hvorvidt disse tilsyneladende mistænkte er faktiske mistænkte eller ej.

Sådan fungerer det:

"Teknologien udtræk specifikt fra ansigterne og sætter dem i et format - ofte omtalt som et overtryk - der kan bruges til kontrol blandt andet. Når ansigtsaftrykket er oprettet, kan teknologien bruge en ansigtsgenkendelsesalgoritme til at sammenligne ansigtsprints mod hinanden for at producere en enkelt scoreværdi, der repræsenterer graden af ​​lighed mellem de to ansigter."

Afhængigt af din fortrolighed med science fiction, kan det måske være et pålideligt og troværdigt system. Det er ikke. Her er en afsnit overskrift inden for GAOs rapport:

"FBI har begrænset information om nøjagtigheden af ​​sine ansigtsgenkendelsesteknologier."

Alt FBI ved, er det, når det er gjorde test programmets nøjagtighedshastighed på 50 potentielle kampe - hvilket det gjorde unnervingly med en testdatabase og ikke den rigtige database - den var 86 procent nøjagtig. FBI har ikke "vurderet nøjagtigheden af ​​ansigtsgenkendelsessøgninger af NGI-IPS i dets operationelle indstilling - den indstilling, hvor indskrevne fotos i stedet for en testdatabase med fotos bruges til at søge efter undersøgelsesresultater." Det gør det heller ikke pleje, hvor nøjagtigt det er, at de ansattes private virksomheders ansigtsgenkendelsessystemer er: Der er ingen revisioner.

Otteoghalvfems procent nøjagtige. Med andre ord: omkring fire ud af fem stjerner. Hvis din lokale sushi restaurant havde fire ud af fem stjerner, kan du overveje at bestille takeout. Men ligesom et lavt antal anmeldelser kan skew en restaurant vurdering, så også en høj Antallet af potentielle kampe kan skelne NGI-IPS nøjagtighed. Femogte potentielle kampe er de maksimale agenturer kan anmode om; systemet kan spytte ud så få som to. GAO siger, at jo mindre listen, desto mindre præcis systemet.

Der er også den hele beskedne falske positive ting. "FBI-embedsmænd sagde, at de ikke har vurderet, hvor ofte NGI-IPS-ansigtsgenkendelsessøgninger fejlagtigt matcher en person til databasen (den falske positive sats)." Falske positiver er - undskyld mit sprog - alvorlige fuck-ups, fordi de "kan ændre den traditionelle formodning om uskyld i straffesager ved at lægge mere byrde på sagsøgte for at vise, at han ikke er, hvem systemet identificerer ham at være. "Systemet kan bryde ned i begge ender af ligningen: Hvis billedet er af ringe kvalitet, succesrate blomstrede; Hvis softwaren er dårlig kvalitet, slår succesfrekvensen ned. Lav succesrate betyder mange falske positive.

GAO, efter at have afsluttet sin rapport, gav seks advokater fra USAs justitsminister Loretta Lynch og FBI, James Comey. Kernen: Justitsministeriet har et opacitetsproblem. Offentligheden kan vide, at dens privatliv bliver krænket, men offentligheden ved ikke specifikt hvordan dets privatliv bliver krænket. Også justitsministeriet skal afhjælpe den manglende overvågning for at sikre, at der er minimalt privatliv oversteps. Endelig skal justitsministeriet sørge for - omend med tilbagevirkende kraft - at disse programmer er pålidelige.

Justitsministeriet blev kun enig med en henstilling. Det "delvis aftalte" med to, men afviste de resterende tre - hvoraf to forsøgte at etablere retningslinjer for nøjagtighed.