Human Rights Watch: Kina bruger store data til målrettede minoritetsgrupper

Den kinesiske regering bruger prædiktive politi algoritmer til at målrette etniske minoriteter i provinsen Xinjiang, ifølge en Human Rights Watch-rapport, der blev udgivet mandag.

Provinsen i det nordvestlige Kina er hjemsted for 11 millioner uyghurer, en tyrkisk muslimsk etnisk gruppe, der er blevet diskrimineret af den kinesiske regering i de seneste år.

Nu bruger myndighederne tilsyneladende store data til systematisk at målrette mod enhver, der mistænkes for politisk disloyalitet. Skubbet er en del af "Strike Hard" -kampagnen, der tager sigte på at stoppe potentiel terroraktivitet i Kina. I praksis har dette ført til uforholdsmæssig politiansættelse af Uyghurs, siger Human Rights Watch.

Det prædiktive polisystem, kendt som IJOP - Integrated Joint Operations Platform - leveres data fra en række forskellige overvågningsværktøjer. Disse omfatter CCTV-kameraer, nummerplade og ID-kort fra borgere, der er opnået fra sikkerhedscheckpunkter, og en trove af personlige oplysninger, herunder sundhed, bank og juridiske oplysninger.

Udover automatiseret overvågning gennemfører embedsmænd i hjemmet besøg for at indsamle data om befolkningen. En kinesisk forretningsmand delte en form, som han udfyldte til IJOPs optegnelser med Human Rights Watch - blandt andet spurgte spørgeskemaet, om forretningsmanden var uyghur, hvor ofte han beder og hvor han går for religiøse tjenester.

Alle disse dataindgange bruges af IJOP til at markere mennesker som potentielle trusler. Når nogen markeres, åbner politiet en yderligere undersøgelse og tager dem i forvaring, hvis de anses for mistænkelige.

"For første gang er vi i stand til at påvise, at den kinesiske regerings brug af store data og prædiktiv politi ikke blot blatant krænker privatlivets rettigheder, men giver også embedsmænd mulighed for vilkårligt at tilbageholde folk", siger Human Rights Watch, seniorforsker i Kina, Maya Wang.

Ifølge rapporten er nogle af de personer, der er markeret, blevet afsendt til politiske uddannelsescentre, hvor de er tilbageholdt ubestemt uden prøvelse.

"Siden april 2016 vurderer Human Rights Watch, at Xinjiang-myndighederne har sendt ti tusinder af uyghurer og andre etniske minoriteter til" politiske uddannelsescentre ", siger rapporten. IJOP udlåner troværdighed til disse tilbageholdelser ved at anvende en finer af objektiv algoritmisk analyse til de diskriminerende arrestationer.

For at gøre sager værre bliver IJOP's indre arbejde indhyllet i hemmeligholdelse.

"Folk i Xinjiang kan ikke modstå eller udfordre den stadig mere påtrængende undersøgelse af deres daglige liv, fordi de fleste ikke engang kender til dette" black box "-program eller hvordan det virker," sagde Wang.

Det er det samme problem, der plager mest sofistikerede maskinindlæringssystemer: de beslutningsprocedurer, de anvender, er uigennemsigtige, selv til algoritmens skabere.

Kinas brug af IJOP er værd at være opmærksom på, fordi prædiktiv politi sandsynligvis vil vokse som teknologien forbedrer. Som Jon Christian påpegede ved The Outline, forudsigelige politi systemer anvendes allerede nogle steder i USA. Los Angeles Police Deparment bruger software, der forudser, hvor og hvornår forbrydelser sandsynligvis vil opstå, så officerere kan lede dem væk.

På den anden side af straffesystemet bruger retssystemer til tider algoritmer, der giver potentielle paroleer "risikovurdering" scoringer for at hjælpe dommerne med at træffe mere velinformerede beslutninger. Desværre diskriminere disse formodent upartiske algoritmer baseret på race.

Kinas forfald i prædiktiv politisering understreger betydningen af ​​ansvarlig algoritmeimplementering, da maskinindlæring fortsætter med at komme ind i den offentlige sektor. Måske er det på tide, at for teknologisk kyndige regeringer at vedtage et nyt mantra: Undertiden skaber kunstig intelligens flere problemer, end det løser.