The danger of predictive algorithms in criminal justice | Hany Farid | TEDxAmoskeagMillyard
Indholdsfortegnelse:
At vide, hvordan man beskytter os mod online data brud, er blevet en stadig mere afgørende viden for at deltage i online-livet: Vi (forhåbentlig) ændrer vores adgangskoder og kontrollerer flittigt verifikationsboksen. Men en ny rapport har afsløret, at i byer over hele landet, er det kun at ringe til politiet, der bidrager til et større, mere skræmmende dataside end vi nogensinde har forstået.
Tusindvis af byer i hele USA har vist sig at have tidligere ubekræftede kontrakter med PredPol, et "crime-predicting" -teknologibedrift, der har sammenlignet deres software med en "broken windows" politiseringsstrategi. De berørte samfund, herunder Atlanta, Palo Alto, Calif. Og Tacoma, Wash., Er kollektivt hjemsted for over 1 million indbyggere, ifølge dokumenter, der er opnået ved stikkontakten Bundkort gennem en række informationsfrihedsanmodninger.
Predictive policing bruger data indsamlet af politimyndigheder i et forsøg på at forudsige hvornår og hvor forbrydelser vilje forekomme. Hvis den taktik lyder som ønsketænkning, ja, ja, det er i hvert fald i det væsentlige. Meget af prædiktiv politiudvikling udviklede sig fra politiet "brudte vinduer", som først blev fremtrædende i 1980'erne. Den nu bredt kritiserede kriminologiske teori hævder, at tegn på kriminalitet, lidelse og antisocial adfærd - som bogstaveligt talt brudte vinduer - skaber et bymiljø, der fremmer yderligere lidelse og kriminalitet i en mere alvorlig grad. Løsningen var at slå ned på småkriminalitet i et forsøg på at modvirke den fremtidige alvorlige forbrydelse. Hvad der skete i stedet var over-politi af minoritetssamfund.
Hvordan forekomsten af prædiktiv policing gik underrapporteret
Prediktive politiets tilhængere hævder dog, at data er data. Det er tal. Det er ufuldstændigt. Men selvfølgelig, A.I. er stadig bygget af mennesker, der rutinemæssigt uddyber deres tilsyneladende objektive systemer med racial bias. Forudsigende politi er ikke anderledes. Allerede i 2016 udtalte borgerrettighedsforkæmperne, herunder ACLU, bekymringer om den voksende brug af prædiktiv policysoftware, idet det hævdes, at det fører til overpolitiering af fattige og mindretalssamfund.
"Systemer, der er konstrueret til at understøtte status quo, har ingen plads i amerikansk politi", læser en erklæring, der er underskrevet af 17 borgerlige organisationer, herunder ACLU og NAACP. "De data, der fører prædiktive håndhævelsesaktiviteter - som f.eks. Lokalisering og timing af tidligere rapporterede forbrydelser, eller mønstre af samfunds- og officielinitiativerede 911 opkald - er dybt begrænset og forudindtaget."
En af de vigtigste klager over prædiktiv politi er, at den udelukkende afhænger af rapporteret kriminalitet. Det kan ikke - det kan ikke - tage hensyn til det faktiske sociale miljø i et samfund. Også forudsigelsespræcisering kun "forudsiger" gadekriminalitet. Softwaren sporer ikke white-collar kriminalitet. Det placerer ikke FBI-agenter på hjørnerne af Wall Street for at jage individer, der ser mægtige sultne ud for at begå en insiderhandel.
PredPol, der er baseret i Santa Cruz, Californien, hævder at have en algoritme, der kan forudsige kriminalitet i 500 af 500 fodsarealer. I nogle tilfælde siger de, at de endda kan angive bestemte blok hjørner eller huse. Ved hjælp af "store data og AI" lover virksomheden også at "forudsige, hvor og hvornår uønskede hændelser sandsynligvis vil forekomme: forbrydelser, kollisioner, overdoser - vi gør alt", ifølge deres Twitter-bio.
Ifølge moderkortets dokumenter har PredPol holdt - og i en række tilfælde fortsætter med at holde - snesevis af tidligere urapporterede kontrakter med byer over hele landet. Manglen på gennemsigtighed falder til PredPols stilling som leverandør. Mange af deres filer er teknisk viden, offentlighedens viden; men samfund, især dem, der falder i bytte til overpolisering, ved ikke, hvor de skal se.
Mars havde engang mere oksygen i atmosfæren end vi troede
Det viste sig, at Mars plejede at have meget mere ilt end forskerne troede. En ny undersøgelse offentliggjort i Geophysical Research Letters finder, at NASAs nysgerrighed rover har fundet kemikalier i de røde klipper, der tyder på, at Mars havde en atmosfære, der bevarede et meget højere iltindhold end det i øjeblikket gør - giver ...
Slår ud gamle landbrugere var meget mere forskelligartede end vi troede
Den Frugtbare Halvmåne, en kvartmånedformet region, der strækker sig over Persisk Golf ned til det nordlige Egypten, er kendt for at være fødestedet for en lille ting kendt som landbrug. Arkæologer har fundet beviser for dyrkning af planter og hyrde dyr i denne region, der dateres for 12.000 år siden. Dette var par ...
Ny 'Doctor Who' Spinoff 'Class' er langt mørkere end vi troede
Vi har lige fået et første kig på den nye Doctor Who spinoff-serie, Class, og det bliver meget mere hardcore i den skræmmende, voldelige, fremmede afdeling, end vi tidligere troede. Det nyligt udgivne billede har Sophie Hawkins som elev April, klemt en fremmedpistol og støttet af Katherine Kelly som lærer Fru Qu ...