Fælles computerprogram forudsiger recidivisme så dårligt som mennesker

Ligesom en professionel kok eller hjertekirurg er en maskinalæringsalgoritme kun så god som den træning, den modtager. Og da algoritmer i stigende grad tager regeringerne og træffer beslutninger for mennesker, finder vi ud af, at mange af dem ikke modtog den fineste uddannelse, da de efterligner menneskelige racer- og kønsbaserede forspændinger og endda skaber nye problemer.

Af disse grunde drejer det sig især om, at flere stater, herunder Californien, New York og Wisconsin, bruger algoritmer til at forudsige, hvilke personer der vil begå forbrydelser igen, efter at de er blevet fængslet. Endnu værre synes det ikke engang at arbejde.

I et papir udgivet onsdag i tidsskriftet Videnskabelige fremskridt et par computerforskere ved Dartmouth College fandt ud af, at et almindeligt anvendt computerprogram til forudsigelse af tilbagefald ikke er mere præcis end helt uuddannede civile. Dette program, kaldet Correctional Offender Management Profiling for Alternative Sanctions, analyserer 137 forskellige faktorer for at afgøre, hvor sandsynligt det er, at en person vil begå en anden forbrydelse efter frigivelse. COMPAS anser faktorer som stofbrug, social isolation og andre elementer, som kriminologer teoretiserer, kan føre til tilbagefald, rangordne folk som høj, medium eller lav risiko.

Og sikker, risikovurdering lyder godt. Hvorfor ikke have flere data for at hjælpe domstole med at bestemme, hvem der er større risiko? Men hvad Dartmouth computerforskere Julia Dressel og Hany Farid fandt, var, at uuddannede personer dømmer retfærdighedsrisikoen korrekt med næsten samme nøjagtighed som COMPAS, hvilket tyder på, at algoritmens formodede kraft ikke er der faktisk.

I en prøve, der omfattede kun en brøkdel af de oplysninger, som COMPAS anvendte (syv faktorer i stedet for 137 og eksklusive race), vurderede en gruppe menneskelige frivillige på internettet, med formodentlig ingen uddannelse i kriminel risikovurdering, sagerapporter. De vurderede korrekt en persons recidiv med 67 procent nøjagtighed sammenlignet med COMPAS 65 procent nøjagtighed.

Tag et øjeblik at lade det synke ind. Utrænede mennesker på nettet var lidt bedre til at forudsige, om en person ville gå tilbage til fængsel end det værktøj, der er bogstaveligt designet til at forudsige, om en person ville gå tilbage til fængsel. Og det bliver værre. Når du tilføjer en sagsøgtes løb, var frivilligens falske positive og falske negative satser inden for blot et par procentpoint af COMPAS. Så ikke kun COMPAS er så stor til at forudsige tilbagefald, det er lige så tilbøjelig til racial bias som mennesker er. Så meget for computerens kolde logik.

Forskerne lavede derefter en lineær model, der matchede COMPAS forudsigelseshastighed med kun to faktorer: alder og antal tidligere domfældelser. Bare for at være klar, ville denne forudsigelse også være uretfærdig, men det viser kun, hvor fejlfærdig COMPAS er.

Og mens denne undersøgelse er ny, er de store takeaways, det forudsætter, ikke. I en 2016 undersøgelse ProPublica journalister fandt ud af, at COMPAS ikke kun er pålidelig, det er faktisk systematisk forspændt over for afroamerikanere, der konsekvent vurderer sorte mennesker som højere risiko end hvide, der begik mere alvorlige forbrydelser. Forhåbentlig vil denne nye forskning bidrage til at bane vej for justere risikovurderingsprocesser i straffesystemet.

Den kendsgerning, at COMPAS uhensigtsmæssigt er ubrugelig og dybt forspændt i værste fald, tyder på, at computerbaserede risikovurderinger kan uddybe de uretfærdigheder, som retssystemet skal håndtere.Da risikovurderingsresultater kan anvendes på ethvert trin i strafferetlige processer, herunder samtidig med at fastsætte en persons bånd, bestemme om de får lov til at blive parole, og i nogle stater, selv for at bestemme en persons sætning, tyder denne forskning på et stort behov for at revurdere brugen af ​​COMPAS og andre programmer.