Vores A.I. Politikken er fast i fortiden

Ed Felten, vicedirektør for amerikanske teknologitekniker for Det Hvide Huss kontor for videnskab og teknologi, siger, at mennesker har to hovedansvar for udviklingen og fremskridtet med kunstig intelligens.

Den første, siger han, er "at gøre fordelene ved A.I. en realitet. "Det andet:" for at imødegå risiciene ved A.I."

Felten talte til et rummeligt folk på New York Universitys Skirball Center for Performing Arts på A.I. Nu - en sommerforelæsningsserie med sponsoreret af Det Hvide Hus, som forsøgte at undersøge og diskutere nøgleproblemer relateret til fremtiden for A.I. teknologi.

A.I. er ved et korsvej, A.I. Nu har medformændene Kate Crawford (en forsker ved Microsoft Research) og Meredith Whittaker (grundlæggeren og lederen for Google Open Research) påpeget. Private og offentlige sektorer skal arbejde sammen for at skabe en form for gennemførlig A.I. politik. Men problemet er, at mens tech virksomheder gør enorme fremskridt hen imod at fremme den egentlige kode og arkitektur, der går ud på at gøre A.I. En allmægtig kraft, vores nuværende politiske strukturer er forældede eller værre, ikke-eksisterende.

For længe har A.I. er blevet kastet til side som et futuristisk begreb, uanvendeligt til den moderne tidsalder. Men A.I. har tydeligt manifesteret sig i bypolitikken, sigtet gennem masser af data og leverer tjenester til mennesker på en måde, som kun menneskelig magt ikke er i stand til at opnå. Felten citerede eksempler på, hvordan algoritmer kan bruge data til at forbinde folk til overkommelige boliger eller håndhæve gennemsigtighed, så offentligheden har adgang til værdifulde oplysninger.

Det er ikke at sige at A.I. er perfekt; det er meget ikke. Under hovedpanelet til aftenen, Latanya Sweeney, en A.I. forsker ved Harvard University, diskuterede en historie, hun kaldte, "The Day My Computer Was Racist."

En reporter, der interviewede Sweeney, søgte hendes navn igennem Google og opdagede, at hendes navn stod under reklamer for websteder, der tilbyder at indsamle og dele kriminelle arrestordata. Sweeney var aldrig blevet arresteret, og hendes navn var ikke engang en del af hjemmesidens database - men hendes navn blev sprøjtet fremtrædende i annoncen. Som enhver god videnskabsmand tog Sweeney sin egen personlige erfaring og løb en undersøgelse og fandt ud af, at disse annoncer var signifikant mere tilbøjelige til at nævne navnene på sorte personer end hvide individer. Grunden? Googles levering af disse annoncer er resultatet af en algoritme, der giver større vægt på, hvad mennesker klikker på, da annoncerne blev vist. Når et sort navn var Googled, klikket flere mennesker på disse annoncer. Systemet lærte mønsteret og begyndte at levere disse annoncer i større frekvens.

Det er en værdifuld lektion at mene løftet om A.I.: Mennesker er i sidste ende magtteknologi, og racistiske handlinger fra mennesker kan påvirke design og algoritmer og ja, ja selv A.I.

Google kunne let opdage disse forstyrrelser i deres annoncetjenester og arbejde for at rette op på dem. "De valgte ikke at", hævdede Sweeney.

Kunne en mere moderne politikramme tvinge Google til at afhjælpe dette problem? Måske. Nicole Wong, som var Felts forgænger fra 2013 til 2014, understregede, at mange mennesker - herunder A.I. forskerne selv - havde en reel bekymring over en "voksende asymmetri i magten" mellem de mennesker, der bruger store data og de mennesker, der i sidste ende er påvirket, som varierede fra dataens emner eller dem, der er berørt af de beslutninger, der er informeret af sådanne data.

Disse bekymringer er ikke kun begrænset til den private sektor. Roy Austin, stedfortrædende assistent til præsidenten ved Det Hvide Huss Indenrigspolitiske Råd, rørte ved, hvordan retshåndhævelsen kunne forbedres meget af A.I. - eller skabe en massiv overreagring i magt og misbrug når det kommer til privatlivets fred for civile. "Spørgsmålet bliver," Hvad gør vi med disse data? "" Sagde han. Det er én ting at have data, men hvem har adgang til det? Hvor lang tid? Hvem har adgang til det? Igen har vi ikke politiske svar eller løsninger på disse spørgsmål og usikkerheder - og det er bekymrende, da vi tønder mod en fremtid mere og mere kontrolleret af A.I.

En tredje søjle af bekymring havde mindre at gøre med falske anvendelser af A.I. og mere at gøre med hvordan A.I. og autonome systemer fordriver mennesker fra job. Henry Siu, en A.I. forsker ved University of British Columbia, diskuterede "rutinemæssige" erhverv (hvor medarbejdere udfører et meget specifikt sæt opgaver, der næsten aldrig afviger fra en fast rutine), og hvordan disse jobtab er dem, der er mest sårbare over for forstyrrelser i teknologien. Automatisering har skabt en nedslående nedskæring i disse job - og de kommer ikke tilbage.

Lyder som den samme gamle historie om industrialisering, men det er ikke helt. Mens "denne revolution måske allerede er her … det kan være mindre eksotisk end vi forestillede os," advarede David Edelman, specialassistent til præsidenten for økonomisk og teknologisk politik. Jobtab "vil ikke ske på en gang." Både han og Siu understregede, at løsningen er at skabe et undervisningsklima, hvor folk ikke stopper med at gå i skole, de til stadighed erhverver nye færdigheder og specialer, som gør dem tilpas med teknologi.

Det kan være trøstende for politikere at indse, at USA ikke er alene i at løse disse problemer. Men hvis Amerika har til hensigt at fortsætte vejen for A.I., er det nødt til at træde op i politikarenaen.

Mustafa Suleyman, medstifter af Google DeepMind, diskuterede potentialet for A.I. at hjælpe sundhedssystemer og lade læger på maskinalgoritmer diagnosticere visse sygdomme og sygdomme - frigør tid for mennesker til at komme op med behandlingsmetoder. For Suleyman, hvem er britisk, så det ikke ud som en farfetched idé om at få et system som dette oprettet inden for hospitaler. Sweeney påpegede dog, at "i USA har du ikke kontrol over dine egne data" - der findes ingen regulerende foranstaltninger for at sikre, at oplysninger ikke misbruges. Og det er en kæmpe stor problem.

"Jeg vil have alt, hvad jeg kan presse ud af enhver succes med teknologi," sagde Sweeney. "Problemet er ikke teknologisiden; problemet er, at vi er ude af trit med den offentlige orden."