A.I. Ekspert Virginia Dignum: Trolley Problem viser, hvorfor vi har brug for gennemsigtighed

Kunstig intelligens har brug for gennemsigtighed, så mennesker kan holde det til regnskab, har en forsker påstået. Virginia Dignum, lektor ved Delft University of Technology, fortalte et publikum på New York University på fredag, at hvis vi ikke forstår, hvorfor maskiner fungerer som de gør, vil vi ikke kunne dømme deres beslutninger.

Dignum citerede en historie af David Berreby, en videnskabskritiker og forsker, der blev offentliggjort i Psykologi i dag: "Beviser tyder på, at når folk arbejder med maskiner, føler de mindre fornemmelse af agentur, end de gør, når de arbejder alene eller med andre mennesker."

"Vognen problem", Dignum forklaret, er et område, hvor folk kan stille blind tro på en maskine for at vælge det rigtige resultat. Spørgsmålet er, om man skal skifte armen på et hypotetisk løbebane, så det dræber en person i stedet for fem. Folk forventer, at maskinerne løser problemet på den mest rationelle måde. Det kan dog ikke altid være tilfældet, og gennemsigtighed ville hjælpe med at forklare, hvordan maskinen kom til sin beslutning.

"Det er ikke kun en meget dybe, neurale netværkskæde af begivenheder, som ingen kan forstå, men at gøre disse forklaringer på en måde, som folk kan forstå," sagde hun.

A.I. Det gør dets arbejde klart, er et område, DARPA har udforsket. Agenturet offentliggjorde i august en meddelelse om, at det var på udkig efter hold, der var interesserede i forklarlige A.I. projekter, kendt som XAI. Disse systemer vil hjælpe forskere med at forstå, hvorfor en A.I. lavede den beslutning, den gjorde, hvilket gav flere muligheder for at afgøre, hvad man skal gøre med den resulterende information i stedet for blindt at stole på maskinen.

Med maskinindlæring bemærkede Dignum, at gennemsigtighed er mere afgørende end nogensinde før. "Vi kan ikke forvente, at systemerne, og især maskinindlæringsmaskinerne, lærer, og at kende det med det samme," sagde hun."Vi forventer ikke, at vores chauffører, når de kører, skal have fuld forståelse for trafikloven. I mange lande bruger de disse "L" plader til at vise, "Jeg lærer, undskyld mig for de fejl, jeg måtte gøre." "At se AI, forståelse for, hvordan det kommer til bestemte beslutninger og handling baseret på det, vil være afgørende for at stoppemaskiner, der stadig lærer at træffe dårlige beslutninger.