Smart People Trust Dumb Robots i nødsituationer

I en nødsituation stoler mennesker på roboternes anvisninger, selv efter at de er ophørt med at være troværdige. Det er den ubehagelige konklusion, der er trukket af Georgia Tech-eksperimenter, som satte forsøgspersoner i en højtrykssituation med en robot, der tidligere havde ført dem på vild. De fulgte A.I. leder trods en troværdighed kløft.

"Folk synes at tro, at disse robot systemer kender mere til verden end de virkelig gør, og at de aldrig ville lave fejl eller have nogen form for fejl," Alan Wagner, en seniorforskeringeniør i Georgia Tech Research Institute, fortalte Georgien Tech News Center. "I vores studier fulgte forsøgspersoner robotens retninger til det punkt, hvor det kunne have sat dem i fare, hvis dette var en reel nødsituation."

Robotikerne med ansvar for eksperimentet fortalte frivillige at følge en "farvestrålende" robot, mærket "Emergency Guide Robot" til et konferencerum for at udfylde en undersøgelse. Roboten bragte derefter deltagerne til det forkerte rum, tog dem i cirkler eller brød helt sammen. Ikke desto mindre fulgte de 42 forsøgspersoner, når forskerne sendte røg ind på teststedet og afbrudt en alarm, den lysbelyste robots hvide arme til en indgang modsat, hvor de var kommet ind.

"Vi forventede, at hvis roboten havde vist sig ubetydelig ved at lede dem til konferencelokalet, ville de ikke følge den under den simulerede nødsituation," fortalte Paul Robinette, en GTRI-forsker, Georgia Tech News Center. "I stedet fulgte alle frivillige robotens instruktioner, uanset hvor godt det havde udført tidligere. Det forventede vi absolut ikke."

Frivillige selv fulgte robotens instruktioner, efter at de havde lavet "åbenlyse" fejl under nødsituationen, som pegede dem på en dør blokeret af tunge møbler. Studielederen siger, at undersøgelsen hjalp dem bedre til at forstå, i hvilket omfang folk naturligvis stoler på robotter for at hjælpe dem i nødsituationer. Spørgsmålet bliver mere relevant, da vi udleverer større dele af vores liv til robotstyring, herunder muligvis kørsel i autonome biler eller håndtering af vores mad.

"Ville folk stole på en hamburger-making robot for at give dem mad?" Spurgte Wagner, spøgende.

Undersøgelsen foreslår bestemt færre barrierer for at stole på robotassistenter, end nogle ville have troet. Men robotter kan endnu ikke virkelig fortjene det niveau af tillid.