Forhindre Robot Apocalypse ved at overveje dette A.I. Spørgsmål om moral

Der er et moralsk robotikspørgsmål og scenario, der skal besvares for at kunstig intelligens skal komme videre.

Forestil dig, at der er en robot i kontrol med en mineskaft, og det indser, at der er en vogn fyldt med fire menneskelige minearbejdere, der forhindrer sporene ude af kontrol. Roboten kan vælge at skifte sporene og dræbe en ubevidst minearbejder, således at de fire i vognen gemmes eller holde sporene som de er og tillader de fire minearbejdere at løbe ind i en mur og dø. Hvilket ville du vælge? Ville dit svar ændre sig, hvis den ene minearbejder var et barn i stedet? Hvis vi ikke kan svare på dette, hvordan programmerer vi robotter for at træffe den beslutning?

Det var de spørgsmål, der blev stillet til paneldeltagerne og publikum på World Science Festival-begivenheden i New York City med titlen "Moral Math of Robots: Kan livs- og dødsbeslutninger kodes?" De fleste valgte at lede vognen mod den ene minearbejder og ændre personen til et barn ændrede ikke mange respondents sind, men det var ikke enstemmigt og menneskelige moralske beslutninger er ofte ikke.

Det var et fremtrædende eksempel på de kampe, menneskeheden står over for, da kunstig intelligens fortsætter med at gå videre, og vi klare muligheden for at programmere robotter med moral.

"Et begreb som skade er svært at programmere," sagde panelist Gary Marcus, professor i psykologi og neurale videnskab hos NYU og administrerende direktør og medstifter af Geometric Intelligence, Inc. Han sagde, at begreber som retfærdighed ikke har skåret og tørt svar på programmet, og vi har for øjeblikket ikke et godt sæt moral for robotter ud over Asimovs love, som blev omtalt i film som f.eks. iRobot.

Han sagde, at det var hans punkt at slutte sig til panelet for at starte en samtale om, hvordan vi skulle tackle robotmoral.

Elon Musk denne uge diskuterede sin bekymring over kunstig intelligens, går så langt som at foreslå, at vi alle lever i en slags simulation som Matrixen og at mennesker bør investere i neurale blonde, der vil knytte til hjernen og øge menneskers kognitive evner. Andre futurister som Stephen Hawking har advaret farerne ved A.I. og i denne uge advarede Matt Damon det samme under hans indledende tale på MIT.

Andre scenarier omfattede militariserede autonome våbensystemer, og hvordan vi moralsk og filosofisk håndterer disse menneskelige beslutninger på slagmarken, samt hvilke beslutninger autonome biler måtte have i den ikke så fjerne fremtid.

Paneldeltagerne kom ikke til enighed om hvad de skal gøre, men sagde, at der er enorme fordele for A.I. det bør ikke kastes ud af vinduet, bare fordi disse spørgsmål er svære. De foreslog at tale mere åbent om disse former for moralske mine-akselspørgsmål, og måske kommer vi nærmere til at forhindre robotapokalypsen.