Elon Musk siger DARPA A.I. Hacking Challenge vil lede til Skynet

Forsvaret Advanced Research Projects Agency annoncerede nylig Cyber ​​Grand Challenge, en syv hold, $ 3,75 millioner-præmiepulje hacking turnering, der afsluttes i Las Vegas i august. DARPAs mål er at finde nye strategier til bekæmpelse af cyberwarfare, men Elon Musk køber det ikke. Faktisk tror han, at Cyber ​​Grand Challenge måske bare efterlader os noget som Skynet, den fjendtlige A.I. der rutinemæssigt forsøger at ødelægge menneskeheden i Terminator franchise. Musk tweeted en ikke-så-sløret advarsel torsdag morgen - og det er ikke første gang, han er gået på posten som værende bange for en ondsindet supercomputer.

På papir ønsker DARPA at bygge en automatiseret kunstig intelligens, der kan opdage og løse fejl i et computersikkerhedssystem. I det væsentlige ønsker de at skabe en ukontrolleret, autonom A.I. hacker ekstraordinaire der vil opdage system sårbarheder og patch dem selv. Som det står i dag, selvfølgelig, mennesker udføre de ofte utallige takler for cybersikkerhed. Ekspert hackere er dygtige til at finde og fastsætte susceptibilities, men da cyberwarfare bliver mere udbredt, kan deres efterspørgsel efter deres færdigheder overstige forsyningen. Processen med at fastsætte en fejl, skriver DARPA, "kan tage over et år fra første detektion til implementeringen af ​​en løsning, hvorefter kritiske systemer måske allerede er blevet overtrådt."

Og efterspørgslen efter hurtige rettelser til evigt nuværende sikkerhedsproblemer fortsætter med at stige, da flere og flere daglige enheder kommunikerer information via internettet. DARPA hævder, at en cybersikkerhed A.I. Systemet ville være "den første generation af maskiner, der kan opdage, bevise og rette fejl i software i realtid uden hjælp" for at gøre hele verden mere sikker.

Eller det kan også føre til den systematiske ødelæggelse af menneskeheden på maskinens kolde metalhænder.

@TheHackersNews @defcon Det er alt sjovt og spil indtil …

- Elon Musk (@elonmusk) 14. juli 2016

Muskets tweet kan virke som om det er i jest, men han har en lang historie om at være vagthund over for farerne ved supermagten kunstig intelligens. Han underskrev et åbent brev advarsel om A.I. og har kaldt teknologien vores "største eksistensielle trussel."

Musk ved, at denne DARPA udfordring sandsynligvis vil ikke hylde Skynet, men det forekommer ham vigtigt, at folk overvejer muligheden for ondskabsfuld kunstig intelligens. Når vi som et samfund frigiver et sådant dyr, siger doomsayers, at der ikke vil blive holdt tilbage.