Pentagon er bekymret over morderroboter fra Kina og Rusland

Kan vi sikre vores nationale sikkerhed uden at forfølge killer robotteknologi? Pentagon tror det ikke.

Sådan var diskussionen på mandagens National Security Forum på Center for New American Security, en D.C. tænketank med speciale i militære problemer. Vicedirektør Robert Work var klar for at sige, at menneskeheden stod på "et bøjningspunkt" med kunstig intelligens, og at fremtidens slagmark domineres af autonome mekaniske krigere. Arbejdet har været at tale om det store teknologiske skift der sker under militærets fødder i et stykke tid nu. Han er ikke hakket ord.

"Vi ved, at Kina allerede investerer tungt i robotik og autonomi, og den russiske generaldirektør, Valery Vasilevich Gerasimov, sagde for nylig, at det russiske militær forbereder sig på at kæmpe på en robotiseret slagmark, og han sagde, og jeg citerer:" I den nærmeste fremtid, er det muligt, at der oprettes en komplet robotiseret enhed, der er i stand til selvstændigt at udføre militære operationer. '' Arbejde fortalte den stadig mere nervøse crowd. Denne information gjorde lidt for at skræmme frygt: Virksomheden bag Ruslands nye Armata T-14-tank har lovet at udrulle en hær af kamprobot prototyper inden for de næste to år.

Arbejdsforudsete autoritære regimer ville naturligvis svække sig mod autonome designs, fordi de filosofisk betragter mennesker med selvstændig tanke som svage led. Logikken er der, men tanken er forfærdelig, især i løbet af et halvt århundrede fra borgerkrige kæmpet med russisk lavede AK-47'er.

Dette er ikke at sige, at Amerika ikke er interesseret i at øge sine egne våben med AI. Pentagon-tjenestemænd har allerede forudsagt flere job, der sandsynligvis vil være bedre egnet til robot beslutningstagere i den nærmeste fremtid, fra cyberkrig og over horisonten målretningskampe, hvor en menneskelig intelligens ville være for langsom til at reagere effektivt, for at fortælle F-35 piloter, hvad der skal målrettes og hjælpe flyve- og landingsoperationer til programmering af droner og både.

På trods af sine demokratiske idealer kommer USAs autonome våbenforskning med sit eget sæt af foruroligende etiske forgreninger, der førte til Elon Musk og Stephen Hawking til at kalde på et "killer robot" forbud i sommer. Spørgsmålet er massivt. For eksempel: Hvis et autonomt våben modtog en ulovlig ordre, ville den blive programmeret med etikken til at afvise det? Det er den slags ting man skal mølle, før man sælger en ladet bot.

Kunne maskiner selv begå krigsforbrydelser? Det er en anden.

Arbejdet viste ægte omtanke på mødet, men gav heller ikke noget indblik i, om hans udenlandske kolleger havde en tilsvarende moralistisk tilgang.