Снаряжение снайпера. Часть 3. 1 и 2 эшелон
University of California Berkeley har lige tilføjet sit navn til en voksende liste over anerkendte institutioner, der arbejder for at forhindre ondskabsfuld kunstig intelligens fra at ødelægge menneskeheden. Dens nye Center for Human-Compatible Artificial Intelligence, meddelt mandag, skal sikre, at A.I. forbliver gavnlig, og også for at udelukke en A.I. dommedag.
Berkeleys eget A.I. ekspert, professor stuart russell, leder venture. Det åbne filantropi-projekt gav et beløb på 5,5 millioner dollar til centret, og andre blev også afskåret. Flere andre eksperter fra Berkeley, Cornell University og University of Michigan vil fungere som medforskere.
Cornell professor Bart Selman fortalte Inverse om centret, A.I.s, at vi skulle gerne frygt, og hvorfor verden sandsynligvis ikke er på vej til helvede i en håndbag - endnu.
Hvad håber du at opnå med Center for Human-Compatible A.I.?
Disse centre er en forholdsvis ny udvikling. Folk laver investeringer - Life Institute, for eksempel, har en investering fra Elon Musk, fra Tesla - for at håndtere spørgsmålene om livets fremtid og mulige trusler mod fremtidens liv og samfund. Det nye center i Berkeley er et andet eksempel på et sådant institut.
Det er inspireret af den ændrede rolle kunstig intelligens og computing i vores samfund. Disse teknologier går ind i vores samfund og vil have indflydelse på os. Disse institutter er der for at bringe forskere sammen for at studere eventuelle negative konsekvenser, eller hvordan man skal sikre sig, at der ikke er negative virkninger.
Centrets rigtige titel tyder på, at A.I. og menneskeheden er iboende uforenelig. Er det dit synspunkt?
Det er den første reaktion folk har, at disse ting kunne være uforenelige. Vi mener faktisk, at vi med de rette forholdsregler og de rigtige retningslinjer og forskning virkelig kan tilpasse interesserne og sørge for, at disse teknologier er gavnlige. A.I. teknologien har enorme positive sider, og målet for samfundet er at sikre, at vi bliver på de positive sider. Forskerne involveret i instituttet mener, at det er muligt.
Hvis du kunne vedtage et doomsayer perspektiv, hvad ville det mest sandsynlige A.I.-induced doomsday scenario se ud?
En klar risiko ville være en militær udvikling af kunstig intelligens, en som kunne føre til en A.I.-våben-våbenkonkurrence mellem lande: Autonome våben, autonome droner, der følger deres egne kommandoer, udviklet af forskellige lande, der er fjendtlige mod hinanden. Det er den mest konkrete risiko, jeg ser. Jeg tror A.I. udviklet til selvkørende biler, for eksempel - for regelmæssige roller i samfundet - vil være meget gavnligt. Men det militære aspekt er en bekymrende komponent.
Er det allerede et opadgående kamp?
Lande overvejer faktisk dette spørgsmål. I en vis forstand er det et opadgående kamp: Militæret skubber frem for at udvikle A.I. teknologi. Men der har været aftaler - for eksempel er biologiske våben nok den mest kendte sag - hvor lande på et tidspunkt besluttede at det ville gavne alle lande ikke at udvikle biologiske våben i stor skala. Vi håber, at landene vil indse, at ulempen for alle er for stor til at gå ind i en all-out A.I. våbenkapløb.
Hvis begge sider udvikler denne teknologi, er ingen foran.
Er der noget andet, jeg burde vide om centret, eller om ondsindede A.I. generelt?
Det er vigtigt at give den positive side. Det er nemt at understrege risiciene - og det er selvfølgelig også grunden til, at disse centre er etableret - men det er også vigtigt at påpege, at mange forskere mener, at denne risiko er håndterbar, og at upsiderne vil være enorme.
Du har allerede givet dommedagsperspektivet. Hvad er nogle potentielle positive anvendelser af A.I. at du er virkelig begejstret for?
De positive sider vil være et samfund, hvor vi hjælpes af denne teknologi. Samtidige taleoversættelser - mellem kinesisk og engelsk, for eksempel - hvor folk bare kan tale, som om de talte modersmål, med hinanden rundt om i verden. Ældrepleje: Folk kan blive så længe, som de vil have i deres hjem, fordi de har en husstandsassistentrobot, der hjælper dem med at leve uafhængigt.
Det vil nok have en temmelig dramatisk indvirkning på livet generelt - hvad angår beskæftigelse, og hvad vi prioriterer.
Ja. Der er beskæftigelsesdebatten, som er en særskilt debat. Der vil være tilstrækkelige ressourcer til at støtte alle, så der er spørgsmålet om, hvordan vi sikrer, at alle har gavn af denne udvikling. Der vil være en genforståelse af, hvad det betyder at arbejde, hvad slags arbejde folk vil gøre. Men i princippet vil folk have større frihed og mere tid til at gøre aktiviteter, som de nyder at gøre, fordi maskinerne vil hjælpe med mange andre mere jordiske, arbejde -type ting. Det vil tage lidt tid, men vi tror på, at samfundet vil tilpasse sig og langsomt inkorporere disse ændringer.
Dette interview er redigeret for klarhed og kortfattethed.
A.I. Kunne forhindre det næste E. coli udbrud
A.I. sammenligner de genetiske signaturer af E. coli prøver, der har forårsaget infektion hos mennesker til bakterieprøver fra mennesker, hvilket muliggør undersøgelse for at forudsige udbrud.
Kennedy Space Center overlevede orkanen Matthew. Her er hvordan
Landets førende rumflyvningscenter blev bludgeoned af orkanen Matthew i weekenden. Hvordan behandler flodens rumkyst med dette hver sæson?
Hvordan Trumps nye bilforureningsplan kunne splitte markedet i to
Politik er i sig selv et beskidt spil, men en nylig meddelelse fra Trump-administrationen var et skridt for langt for nogle stater. Trumps team annoncerede i torsdag en plan, der ville svække lovgivningen om bilforurening påført af Obama-administrationen.