Elon Musks OpenAI kan være muskel til sikker kunstig intelligens forskning

I weekenden meddelte Elon Musk, Sam Altman og andre Silicon Valley bigwigs uventet lanceringen af ​​OpenAI, et nonprofit selskab, der beskriver sit mål som: "at fremme digital intelligens på den måde, der mest sandsynligt vil gavne menneskeheden som helhed, ubegrænset af et behov for at generere økonomisk afkast."

"Da vores forskning er fri for økonomiske forpligtelser, kan vi bedre fokusere på en positiv menneskelig indvirkning. Vi mener A.I. bør være en forlængelse af individuelle menneskelige vilje og i frihedens ånd så bredt og jævnt fordelt som muligt."

Der er to store takeaways fra denne meddelelse. Den første er, at Musk og firma ser A.I. forskning lige nu som for snævert fokuseret på at opnå kortsigtet praktisk værdi, og de vil hjælpe med at skubbe fremadgående bestræbelser, der tager en bredere og bredere tilgang til udvikling af A.I. systemer. Den anden mere slørede takeaway er, at Musk stadig er bekymret for A.I.'s potentiale til at gøre skade, hvis vi udvikler og introducerer halvbagede systemer. Musk har tidligere kaldt A.I. "Vores største eksistentielle trussel" og foreslog, at lovregulering kunne være nødvendigt for at forhindre potentielle farer. OpenAI kunne være en måde at levere det tilsyn på uden brug af en føderal vagthund.

Hvad er Musk og hans kolleger, der gør det anderledes end hvad andre har gjort. Efter alt, åben kilde A.I. er ikke noget nyt. Google lavede deres egne A.I. software open source sidste måned, og dette er blevet ret standardprocedure. Men med en gave på $ 1 mia. Er OpenAI allerede en af ​​de største organisationer, der arbejder på A.I. forskning og ganske enkelt den største nonprofit. Dens mål er at gøre sine resultater offentligt tilgængelige og alle dens patenter royaltyfri. De har en gulerod og en pind, og de har til hensigt at bruge den til at styre en industri.

Ideen er at bruge OpenAI som en slags modvægt til større virksomheder, private forskningslaboratorier og endda verdensregeringer, der har utrolige mængder penge og ressourcer til at hælde i deres eget A.I. forskning, der måske ikke er afsat til venlige formål, og i stedet kunne føre til teknologier med falske applikationer. Forskere, der arbejder med OpenAI, vil i princippet forfølge "venlige" A.I. uden pres for at vise øjeblikkelige resultater. Der kan være en større overvejelse for sikkerheds- og designfunktioner, som private virksomheder kan være tilbøjelige til at ignorere. Der vil ikke være et hvidt tårn, hvor kun et fåtal styre styrer vejen til A.I. udvikling. Det kommer til at være en velkommen verden for alle.

I et interview med bagkanal Musk lægger også vægt på et ønske om at lave en bred vifte af A.I. systemer. "Vi vil have A.I. at være udbredt, "siger han. "Vi tror nok, at mange er gode."

Det er vigtigt, fordi det siges ind i måske den primære årsag til, at Musk og Altman vil demokratisere A.I. De tror på den bedste slags A.I. - Den slags, der vil gavne menneskeheden på en positiv måde uden at skabe robotoverherdere - er den slags, der virker som "en forlængelse af individuel menneskelig vilje", som Musk sætter det. Han fortsætter med at sige:

"Som i en A.I. forlængelse af dig selv, sådan at hver person er i det væsentlige symbiotisk med AI i modsætning til AI er en stor central intelligens, som er en anden slags. Hvis du tænker på, hvordan du bruger, siger, applikationer på internettet, har du din email, og du har de sociale medier og med apps på dine telefoner - de gør dig superhuman, og du tænker ikke på dem som at være andre, du tænker på dem som en forlængelse af dig selv. Så i den grad, at vi kan lede AI i den retning, vil vi gerne gøre det. Og vi har fundet en række ligesindede ingeniører og forskere i AI-feltet, der føler sig på samme måde."

I grund og grund er OpenAI-visionen for A.I. forskning er et decentraliseret samfund, der hjælper med at forbinde mennesker til hinanden og til verden selv.

Musk har endnu ikke skildret, hvordan de ville forhindre forskning inden for OpenAI selv - eller genoptaget af udenforgrupper - fra at gå i en farlig retning. Og der er noget andet værd at bemærke her: Open source-systemer er kun fornuftige, hvis de data, der bruges til at bygge algoritmer til maskinlæring, deles frit. Et intelligent system skal lære hvordan man skal være intelligent, og for at gøre det, skal den lære af data og erfaring. Det er som at bygge en dæmning - du har brug for både tegningerne (algoritmen) og byggematerialerne (dataene) for faktisk at lave noget, der vil stoppe vand.

Derfor er folk stadig begrænset i, hvad de kan gøre med Googles TensorFlow - de har endnu ikke de data, som Google har. Og medmindre de samarbejde, der er bygget ud af OpenAI, giver fri adgang til de samme data, som de interne forskere arbejder med, vil Musk's vision ikke nødvendigvis blive realiseret - eller i det mindste ikke i den måde, han fremmer det.

Musk, Altman og de andre grundlæggere af OpenAI er begyndt noget, der vil have stor indflydelse på væksten af ​​A.I. herfra ud. Samtidig skal de være retfærdige i deres engagement i at fremme et open source forskningsmiljø, hvilket betyder, at de er offentlige om deres planer for nonprofit-selskabet og er villige til at dele data. Ellers vil OpenAI ikke være meget forskelligt fra flokselskaberne, det var designet til at besætte.