Joe Rogan Experience #1169 - Elon Musk
Indholdsfortegnelse:
- Finde skjulte AI-systemer.
- Opbygning af en A.I. der kan programmere.
- Ved anvendelse af A.I. til cyberforsvar.
- Gør virkelig komplekse simuleringer.
De fleste af de problemer, der kan skyldes mere og mere sofistikeret kunstig intelligens, er meget mere subtile end SkyNet, men det betyder ikke smartere A.I. kommer ikke uden dets risici.
Derfor dannede Elon Musk og andre Silicon Valley bigwigs Open AI, en gruppe dedikeret til at løse problemer med A.I. før de kan forårsage reel skade. Denne gruppe hedder OpenAI, og det er på udkig efter hjælp til disse spørgsmål.
"OpenAI er et nonprofit kunstig intelligens forskningsfirma," siger gruppen på sin Om side. "Vores mål er at fremme digital intelligens på den måde, der mest sandsynligt vil gavne menneskeheden som helhed, uhindret af behovet for at generere økonomisk afkast."
En jobplacering forklædt som et blogpost med titlen "Specialprojekter" beskriver fire sådanne "projekter" som problemer, der har "enten meget brede implikationer" eller som adresserer "vigtige nye konsekvenser af AI-udvikling." Og så er dets forfattere - Ilya Sutskever, Dario Amodei og Sam Altman - inviter alle stærke maskinlæringseksperter til at "starte en indsats på et af disse problemer ved OpenAI." Bare send en ansøgning, spørger de. Her er de fire store problemer med kunstig intelligens:
Finde skjulte AI-systemer.
Hvad er værre end en meget smart A.I. der kan bruges til det forkerte formål? En meget smart A.I. det er allerede brugt til det forkerte formål uden at nogen ved det. "Da antallet af organisationer og ressourcer, der er afsat til AI-undersøgelser, stiger, øger sandsynligheden for, at en organisation vil gøre et ikke-afsløret AI-gennembrud og bruge systemet til potentielt ondsindede ender," skriver OpenAI-teamet i sit blog-indlæg. "Det forekommer vigtigt at opdage dette. Vi kan forestille os mange måder at gøre dette på - kigger på nyhederne, de finansielle markeder, online-spil mv."
Opbygning af en A.I. der kan programmere.
Nogle af de bedste programmører er dovne. Så det giver mening, at OpenAI vil oprette en A.I. i stand til at skabe programmer alene. Bedre at bruge tid på at lave en A.I. smart nok til at kode noget, du måtte have brug for i fremtiden end at kode alle disse ting selv. Dette er 2016, for at græde højt, og kodere har brug for en pause!
Ved anvendelse af A.I. til cyberforsvar.
"En tidlig brug af AI vil være at bryde ind i computersystemer," skriver OpenAI. "Vi vil gerne have AI-teknikker til at forsvare mod sofistikerede hackere, der gør meget brug af AI-metoder." Det lyder godt, især fordi MIT advarede om, at nuværende A.I. bygger på mennesker for at beskytte mod cyberangreb.
Gør virkelig komplekse simuleringer.
"Vi er interesserede i at opbygge en meget stor simulering med mange forskellige agenter i det, der kan interagere med hinanden, lære over lang tid, opdage sprog og opnå et rigt udvalg af mål," skriver OpenAI-teamet.
Årh, kom nu. Nu prøver jer bare at bevise Musk har ret om os, der lever i en simulering.
OpenAI: Documents Reveal Elon Musks enorme donation til A.I. Forskning
Elon Musk er knyttet til en stor donation på $ 10 mio. Til OpenAI, nye dokumenter afslørede onsdagshow, der belyser omfanget af den teknologiske iværksætter finansiering til at støtte forskning i avanceret kunstig intelligens. Musk, der medvirkede firmaet, men forladte bestyrelsen sidste år, har regelmæssigt advaret om farerne ...
OpenAI: Elon Musks tidligere firma ligger på randen af en ny A.I. Era
OpenAI, det kunstige intelligensforskningsfirma, der blev grundlagt af Elon Musk i 2016, har gjort store fremskridt, selv efter at stjernens backer skiltes adskillige tvister over sin fremtidige retning. Forskere har udviklet systemer, der kan spille spil, skrive nyhedsartikler og flytte fysiske objekter.
Elon Musks OpenAI kan være muskel til sikker kunstig intelligens forskning
I weekenden meddelte Elon Musk, Sam Altman og andre Silicon Valley bigwigs uventet lanceringen af OpenAI, et nonprofit selskab, der beskriver sit mål som: "at fremme digital intelligens på den måde, der mest sandsynligt vil gavne menneskeheden som helhed, ubegrænset af et behov for at generere økonomisk afkast. "