Politikai ir kapitalistai penktadienio popietę turi tradiciją išmesti daug naujienų, kad paslėptų blogas naujienas. Taigi buvo šiek tiek keista, kad praėjusių metų gruodį Monrealyje, savaitei trukusios AI konferencijos pabaigoje, Elonas Muskas, elektrinių transporto priemonių gamintojo „Tesla“įkūrėjas ir garsaus technologijų inkubatoriaus „Y Combinator“prezidentas Samas Altmanas, pristatė savo naują AI tematiką.
Buvo priežastis atiduoti OpenAI taip vėlai. Ne todėl, kad niekas nežiūrėjo. Nes visi žiūrėjo. Kai kai kurios iš galingiausių Silicio slėnio kompanijų pajuto, kaip pučia vėjas, jos pradėjo siūlyti milžiniškas pinigų sumas naujai iškilusiam „OpenAI AI“talentui išlaikyti šiuos genijus namuose. Paskutinę minutę pasiūlymai - kai kurie buvo pateikti pačioje konferencijoje - išaugo tiek, kad Muskas ir Altmanas turėjo atidėti naujojo starto paskelbimą. „Sumos pasiekė beprotybės ribą“, - sako mokslininkas Wojciechas Zaremba, prisijungęs prie OpenAI po stažuočių „Google“ir „Facebook“ir buvęs tarp tų, kurie sulaukė didelių pasiūlymų 11.00 val.
- „Salik.biz“
Kiek dolerių yra beprotybės riba? Prieš dvejus metus, kai pradėjo kaisti naujausių mašinų mokymosi technologijų rinka, „Microsoft“tyrimų viceprezidentas Peteris Lee teigė, kad geriausių AI tyrėjų išlaidos viršijo viršutinės šalies puolėjo išlaidas Nacionalinėje futbolo lygoje - ir tai normaliomis aplinkybėmis, o ne tada, kai geriausi verslininkai Silicio slėnis bando ištarti geriausius talentus. Zaremba sako, kad kai OpenAI susibūrė, jai buvo pasiūlyta du ar tris kartus didesnė už jos rinkos vertę.
„OpenAI“šių pasiūlymų neatitiko. Tačiau jis pasiūlė ką kita: galimybė atlikti tyrimus sutelkta tik į ateitį, o ne į produktus ir ketvirčio pelną, o galiausiai dalijasi didžiąja dalimi (jei ne visų) tyrimų tarp tų, kurie to nori. Teisingai: Muskas, Altmanas ir kompanija užsibrėžė atiduoti tai, kas galėtų būti labiausiai transformuojanti XXI amžiaus technologija, ir nemokamai atiduoti.
Zaremba sako, kad pasiūlymai dėl beprotybės slenksčio jį iš tikrųjų atitolino - nepaisant didžiulės pagarbos tokioms įmonėms kaip „Google“ir „Facebook“. Jis manė, kad pinigai buvo nukreipti siekiant užkirsti kelią OpenAI sukūrimui, o tai dar labiau sustiprino jo pasiryžimą dosniam startuoliui. „Aš supratau, - sako Zaremba, - kad„ OpenAI “yra geriausia vieta man“.
Ar jaučiate ironiją šios istorijos širdyje? Nors didžiausios pasaulio technologijų kompanijos stengiasi išlaikyti savo tyrėjus taip stipriai, kaip NFL komandos stengiasi išlaikyti savo žvaigždžių užpakalius, patys tyrėjai nori tik pasidalyti savo įžvalgomis. Sudėtingame PG tyrimų pasaulyje šviesiausius protus varo ne tik kitas produktų ciklas ar pelnas, arba jie visai nėra apsėsti. Jie nori padaryti AI geresnį, ir neįmanoma padaryti AI geresnio, kai pasiliekate sau pažinti savo naujausius pokyčius.
„OpenAI“neseniai išleido pirmą AI programinės įrangos paketą, įrankių rinkinį, skirtą sukurti dirbtinio intelekto sistemas, pagrįstas technologijomis, vadinamomis pastiprinimo mokymu, kuri yra viena iš pagrindinių technologijų, paskatinusių sukurti „AlphaGo“, „Google“AI, kuri nustebino pasaulį savo galimybėmis. eiti žaidimus. Naudodami šį įrankių rinkinį galite sukurti sistemas, kurios atvers naujos kartos robotus, žaisti „Atari“žaidimus ir taip, įveikti pasaulio čempionus „Go“.
Reklaminis vaizdo įrašas:
Tačiau žaislai yra tik pradžia. „OpenAI“yra milijardo dolerių misija kuo labiau skatinti AI. Kaip susibūrė įmonė ir kokie yra jos planai, galite pamatyti kitą naują inovacijų bangą. Dar nežinome, ar „OpenAI“bus pagrindinis šių pokyčių variklis. Tačiau šio gana neįprasto paleisties kūrimo jėgos rodo, kad naujos kartos AI ne tik pakeis technologiją, bet ir tai, kaip ji veikia.
Dirbtinis intelektas yra visur
Silicio slėnis turi aistrą perdėti. Drąsiai tariant, paryškintus teiginius visada reikia sutikti. Tačiau dirbtinio intelekto srityje pokyčiai iš tikrųjų vyksta. Tokiose įmonėse kaip „Google“ir „Facebook“giluminio mokymosi technologijos jau padeda interneto tarnyboms atpažinti veidus nuotraukose, atpažinti balso komandas išmaniuosiuose telefonuose ir reaguoti į paieškas internete. Ta pati technologija ateityje galėtų išspręsti daugybę kitų problemų. Tai gali padėti mašinoms išmokti suprasti natūralią kalbą - kurią mes, žmonės, esame įpratę kalbėti ir rašyti. Tai gali padėti sukurti naujos rūšies robotus, leisti automatams ne tik atlikti savo užduotis, bet ir mokytis skrendant. Ir kai kurie mano, kad tai galiausiai suteiks mašinoms kažką panašaus į sveiką protą - galimybę mąstyti iš tikrųjų kaip žmogus.
Ir kartu su tokiais pažadais gimsta gilus nerimas. Muskui ir Altmanui rūpi, kad jei žmonės gali sukurti AI, kurie daro didelius dalykus, jie gali sukurti AI, kurie daro baisius dalykus. Jie nėra vieniši savo baimėse. Nors tai gali atrodyti prieštaringai, Muskas ir Altmanas taip pat mano, kad geriausias būdas kovoti su kenkėjiška AI yra ne apriboti prieigą prie dirbtinio intelekto, bet jį išplėsti. Būtent šis siekis ir sudaro jaunų ir protingų idealistų komandą.
„OpenAI“pasirodė vieną praėjusios vasaros vakarą privačiame kambaryje „Rosewood“viešbutyje, Silicio slėnyje - tai prabangus miesto viešbutis, kuris tiesiogine prasme yra rizikos kapitalo pasaulio centre. Elonas Muskas pietavo su Ilja Sutskeveriu, kuris tuo metu buvo „Google Brain“- įmonėje, kuriančioje giliuosius neuroninius tinklus - dirbtinio intelekto sistemas, kurios gali išmokti atlikti užduotis analizuodami didžiulius skaitmeninių duomenų kiekius, įskaitant nuotraukų atpažinimą ir elektroninių laiškų rašymą, mokymąsi iš korespondencijos. Suckeveris buvo vienas iš pagrindinių projekto kūrėjų.
Ilja Sutskeveris
Sam Altmanas, kurio „Y Combinator“padėjo formuoti tokias kompanijas kaip „Airbnb“, „Dropbox“ir „Coinbase“, tarpininkavo susitikime, suburdamas keletą AI tyrėjų ir jauną, bet veteranų kompanijos statybininką Gregą Brockmaną, buvusį „start-up Stripe“, kitos bendrovės Y technologijų vadovą Kombinatorius. Tai buvo eklektiška grupė. Tačiau visi turėjo tikslą: sukurti naujo tipo AI laboratoriją, kuri galėtų veikti ne tik „Google“, bet ir visų kitų valdžioje. „Geriausias dalykas, kokį aš įsivaizdavau kaip iššūkį, - sako Brockmanas - yra judėti žmoniją link saugaus kelio sukūrimo.
Muskas ten buvo dėl savo ilgos draugystės su Altmanu ir dėl to, kad AI yra kritiška jo įvairių verslų ir visos ateities ateičiai. „Tesla“reikia AI, jei ji nori pasistatyti savarankiškai važiuojančius automobilius. „SpaceX“, kitai iš „Musk“kompanijų, reikia AI, kad žmonės galėtų patekti į kosmosą ir saugoti juos ten. Tačiau Muskas taip pat vienas iš pirmųjų (ir garsiausiai) perspėjo, kad vieną dieną žmonija gali prarasti kontrolę sistemų, kurios yra pakankamai galingos, kad galėtų mokytis savarankiškai.
Iškilo problema: nemažai žmonių, pakankamai įgudę išspręsti visas šias problemas, jau dirbo „Google“(taip pat „Microsoft“, „Facebook“, „Baidu“ir „Twitter“). Ir niekas per tą vakarienę nebuvo visiškai tikras, kad šiuos tyrėjus galima privilioti į naują startuolį, net jei Muskas ir Altmanas buvo už jo. Ir bent vienas pagrindinis žaidėjas buvo pasirengęs palikti laivą. „Aš supratau riziką, - sako Suckeveris, - bet taip pat žinojau, kad bus įdomu išbandyti“.
Pertraukite ratą
Paskatintas pokalbių su Musku, Altmanu ir kitais Rosewood'e, Brockmanas netrukus nusprendė pastatyti laboratoriją, kurią visi turėjo omenyje. Tvirtai atsidavęs šiam projektui, jis įdarbino Yoshua Bengio, Monrealio universiteto mokslininką ir vieną giluminio mokymosi judėjimo įkūrėjų. Kiti du pramonės pionieriai - Jeffas Hintonas ir Janas Lecunas - dirba atitinkamai „Google“ir „Facebook“, tačiau Bengio siekė gyvenimo akademiniame pasaulyje, kažkur už pramoninių čiuptuvų ribų. Jis sudarė geriausių šios srities tyrinėtojų sąrašą ir per kitas kelias savaites Brockmanas susisiekė su visais įmanomais, įskaitant kelis.
Daugelis šių tyrėjų palankiai įvertino idėją, tačiau buvo atsargūs dėl tokio šuolio galimybės. Bandydamas nutraukti ratą, Brockmanas atrinko dešimt tyrinėtojų, kuriuos labiausiai norėjo pamatyti, ir pakvietė juos šeštadienį praleisti prie vyno, užkandžių ir pokalbių vyno rūsyje Napos slėnyje. Brockmanui net kelionė į Napą buvo projekto katalizatorius. „Tai yra nepakankamas būdas suburti žmones, ypač tais atvejais, kai niekur neskubate pasiekti savo tikslo“, - sako jis. "Jūs turite eiti ten, bet taip pat turite kalbėti." Kai jie nuvyko į vyną, ta atmosfera išliko. Kaip sako Suckeveris, „vynas buvo antraeilis pokalbis“.
Gregas Brockmanas
Dienos pabaigoje Brockmanas pakvietė visus dešimt tyrėjų prisijungti prie laboratorijos ir suteikė jiems tris savaites pamąstyti. Kadencijos pabaigoje vadovavo devyni. Ir jie liko joje, nepaisant didelių Silicio slėnio milžinų pasiūlymų. „Gavau labai patrauklų pasiūlymą pasilikti, todėl sprendimas nebuvo lengvas“, - sako buvęs savo darbdavys Suckeveris iš „Google“. "Galiausiai nusprendžiau vykti į OpenAI iš dalies dėl labai stiprios žmonių grupės ir, žinoma, daugiausia dėl jų misijos."
Giluminio mokymosi judėjimas prasidėjo akademinėje bendruomenėje. Tik neseniai tokios kompanijos kaip „Google“, „Microsoft“ir „Facebook“nusprendė spręsti šią sritį, nes žiaurios skaičiavimo galios dėka šie gilieji neuroniniai tinklai tapo realybe, o ne tik teorine galimybe. Tokie žmonės kaip „Hinton“ir „LeCune“paliko „Google“ir „Facebook“universitetus, nes šiose įmonėse yra didžiuliai ištekliai. Tačiau išliko glaudžiai susijęs su kitais šios srities teoretikais. Vis dėlto, kaip paaiškina „LeCun“, giliam mokymuisi reikia laisvo idėjų srauto. „Kai tyrinėjate slaptai, - sako jis, - jūs atsitraukiate.
Dėl to didžiosios įmonės dabar turi didelę dalį AI tyrimų. Tai yra pagrindinis koziris, ypač „Google“, kuri savo internetinės imperijos technologijas jau seniai laikė paslaptyje. Ne taip seniai „Google“atidarė programinės įrangos variklio, valdančio jo neuroninius tinklus, šaltinį. Tačiau šiose ateities lenktynėse dar liko daug problemų. Brockmanas, Altmanas ir Muskas siekia dar labiau išplėsti atvirumo sąvoką sakydami, kad nenori vienos ar dviejų didelių korporacijų valdyti dirbtinio intelekto ateitį.
Atvirumo ribos
Viskas skamba puikiai. Tačiau dėl visų OpenAI idealizmo tyrėjai gali atsidurti tose pačiose sąlygose, kurios privertė juos dirbti senus darbus. Atvirumas turi savo ribas. Ir ilgalaikė PG vizija nėra vienintelis susidomėjimas šiuo žaidimu. „OpenAI“labdaros darbų nedaro. Musko kompanijos gaus didelę naudą pradedant darbą, o taip pat bus Altmano Y kombinatorius. „Be abejo, yra keletas konkuruojančių taškų“, - sako Lecunas. - Tai ne pelno organizacija, tačiau ji turi glaudų ryšį su „Y Combinator“. Ir žmonėms bus mokama už darbą šioje pramonėje “.
Brockmanas sako, kad laboratorija nemoka tų pačių astronominių atlyginimų, kuriuos „Google“ir „Facebook“suteikė AI tyrinėtojams. Tačiau jis taip pat sako, kad laboratorija „nori jiems gerai sumokėti“ir siūlo kompensacijas akcijų pasirinkimo sandorių forma, pirmiausia „Y Combinator“, o vėliau galbūt „SpaceX“(kuri, skirtingai nei „Tesla“, yra privati įmonė).
Nepaisant to, Brockmanas reikalauja, kad OpenAI nenumatytų specialių sąlygų susijusioms įmonėms. „OpenAI“yra tyrimų iniciatyva, o ne konsultavimo įmonė. Vis dėlto OpenAI idealizmas turi ribotumą. Bendrovė gali neatidaryti kodo viskam, ką gamina, nors pagrindinis tikslas vis tiek yra platinti didžiąją jo dalį, nesvarbu, ar tai būtų mokslo darbai, ar interneto paslaugos. „Atidarymas nebūtinai yra geriausias pasirinkimas. Turite puoselėti idėją, pamatyti, kur ji veda, ir tada paskelbti, sako Brockmanas. - Mes pagaminsime daug atvirojo kodo. Tačiau mes taip pat turėsime daug dalykų, kurie dar nėra paruošti išleidimui. “
Suzkeveris taip pat priduria, kad „OpenAI“galėtų patentuoti kai kuriuos savo darbus. „Greitai nieko nepatentuosime“, - sako Brockmanas. "Tačiau mes esame pasirengę pakeisti taktiką per ilgą laiką, jei manysime, kad tai bus geriau pasauliui". Pavyzdžiui, „OpenAI“gali vykdyti aktyvų patentavimą, kad atgrasytų kitus nuo patentų gavimo.
Kai kurie patentai gali laikyti pelno siekimo motyvu. Bet tai yra visa patentų esmė.
Super intelekto problema
Kai Muskas ir Altmanas pristatė OpenAI, jie taip pat apibūdino projektą kaip būdą neutralizuoti kenkėjiško superintelligencijos grėsmę. Žinoma, toks superintelligencija gali kilti dėl OpenAI darbo, tačiau jie reikalauja, kad bet kokia grėsmė būtų sumažinta padarius technologiją prieinamą visiems. „Mes manome, kad daug didesnė tikimybė, jog daugybė PG gali sustabdyti atsitiktinius blogus veikėjus“, - sako Altmanas.
Tačiau ne visi šioje srityje tiki tokia baigtimi. Nickas Bostromas, Oksfordo filosofas, kuris, kaip ir Muskas, perspėjo apie AI pavojus, pabrėžia, kad jei pasidalysi savo tyrimais be apribojimų, „blogi aktoriai“gali juos sugauti, kol visi nėra įsitikinę, kad jie saugūs. "Jei turite mygtuką, kuris daro pasaulį šūdiną", - sako Bostromas, "greičiausiai nenorite visiems suteikti prieigos prie jo". Kita vertus, jei „OpenAI“nusprendžia sustabdyti tyrimus, kad blogi vaikinai negalėtų prie jo prieiti, „Bostrom“klausia: kuo tai skirsis nuo „Google“ar „Facebook“?
Jis sako „taip“, „OpenAI“pelno nesiekiantis statusas gali arba negali pasikeisti. Jo teigimu, tikroji projekto stiprybė yra tai, kad jį gali patikrinti „Google“ir „Facebook“. „Tai gali sumažinti tikimybę, kad superintelligencija bus monopolizuota. Tai galės pašalinti vieną iš galimų priežasčių, kodėl kai kurie asmenys ar grupės turės geresnę AI prieigą nei visi kiti “.
Naujausiame darbe filosofas aiškina, kad pagrindinis tokios iniciatyvos kaip „OpenAI“- iniciatyvos laisvai dalintis tuo, kas daroma - poveikis yra pagreitinti dirbtinio intelekto pažangą, bent jau per trumpą laiką. Ilgainiui tai gali paspartinti pažangą, jei bus išlaikytas didesnis skaidrumo lygis, nei būtų komerciškai optimalu.
„Gali būti, kad filantropiškai motyvuotas MTTP investuotojas gali rimtai paspartinti pažangą vykdydamas atvirą mokslo politiką“, - sako jis.
Kaip „Xerox PARC“
Sausio pradžioje devyni Brockmano tyrėjai susirinko į savo butą San Fransiske. Projektas buvo toks naujas, kad jie net neturėjo lentų. (Įsivaizduok.) Tą pačią dieną jie nusipirko keletą ir pradėjo dirbti.
Brockmanas sako, kad „OpenAI“pradės tyrinėti pastiprinimo mokymąsi, mašininį mokymosi problemų būdą, kartodamas jas vėl ir vėl, stebėdamas, kurie metodai duoda geriausius rezultatus. Kitas didelis iššūkis yra vadinamasis „neprižiūrimas mokymasis“- mašinų, kurios gali iš tikrųjų savarankiškai mokytis be žmogaus pagalbos, sukūrimas. Šiandien gilus mokymasis priklauso nuo kruopščiai paženklintų duomenų. Jei norite išmokyti nervų tinklą atpažinti kačių nuotraukas, turite pateikti tam tikrą skaičių pavyzdžių - ir šie pavyzdžiai turėtų būti pažymėti kaip nuotraukos su katėmis. Tokie mokymai vykdomi padedant žmonėms. Tačiau, kaip ir daugelis kitų mokslininkų, OpenAI planuoja sukurti neuroninius tinklus, kurie galėtų mokytis kruopščiai neatrenkant duomenų.
„Jei turite tikrai gerą mokymo metodiką be mokytojo, mašinos gali mokytis iš visų žinių internete - kaip žmogus, tiesiog apsižvalgydamas - arba skaityti knygas“, - sako Brockmanas.
Jis mato „OpenAI“kaip modernų „Xerox PARC“, technologijos tyrimų laboratorijos, egzistavusios aštuntajame dešimtmetyje, įsikūnijimą. Kaip ir PARC atviras ir nemokamas tyrimas paskatino viską, pradedant grafinėmis vartotojo sąsajomis ir lazeriniu spausdinimu ir baigiant objektų programavimu, Brockmanas ir jo komanda nori pasinerti į tai, kas anksčiau buvo mokslinė fantastika. PARC priklausė „Xerox“, tačiau ji buvo tiekiama daugelio kitų kompanijų, įskaitant „Apple“, rankose, nes tokie žmonės kaip Steve'as Jobsas palankiai įvertino jos tyrimus. Brockmanas nori, kad visi pasveikintų OpenAI tyrimus.
Tikėdamiesi išjudinti šią dinamiką, Brockmanas ir kompanija pasamdė keletą kitų žymių tyrinėtojų, įskaitant Ianą Goodfellow, kitą vyresnįjį „Google Brain“komandos bendradarbį. Brockmanas sako, kad PARC iš esmės susibūrė krūva protingų žmonių ir nusprendė pamatyti, kas nutiko. "Jums reikia bendros vizijos be centrinės kontrolės."
Kontrolės stoka yra būtina idealui. Jei įtraukiate pakankamai žmonių į kolektyvinį tikslą, galutinis rezultatas bus laimėtas dėl to, ką slapčia pagaminote. Bet jei AI taps tokia galinga, kaip pažadėta, lygtis pasikeis. Mums reikia patikinimo, kad naujai įkurtas AI laikysis tų pačių egalitarinių idealų, kurie pirmiausia paskatino ją sukurti. Muskas, Altmanas ir Brockmanas tiki žmonėmis, minia. Ir jei jie pasirodys teisingi, vieną dieną ši minia nebus visiškai žmogiška.
ILYA KHEL