Nepaisant plataus dėmesio dirbtinio intelekto plėtrai, pasaulyje yra keletas žmonių, kurie mano, kad žymiai patobulinto žmogaus intelekto (AI) potencialas yra daug didesnis. Klausimas, kas ateis pirmiausia, lieka atviras, tačiau manoma, kad technologiškai pažengusios smegenys gali būti tokios pat galingos (ir atvirai kalbant, tokios pavojingos) kaip AI.
Žmogus, kaip rūšis, per daugelį tūkstantmečių plėtojo savo mąstymą. Arba bent jau bandė tai padaryti. Bandydami įveikti savo pažintinius apribojimus, žmonės pasinaudojo viskuo, ką gali, nuo rašytinės, kalbinės ir meditacinės technikos iki šiuolaikinės nootropikos.
- „Salik.biz“
Kodėl užuot bandžius kurti bendrą dirbtinį intelektą (AGI) ar net dirbtinį super intelektą (ISI), geriau nebūtų sutelkti dėmesį į žmogaus smegenis ir vis dar toli gražu ne iki galo atskleistas galimybes? Iš tikrųjų reikšmingas proto pagerėjimas - tiek genetikos, tiek kibernetikos, tiek išorinių prietaisų jėgų dėka - gali duoti tą patį rezultatą, kokio tikimės iš pažangių AI sukūrimo.
Portalas „Gizmodo“nusprendė susisiekti su futurologu Michailu Anisimovu, portalo „Accelerating Future“tinklaraštininku ir „Singularity Summit“renginio įkūrėju bei išsiaiškinti galimas žmogaus smegenų tobulinimo krypties plėtros perspektyvas. Anisimovas labai rimtai vertina šią problemą ir mano, kad turėtume būti atsargūs tiek dėl AI, tiek nuo AI.
Michaelai, kai mes kalbame apie didėjantį intelektą, ką iš tikrųjų turime omenyje tai? Ar mes kalbame apie naujų Einsteins kūrimą? Ar tai kažkas dar ambicingesnio?
Tikrasis AI krypties tikslas yra sukurti „super-Einsteinus“- žmones, daug protingesnius nei bet kuris žmogus, kada nors gyvenęs Žemėje. Ir norint pasiekti šį tikslą, reikės žengti keletą pagrindinių žingsnių.
Pirmasis žingsnis yra sukurti tiesioginį nervinį ryšį su informacija. Pagalvokite apie tai kaip apie „telepatinę„ Google “paiešką.
Kitas bus smegenų ir kompiuterio sąsajų kūrimas, kuris pagerins smegenų dalies, atsakingos už regimąjį suvokimą, darbą. Tai pagerins ne tik mūsų viziją, bet ir žymiai padidins informacijos apdorojimo efektyvumą. Įsivaizduokite, kad jūs galėsite beveik akimirksniu savo smegenyse sukurti kokią nors sudėtingą objekto schemą. Dabar galite įsiminti schemą, kurią matėte labai išsamiai. Taip pat reikės papildymo kitose jutimo žievės srityse, atsakingose už liečiamą ir klausomą.
Reklaminis vaizdo įrašas:
Trečias žingsnis bus padidinti priekinę priekinę žievę. Tai yra UI tyrimų šventasis gralis - gerinant suvokimo efektyvumą ir jutiminės informacijos integravimą į sąvokas. Galutinis rezultatas bus žmonių, galinčių parodyti beveik neįmanomus intelektualinius sugebėjimus, atsiradimas. Mes, pavyzdžiui, kalbame apie galimybę kontroliuoti kitus žmones, turinčius proto galią, suprasti visas laimėtinas pozicijas akcijų rinkoje arba, pavyzdžiui, kurti išradimus, galinčius pakeisti pasaulį per vieną dieną. Dabar tai gali atrodyti neįmanoma, lygiai taip pat kaip mūsų šiuolaikiniai laimėjimai akmens amžiaus žmonių akyse atrodė neįmanomi. Bet tokia galimybė yra tikrai reali.
Žvelgiant į ateinančius dešimt metų, kur vystysis AI? Ar gali žmogaus smegenys su tuo konkuruoti?
Žmogaus smegenys iš tikrųjų negali būti per daug pakeistos. Galų gale, tai jau yra septynių milijonų metų evoliucijos optimizavimo ir suderinimo rezultatas, kurie, turiu pripažinti, buvo labai sėkmingi, atsižvelgiant į jo trūkumus. Ir bandymai jį „pergudrauti“, kaip taisyklė, lemia jo nesėkmę, jei mes apsvarstysime šią problemą bent jau poveikio, kurį lydi priklausomybė amfitaminams, pavyzdžiu.
Filmo „Tamsos sritys“anonsas
Chemikalai nesugeba sustiprinti žmogaus pažintinių sugebėjimų. Ir viskas, kas duota dabartinių „smegenų greitintuvų“efektyvumui, iš tikrųjų atrodo labai prieštaringai ir abejotinai. Tikrai sėkmei reikės naudoti smegenų implantus, jungiančius milijonus neuronų. Tam, savo ruožtu, prireiks milijonų mažų elektrodų ir specialios valdymo sistemos, kad jie visi būtų sinchronizuoti. Šiuo metu pažangiausias kompiuterio ir smegenų sąsajos dizainas turi apie 1000 tokių jungčių. Kitaip tariant, norint pasiekti kažką tikrai įdomaus, šiuolaikiniai pokyčiai turi būti padidinti daugiau nei tūkstantį kartų. Net jei atsižvelgsime į eksponentinį augimą, bet kokiems rezultatams pasiekti prireiks mažiausiai 15–20 metų.
UI plėtra visų pirma grindžiama nanoprodukcijos vystymosi pažanga. Ir inžinierių, dirbančių su smegenų ir kompiuterio sąsajomis, pavyzdžiui, Edo Boydeno iš Masačusetso technologijos instituto, rezultatai visiškai priklauso nuo pažangos šia linkme. Atsižvelgiant į nežymų gamybos technologijų išsivystymo lygį atominiame lygmenyje, nano lygio savaiminis surinkimas atrodo pats akivaizdžiausias būdas sukurti smegenų ir kompiuterio sąsajas su milijonais elektrodų. Pažymėtina, kad nano lygio savaiminis surinkimas nėra atomiškai tikslus gamybos būdas, tačiau jis yra pakankamai tikslus pagal pagrindinės gamybos ir fotolitografijos standartus.
Koks yra galimas psichologinis šalutinis poveikis žmonėms, turintiems žymiai patobulintą intelektą? Ar paprastai tokiu požiūriu jie gali būti laikomi žmonėmis?
Vienas iš labiausiai paplitusių šalutinių reiškinių bus beprotybė. Žmogaus smegenys yra neįtikėtinai puikiai suderintas aparatas. Bet koks jo veikimo būdo pakeitimas lemia tai, ką mes paprastai vadiname „beprotybe“. Egzistuoja daugybė įvairių beprotybės rūšių, daug daugiau nei elgesio modeliai, veikiantys sveiku protu. Pavyzdžiui, paslėptas beprotybė išorinės aplinkos požiūriu gali atrodyti gana sveikas elgesys, todėl greičiausiai mums susidurs su sunkumais nustatant tokius asmenis, kenčiančius nuo beprotybės.
Net ir esant visiškai sveikai, gali atsirasti įvairių šalutinių reiškinių, įskaitant traukulius, informacijos perkrovą ir galbūt egomanijos jausmą bei visišką susvetimėjimą. Protingi žmonės linkę jaustis labiau atsiriboję nuo juos supančio pasaulio, todėl žinojimas, kad esi protingesnis už visus planetos gyventojus, šį efektą sustiprins daug kartų.
Daugelis labai protingų žmonių nėra labai bendraujantys ir linksmi, kaip, tarkime, amerikiečių mokslininkas Richardas Feynmanas ar panašūs į šiuolaikinį Neil DeGrasse Tyson. Hemingway'as kartą pasakė: "Protingas žmogus yra priverstas kartais prisigerti, kad galėtų ištverti ryšį su kvailiais". Bet kas atsitiks, kai apsvaigimo nuo alkoholio nebeužtenka palaikyti draugystę ir abipusę meilę? Tai gali sukelti empatijos praradimą, o tai galiausiai lemia psichopatiją.
Taigi kas atsitinka pirmiausia? Patobulintas ar dirbtinis intelektas?
Labai sunku nuspėti. Kyla didelis noras, kad patobulinta žvalgyba atsirastų prieš AI. Visi šie meno kūriniai ir žaidimai, kuriuose pagrindinis veikėjas turi tokią vartotojo sąsają, yra atsakingi už šį norą. Vis dėlto reikėtų suprasti, kad šališkumas UI iš tikrųjų nepalengvina darbo dėl technologinio sudėtingumo. Bet asmeniškai manau, kad UI ateis anksčiau.
Kad ir kaip būtų, abi kryptis labai sunku įgyvendinti. Galime nepamatyti nė vieno iki 2060-ųjų, 2070-ųjų ar net vėliau. Galų gale abi plėtros kryptys pasieks savo tikslus. Jei pagalvojate, intelektas dabar nieko nestebina, todėl poreikis jį tobulinti yra be galo didelis. Ir greičiausiai prireiks visuotinio Luddito sukilimo (spontaniškų XIX amžiaus pirmojo ketvirčio protestų prieš mašinų įvedimą pramoninės revoliucijos metu Anglijoje protesto dalyviai - red.), Kad sustabdytų technologinės plėtros pažangą, kuri mus nuves į norimus rezultatus.
Kokie yra šių dviejų skirtingų plėtros būdų pranašumai ir trūkumai?
Pagrindinis AI plėtros kelio pasirinkimo pranašumas yra neproporcingai pigesni ir lengvesni plėtros procesai. AI popieriuje ir kodu jau sukurta. Belieka tik teisingai surinkti. Svarbiausi UI tyrimai, savo ruožtu, dabar yra tiesiog nelegalūs. Norint atlikti rimtus UI tyrimus, prireiks labai sudėtingų neurochirurgijos ir smegenų implantų eksperimentų. Smegenų implantai, savo ruožtu, gali sugesti, sukeldami traukulius, beprotybę ar net mirtį. Žmogaus intelekto gerinimas kokybiško savęs tobulinimo būdo prasme nėra vien tik kelias tabletes išgėrimas, norint įgyti supervalstybes. Čia tikrai reikia eksperimentuoti su smegenų implantais, jei norite pasiekti rimtų rezultatų.
Didžioji šios srities tyrimų dalis yra labai kontroliuojama ir neįtikėtinai brangi. Visi eksperimentai su gyvūnais visada yra brangūs. Pavyzdžiui, Theodoras Bergeris daugelį metų dirbo prie hipokampo implantų, norėdamas atkurti ir pagerinti atminties kokybę. 2004 m. Buvo atlikti pirmieji gyvų audinių tyrimai, tačiau nuo to laiko naujienų buvo labai retai. Žinoma, kas kelerius metus naujienose yra keletas pastabų, tačiau aš labai skeptiškai vertinu galutinį rezultatą. Dabar pažvelk į išsivystymo lygį, kurį mums pavyko pasiekti kuriant dirbtinį intelektą!
Ar numatomos ir kontroliuojamos PG yra saugesnės nei PG? Kuris yra svarbesnis norint sukurti pirmąjį, AI ar ypač galingą AI?
Patobulintas intelektas vertinamas kaip labiau nenuspėjamas ir nekontroliuojamas, palyginti su ypač galinga AI. Ir ilgainiui tai atrodo dar pavojingiau. Neseniai parašiau straipsnį, kuriame atsispindi pasaulinė politinė transformacija, kurią sukėlė didžiulė valdžia, sutelkta nedidelės žmonių, turinčių PG ar turinčių išskirtinę prieigą prie molekulinės gamybos, rankose. Joje aš sukūriau terminą „Maximilian“, reiškiantį „geriausius iš geriausių“, kad apibūdinčiau labai įtakingą lyderį, kuris pats naudoja patobulintos žvalgybos technologijas, kad iškeltų save virš visų kitų.
Pažintinis sustiprintas Reginaldas Barkley iš „Star Trek: The Next Generation in Episode X“
Pagrindinis mano samprotavimo straipsnis tame, kad pagerėjus intelektui, jūs turite elgtis su žmonėmis, o žmogus, kaip žinote, yra netobulas. Gali pasirodyti, kad žmonės, turintys patobulintą intelektą, išlaikys tam tikrą žmogaus moralės lygį, tačiau greičiausiai jie pradės naudotis visa savo proto galia hedonistiniais tikslais ir, galbūt, net genocidui.
Dirbtinį super intelektą savo ruožtu galima sukurti nuo nulio ir tiesiog priversti vadovautis savų motyvacijų rinkiniu (kuris taip pat bus įdėtas į jį), kurie turi gerą pradžią, stabilumą ir turi teigiamų atsiliepimų.
Žmonės užduoda klausimą: "Ar ISI atmes šiuos motyvus?" Ne, jis to nepadarys, nes šie motyvai sudarys jo vertybių branduolį, jei, žinoma, jie bus tinkamai užprogramuoti. Automobilyje nebus „vaiduoklio“, galinčio ignoruoti ar atmesti iš anksto užprogramuotus motyvus.
Filosofas Nickas Bostromas savo darbe „Superintelligencijos valia“atliko nuostabią analizę. Pagrindinė mintis yra ta, kad savanaudiški tikslai negali pasirodyti savaime, jei pagrindinių AI užduočių sistema iš pradžių yra nesavanaudiškų tikslų rinkinys ir jei pati mašinos egzistavimo esmė yra išlaikyti šį nesavanaudiškumą. Evoliucija parodė, kad savanaudiški tikslai vaidina svarbų vaidmenį išgyvenant, ypač jei atsižvelgiame į evoliucinius konstruktyvius gyvųjų organizmų apribojimus, tačiau tai nereiškia, kad mes patys nesugebame nuo nulio programuoti nesusijusių agentų?
Kokie sunkumai (technologiniai, medicininiai ar etiniai) trukdo vystytis?
Didžiausias iššūkis yra sukurti tinkamas gamybos technologijas. Dabar net nesame šalia to. Kitas trūkumas yra užduotis išsiaiškinti, už ką tiksliai yra atsakingas kiekvienas atskiras neuronas, ir nustatyti tikslią šių neuronų vietą vienam asmeniui. Vėlgi, mes net nepriartėjome prie to.
Trečia, turime sukurti greitą metodą, kaip patikrinti daugybę smegenų funkcijos teorijų. Edas Boydenas tai vadina „didelio pralaidumo neuroninio tinklo tikrinimo schema“. Tinkamiausias ir akivaizdžiausias šio klausimo sprendimas gali būti kažkokiu būdu sukurti nesąmoningą žmogų ir eksperimentuoti su juo be sąžinės graužaties ar moralinių dilemų. Bet aš jaučiu, kad dauguma etikos komitetų šią idėją sutiks priešiškai.
Nesant tokios galimybės, turime rasti būdą, kaip sukurti precedento neturintį detalų žmogaus smegenų modelį. Ir mes nekalbame apie šiandieninius sunkius „smegenų modeliavimo“projekto, kurio aplinkybės yra tiek daug, bandymus. Mes kalbame apie precedento neturintį naują lygį, kurio mums nepavyks pasiekti iki 2050–2080 m. Oksfordo analizė rodo, kad daugiau kalbama apie 2080-uosius. Viskas dabar atrodo, žinoma, kaip likimo kavos tirščiuose, bet vis tiek arčiau tikrovės.
NIKOLAY KHIZHNYAK
