Prieš jus yra antroji straipsnio iš serijos „Palaukite, kaip visa tai gali būti tikra, kodėl vis dar nekalbama apie kiekvieną kampą“, dalis. Ankstesnėje serijoje tapo žinoma, kad intelekto sprogimas pamažu šliaužia Žemės planetos žmonėms, jis bando vystytis nuo siaurai orientuoto į visuotinį intelektą ir, galiausiai, dirbtinį super intelektą.
„Galbūt mes susiduriame su nepaprastai sudėtinga problema ir nežinoma, kiek laiko skiriama jos sprendimui, tačiau žmonijos ateitis gali priklausyti nuo jos sprendimo“. - Nikas Bostromas.
- „Salik.biz“
Pirmoji straipsnio dalis prasidėjo pakankamai nekaltai. Aptarėme siaurai sutelktą dirbtinį intelektą (PG, kurio specializacija yra vienos konkrečios problemos sprendimas, pavyzdžiui, maršrutų nustatymas ar žaidimas šachmatais), mūsų pasaulyje jo yra labai daug. Tada jie išanalizavo, kodėl taip sunku auginti bendrą kryptinį dirbtinį intelektą (AGI, arba AI, kuris intelektinių galimybių prasme gali būti lyginamas su žmogumi sprendžiant bet kurią problemą). Padarėme išvadą, kad eksponentinis technologinės pažangos tempas rodo, kad AGI netrukus gali būti už kampo. Galų gale nusprendėme, kad kai tik mašinos pasieks žmogaus intelektą, gali nutikti taip:
Kaip įprasta, žiūrime į ekraną, netikėdami, kad dirbtinis superintelligencija (ISI, kuri yra daug protingesnė nei bet kuris asmuo) gali pasirodyti mūsų gyvenimo metu, ir pasirenkame emocijas, kurios geriausiai atspindėtų mūsų nuomonę šiuo klausimu.
Reklaminis vaizdo įrašas:
Prieš gilindamiesi į ISI specifiką, prisiminkime sau, ką reiškia mašina būti intelektuali.
Pagrindinis skirtumas yra tarp greito superintelligencijos ir kokybiško superintelligence. Dažnai pirmas dalykas, kuris ateina į galvą galvojant apie super intelektualų kompiuterį, yra tai, kad jis gali mąstyti daug greičiau nei žmogus - milijonus kartų greičiau, o per penkias minutes jis supras, ko žmogui prireiktų dešimt metų. („Aš žinau, kung fu!“)
Tai skamba įspūdingai, ir ISI tikrai turėtų galvoti greičiau nei bet kuris kitas, tačiau pagrindinis skiriamasis bruožas bus jo intelekto, kuris yra visai kas kita, kokybė. Žmonės yra daug protingesni už beždžiones ne todėl, kad galvoja greičiau, o todėl, kad jų smegenyse yra daugybė išradingų pažinimo modulių, kurie vykdo sudėtingas kalbines reprezentacijas, ilgalaikį planavimą, abstraktų mąstymą, ko nesugeba beždžionės. Jei tūkstantį kartų pagreitinsite beždžionės smegenis, ji netaps protingesnė už mus - net ir po dešimties metų nesugebės surinkti konstruktoriaus pagal instrukcijas, o tai žmogui užtruktų maksimaliai porą valandų. Yra dalykų, kurių beždžionė niekada neišmoks, nesvarbu, kiek valandų ji praleidžia ar kaip greitai veikia jo smegenys.
Be to, beždžionė nežino, kaip žmogiškai, nes jos smegenys paprasčiausiai nesugeba suvokti kitų pasaulių egzistavimo - beždžionė gali žinoti, kas yra žmogus ir kas yra dangoraižis, tačiau niekada nesupras, kad dangoraižį pastatė žmonės. Jos pasaulyje viskas priklauso gamtai, o makaka ne tik negali pastatyti dangoraižio, bet ir supranta, kad jį pastatyti gali bet kas. Ir tai yra mažo intelekto kokybės skirtumo rezultatas.
Bendroje intelekto schemoje, apie kurią mes kalbame, arba tiesiog pagal biologinių būtybių standartus, intelekto kokybės skirtumas tarp žmonių ir beždžionių yra mažas. Ankstesniame straipsnyje mes įdėjome biologinius pažintinius sugebėjimus ant kopėčių:
Norėdami suprasti, kokia rimta bus intelektualioji mašina, padėkite ją dviem ratukais aukščiau nei žmogus ant tų kopėčių. Ši mašina gali būti tik šiek tiek intelektuali, tačiau jos pranašumas prieš mūsų pažintinius sugebėjimus bus toks pat kaip mūsų - virš beždžionių. Ir kaip šimpanzė niekada nesupras, kad gali būti pastatytas dangoraižis, mes niekada nesuvoksime, ką supras mašina, keliais laipteliais aukščiau, net jei mašina bandys tai mums paaiškinti. Bet tai tik keli žingsniai. Protingesnė mašina mumyse matys skruzdėles - ji daugelį metų išmokys paprasčiausių dalykų iš savo padėties, ir šie bandymai bus visiškai beviltiški.
Super intelekto tipas, apie kurį šiandien kalbėsime, yra toli už šios kopėčios. Tai intelekto sprogimas - kuo protingesnis automobilis, tuo greičiau jis gali padidinti savo intelektą, pamažu didindamas impulsą. Gali prireikti metų, kol tokia mašina pralenks šimpanzes intelektu, tačiau galbūt porą valandų pranoksta mus porą žingsnių. Nuo šio momento automobilis jau gali šokinėti per keturis žingsnius kas sekundę. Štai kodėl turėtume suprasti, kad netrukus pasirodžius pirmosioms žinioms, kad mašina pasiekė žmogaus intelekto lygį, galime susidurti su sambūvio realybe Žemėje su kažkuo, kas bus daug aukštesnis už mus šioje kopėčioje (arba galbūt ir milijonus kartų didesnis):
Ir kadangi mes nustatėme, kad visiškai nenaudinga bandyti suprasti mašinos, kuri yra tik dviem laipteliais aukščiau mūsų, galią, kartą ir visiems laikams apibrėžkime, kad nėra galimybės suprasti, ką ISI padarys ir kokias pasekmes tai turės mums. Kiekvienas, teigiantis priešingai, paprasčiausiai nesupranta, ką reiškia intelektas.
Evoliucija lėtai ir palaipsniui vystėsi biologinėse smegenyse per šimtus milijonų metų, ir jei žmonės sukurs super intelektualųjį aparatą, tam tikra prasme mes peržengsime evoliuciją. Arba tai bus evoliucijos dalis - galbūt evoliucija veikia taip, kad intelektas vystosi palaipsniui, kol pasiekia posūkio tašką, kuris skelbia naują visų gyvų dalykų ateitį:
Dėl priežasčių, kurias aptarsime vėliau, didžiulis mokslininkų būrys mano, kad klausimas yra ne tai, ar pateksime į šį tašką, bet kada.
Kur mes galų gale po to?
Manau, kad niekas šiame pasaulyje, nei aš, nei jūs, negalėsime pasakyti, kas bus, kai pasieksime tašką. Oksfordo filosofas ir pagrindinis AI teoretikas Nickas Bostromas mano, kad visus galimus rezultatus galime suskaidyti į dvi dideles kategorijas.
Pirmiausia, žvelgdami į istoriją, apie gyvenimą žinome taip: rūšys atsiranda, egzistuoja tam tikrą laiką, o paskui neišvengiamai iškrenta iš gyvenimo pusiausvyros ir išnyksta.
„Visos rūšys išmiršta“istorijoje buvo tokia pat patikima taisyklė, kaip „kada nors visi žmonės miršta“. Iš gyvybės žurnalo nukrito 99,9% rūšių ir akivaizdu, kad jei rūšis per ilgai kabo ant šio žurnalo, miško ruožą apvers natūralus vėjo gūsis ar staigus asteroidas. „Bostrom“išnykimą vadina patrauklumu - vieta, kurioje visos rūšys subalansuotos, kad nenukristų ten, kur nė viena rūšis negrįžo.
Ir nors dauguma mokslininkų pripažįsta, kad ISI turės galimybę žmonėms pasmerkti išnykimą, daugelis taip pat mano, kad pasinaudodami ISI galimybėmis individai (ir visos rūšys) galės pasiekti antrąją patrauklumo būseną - rūšių nemirtingumą. „Bostrom“mano, kad rūšies nemirtingumas yra tiek pat patrauklumas, kiek rūšies išnykimas, tai yra, jei pateksime į tai, mes būsime pasmerkti amžinajai egzistencijai. Taigi, net jei visos rūšys iki šiol pateko iš šios lazdos į išnykimo taką, „Bostrom“mano, kad rąstas turi dvi puses, ir Žemėje tiesiog neatsirado tokio intelekto, kuris suprastų, kaip nukristi į kitą pusę.
Jei „Bostrom“ir kiti yra teisūs ir, spręsdami pagal visą turimą informaciją, jie taip gali būti, turime sutikti su dviem labai šokiruojančiais faktais:
1. ISI atsiradimas pirmą kartą istorijoje atvers rūšiai galimybę nemirti ir iškristi iš mirtino išnykimo ciklo.
2. ISI atsiradimas turės tokį neįsivaizduojamai didelį poveikį, kad, greičiausiai, tai žmoniją išstums iš šios šviesos viena ar kita kryptimi.
Gali būti, kad kai evoliucija pasiekia tokį posūkio tašką, ji visada nutraukia žmonių ryšius su gyvenimo srove ir sukuria naują pasaulį, su žmonėmis ar be jų.
Tai kelia įdomų klausimą, kurio tik kovotojas neužduotų: kada pateksime į šį tašką ir kur jį pateiksime? Niekas pasaulyje nežino atsakymo į šį dvigubą klausimą, tačiau daugelis protingų žmonių dešimtmečius bandė tai išsiaiškinti. Visą likusį straipsnį išsiaiškinsime iš kur jie atsirado.
* * *
Pradėkime nuo pirmosios šio klausimo dalies: kada turėtume pasiekti viršūnę? Kitaip tariant: kiek laiko liko, kol pirmoji mašina pasiekia intelektą?
Kiekvienu atveju nuomonės skiriasi. Daugelis, įskaitant profesorių Vernorą Vinge'ą, mokslininką Beną Herzelį, „Sun Microsystems“įkūrėją Billą Joy'ą, futuristą Ray Kurzweilį, sutarė su mašinų mokymosi ekspertu Jeremy Howardu, kai „TED Talk“pristatė šį grafiką:
Šie žmonės laikosi nuomonės, kad ISI netrukus pasirodys - šis eksponentinis augimas, kuris mums šiandien atrodo lėtas, tiesiogine prasme sprogs per ateinančius kelis dešimtmečius.
Kiti, tokie kaip „Microsoft“įkūrėjas Paulas Allenas, tyrimų psichologas Gary Marcusas, kompiuterių ekspertas Ernestas Davisas ir technologijų verslininkas Mitchas Kaporis, mano, kad mąstytojai, tokie kaip „Kurzweil“, rimtai nuvertina problemos mastą, ir jie mano, kad mes ne taip arti taško.
Kurzweilo stovykla teigia, kad vienintelis neįvertinamas reiškinys yra eksponentinio augimo ignoravimas, o abejojančius galima palyginti su tais, kurie 1985 m. Žiūrėjo į lėtai klestintį internetą ir teigė, kad artimiausiu metu tai neturės įtakos pasauliui.
Abejonės gali atremti tai, kad progresui yra sunkiau žengti kiekvieną sekantį žingsnį, kai kalbama apie eksponentinį intelekto vystymą, kuris neutralizuoja tipinį eksponentinį technologinės pažangos pobūdį. Ir tt
Trečioji stovykla, kurioje yra Nickas Bostromas, nesutinka nei su pirmąja, nei su antrąja, teigdama, kad a) visa tai gali visiškai atsitikti artimiausiu metu; ir b) nėra garantijos, kad tai įvyks iš viso ar kad tai užtruks ilgiau.
Kiti, pavyzdžiui, filosofas Hubertas Dreyfusas, mano, kad visos trys grupės naiviai tiki, kad iš viso bus taškas ir kad greičiausiai niekada nepateksime į ISI.
Kas nutiks, kai sudėsime visas šias nuomones?
2013 m. „Bostrom“atliko apklausą, kurioje apklausė šimtus dirbtinio intelekto srities ekspertų konferencijų cikle šia tema: „Kokios bus jūsų prognozės pasiekti AGI žmogaus lygiu?“ir paprašė mūsų įvardinti optimistiškus metus (kuriuose AGI turėsime 10 procentų galimybę), realistinę prielaidą (metus, kuriuose turėsime 50 procentų tikimybę AGI) ir užtikrintą prielaidą (ankstyviausi metai, kuriais AGI pasirodys nuo 90 m. procentų tikimybė). Štai šie rezultatai:
- Vidutiniškai optimistiški metai (10%): 2022 m
- Vidutiniškai realūs metai (50%): 2040 m
- Vidutinis pesimistiškas metų skaičius (90%): 2075 m
Vidutinis respondentų mano, kad per 25 metus turėsime AGI, o ne neturėsime. 90 procentų AGI atsiradimo tikimybė iki 2075 m. Reiškia, kad jei jūs dar esate gana jaunas, tai greičiausiai įvyks jūsų gyvenime.
Neseniai atliktas atskiras tyrimas, kurį Jamesas Barrattas (pripažintos ir labai geros knygos „Mūsų naujausias išradimas“, ištraukos, į kurias atkreipiau Hi-News.ru skaitytojų dėmesį, autorius) ir Benas Hertzelis kasmetinėje AGI konferencijoje AGI konferencijoje tiesiog parodė žmonių nuomonėms. palyginti su metais mes pasiekiame AGI: 2030, 2050, 2100, vėliau arba niekada. Štai šie rezultatai:
- Iki 2030 m.: 42% respondentų
- Iki 2050 m.: 25 proc.
- Iki 2100 m.: 20 proc.
- Po 2100 m.: 10 proc.
- Niekada: 2 proc.
Panašūs ir „Bostrom“rezultatai. Barratt apklausoje daugiau nei du trečdaliai apklaustųjų mano, kad AGI čia bus iki 2050 m., Ir mažiau nei pusė tiki, kad AGI pasirodys per ateinančius 15 metų. Stebėtina ir tai, kad tik 2% respondentų iš esmės nemato AGI mūsų ateityje.
Bet AGI nėra toks atspirties taškas kaip ISI. Kada, pasak ekspertų, turėsime ISI?
„Bostrom“paklausė ekspertų, kada pasieksime ASI: a) praėjus dvejiems metams po AGI pasiekimo (tai yra beveik akimirksniu dėl žvalgybos sprogimo); b) po 30 metų. Rezultatai?
Vidutinė nuomonė yra, kad greitas perėjimas nuo AGI prie ISI įvyks su 10% tikimybe, tačiau per 30 ar mažiau metų tai įvyks su 75% tikimybe.
Remdamiesi šiais duomenimis, mes nežinome, kurią datą respondentai vadintų 50 procentų ASI tikimybe, tačiau remdamiesi dviem aukščiau pateiktais atsakymais, tarkime, kad tai yra 20 metų. T. y., Žymiausi pasaulio AI ekspertai mano, kad posūkio taškas ateis 2060 m. (AGI pasirodys 2040 m., O pereiti nuo AGI prie ISI reikės 20 metų).
Žinoma, visa minėta statistika yra spekuliatyvi ir tiesiog atspindi dirbtinio intelekto srities ekspertų nuomonę, tačiau jie taip pat rodo, kad dauguma susijusių asmenų sutinka, kad iki 2060 m. PG greičiausiai atvyks. Vos per 45 metus.
Pereikime prie antrojo klausimo. Kuri lemtingo pasirinkimo pusė nulems mus į tašką?
Aukščiausio lygio intelektas turės galingiausią galią, o mums svarbiausias klausimas bus toks:
Kas ar kas valdys šią galią ir kokia bus jų motyvacija?
Atsakymas į šį klausimą priklausys nuo to, ar ISI vystosi neįtikėtinai galinga plėtra, neišmatuojamai bauginanti raida ar kažkas tarp jų.
Be abejo, į šiuos klausimus bando atsakyti ir ekspertų bendruomenė. „Bostrom“apklausa išanalizavo galimų AGI poveikio žmonijai pasekmių tikimybę ir paaiškėjo, kad su 52 procentų tikimybe viskas vyks labai gerai, o su 31 procento tikimybe viskas vyks arba blogai, arba labai blogai. Ankstesnės šios temos dalies pabaigoje pridėta apklausa, atlikta tarp jūsų, mieli „Hi-News“skaitytojai, parodė tuos pačius rezultatus. Dėl palyginti neutralaus rezultato tikimybė buvo tik 17%. Kitaip tariant, mes visi tikime, kad AGI bus didelis dalykas. Taip pat verta paminėti, kad ši apklausa yra susijusi su AGI atsiradimu - ISI atveju neutralumo procentas bus mažesnis.
Prieš gilindamiesi į gerosios ir blogosios klausimo puses, apjungkime abi klausimo puses - „kada tai įvyks?“ir "tai gerai ar blogai?" į lentelę, kurioje pateikiami daugumos ekspertų požiūriai.
Apie pagrindinę stovyklą kalbėsime per minutę, bet pirmiausia nuspręsime dėl jūsų pozicijos. Greičiausiai esate toje pačioje vietoje, kur buvau prieš pradėdamas dirbti šia tema. Yra keletas priežasčių, kodėl žmonės iš viso negalvoja apie šią temą:
- Kaip minėta pirmoje dalyje, filmai rimtai supainiojo žmones ir faktus, pateikdami nerealius scenarijus su dirbtiniu intelektu, o tai lėmė, kad į AI neturėtume žiūrėti rimtai. Jamesas Barrattas šią situaciją prilygino ligos kontrolės centrų (CDC) išleistam rimtu įspėjimu apie mūsų vampyrus ateityje.
- Dėl vadinamųjų pažintinių šališkumų mums labai sunku patikėti, kad kažkas yra tikra, kol neturime įrodymų. Galima užtikrintai įsivaizduoti 1988 m. Kompiuterių mokslininkus, reguliariai diskutuojančius apie didelius interneto padarinius ir tai, kuo jis gali tapti, tačiau žmonės sunkiai tikėjo, kad tai pakeis jų gyvenimą, kol tai iš tikrųjų neįvyks. Tiesiog kompiuteriai nežinojo, kaip tai padaryti 1988 m., O žmonės tiesiog žiūrėjo į savo kompiuterius ir galvojo: „Ar tikrai? Ar tai pakeis pasaulį? “Jų vaizduotę ribojo tai, ko išmokė asmeninė patirtis, jie žinojo, kas yra kompiuteris, ir sunku buvo įsivaizduoti, ką kompiuteris gebės ateityje. Panašiai yra ir dabar su AI. Girdėjome, kad tai taps rimtu dalykuBet kadangi mes dar nepatyrėme to akis į akį ir apskritai šiuolaikiniame pasaulyje stebime gana silpnus AI pasireiškimus, mums gana sunku patikėti, kad tai kardinaliai pakeis mūsų gyvenimą. Būtent prieš šiuos išankstinius nusistatymus daugybė ekspertų iš visų stovyklų, taip pat suinteresuoti žmonės, priešinasi, bando patraukti mūsų dėmesį per kasdienio kolektyvinio egocentrizmo triukšmą.
- Net jei visa tuo tikėtume - kiek kartų šiandien galvojote apie tai, kad likusią amžinybės dalį praleisite beprasmiškai? Šiek tiek, sutikite. Net jei šis faktas yra daug svarbesnis už viską, ką darote diena iš dienos. Taip yra todėl, kad mūsų smegenys paprastai yra sutelktos į mažus, kasdienius dalykus, nesvarbu, kokia apgaulinga ilgalaikė situacija, kurioje atsidūrėme. Tiesiog mes esame sukurti.
Vienas iš šio straipsnio tikslų yra išvaryti jus iš stovyklos pavadinimu „Man patinka galvoti apie kitus dalykus“ir paguldyti jus į ekspertų stovyklą, net jei jūs tiesiog stovite sankryžoje tarp dviejų taškų, esančių aukščiau esančioje aikštėje, visiškai neapsisprendęs.
Tyrimų metu paaiškėja, kad daugumos žmonių nuomonės greitai nukrypsta į „pagrindinę stovyklą“, o trys ketvirtadaliai ekspertų suskirstomi į dvi pagrindines stovyklas.
Visiškai aplankysime abi šias stovyklas. Pradėkime nuo linksmybių.
Kodėl ateitis galėtų būti didžiausia mūsų svajonė?
Tyrinėdami AI pasaulį, savo komforto zonoje aptinkame stebėtinai daug žmonių. Viršutiniame dešiniajame kvadratėlyje esantys žmonės šurmuliuoja iš jaudulio. Jie tiki, kad atsidursime gerojoje rąsto pusėje, ir taip pat mano, kad neišvengiamai pasieksime tai. Jiems ateitis yra tik geriausia, apie ką tik galima svajoti.
Esmė, išskirianti šiuos žmones iš kitų mąstytojų, yra ne tai, kad jie nori būti laimingi, bet tai, kad jie tikri, kad ji mūsų laukia.
Šis pasitikėjimas kyla iš ginčų. Kritikai mano, kad tai sukelia apakinantis jaudulys, kuris užgožia galimas neigiamas puses. Tačiau šalininkai sako, kad niūrios prognozės visada yra naivios; technologijos tęsiasi ir visada mums padės daugiau nei pakenks.
Jūs galite laisvai pasirinkti bet kurią iš šių nuomonių, tačiau atmeskite skepticizmą ir gerai įsižiūrėkite į laimingąją pusiausvyros spindulio pusę, bandydami sutikti su tuo, kad viskas, apie ką jūs skaitėte, jau galėjo nutikti. Jei parodytumėte medžiotojams-rinkėjams mūsų komforto, technologijų ir begalinio gausos pasaulį, jiems tai atrodytų magiška fikcija - ir mes elgiamės gana kukliai, negalėdami pripažinti, kad ateityje mūsų laukia tas pats nesuprantamas virsmas.
Nickas Bostromas apibūdina tris būdus, kuriais gali vadovautis intelektualioji intelekto valdymo sistema:
Orakulas, galintis atsakyti į bet kokius tikslus klausimus, įskaitant ir sudėtingus klausimus, į kuriuos žmonės negali atsakyti, pavyzdžiui, „kaip padaryti efektyvesnį automobilio variklį?“„Google“yra primityvus „orakulo“tipas.
Dženas, kuris vykdys bet kokią aukšto lygio komandą - naudodamas molekulinius montuotojus, kad sukurtų naują, efektyvesnę automobilio variklio versiją - ir lauks kitos komandos.
Suverenas, kuris turės plačią prieigą ir galimybę laisvai veikti pasaulyje, priimdamas savo sprendimus ir tobulindamas procesą. Jis sugalvos pigesnį, greitesnį ir saugesnį asmeninio pervežimo būdą nei automobilis.
Šie klausimai ir užduotys, kurie mums atrodo sunkūs, super intelektualiai sistemai atrodys tarsi kažkas paprašytų pagerinti situaciją „mano pieštukas nukrito nuo stalo“, kurioje jūs tiesiog pasiimtumėte ir padėtumėte atgal.
Eliezer Yudkowski, Amerikos dirbtinio intelekto ekspertas, gerai pasakė:
„Nėra sunkių problemų, yra tik tos problemos, kurios yra sunkios tam tikro lygio intelektui. Žingsnis aukščiau (intelekto prasme), ir kai kurios problemos staiga pereis iš kategorijos „neįmanoma“į „akivaizdžios“stovyklą. Žingsnis aukščiau - ir jie visi taps akivaizdūs “.
Yra daug nekantrių mokslininkų, išradėjų ir verslininkų, kurie pasirinko pasitikėjimo savimi zoną ant mūsų stalo, tačiau mums reikia tik vieno vadovo, kaip vaikščioti geriausiame pasaulyje.
Ray Kurzweil yra dviprasmiškas. Vieni dievina jo idėjas, kiti niekina. Kai kurie lieka viduryje - Douglasas Hofstadteris, aptardamas Kurzweilo knygų idėjas, iškalbingai pažymėjo, kad „tarsi išgėrėte daug gero maisto ir mažą šuns kauliuką, o paskui viską sumaišėte taip, kad neįmanoma suprasti, kas yra gerai, o kas yra blogai“.
Nesvarbu, ar jums patinka jo idėjos, ar ne, neįmanoma jų įgyvendinti be susidomėjimo šešėlio. Jis pradėjo išradinėti daiktus dar būdamas paauglys, o vėlesniais metais išrado kelis svarbius dalykus, įskaitant pirmąjį plokščiąjį skaitytuvą, pirmąjį skaitytuvą, konvertuojantį tekstą į kalbą, gerai žinomą „Kurzweil“muzikos sintezatorių (pirmąjį tikrąjį elektrinį pianiną) ir pirmąjį komerciškai sėkmingą kalbos atpažinimo įrenginį. Jis taip pat yra penkių sensacingų knygų autorius. Kurzweilas yra vertinamas už drąsias prognozes, o jo patirtis yra gana gera - devintojo dešimtmečio pabaigoje, kai internetas dar buvo tik pradinėje stadijoje, jis manė, kad iki 2000-ųjų internetas taps visuotiniu reiškiniu. „The Wall Street Journal“pavadino „Kurzweil“„neramių genijų“, „Forbes“- „pasaulinio mąstymo mašina“, Inc. Žurnalas - „Edisono teisėtas įpėdinis“, Billas Gatesas - „geriausias iš tųkuris prognozuoja dirbtinio intelekto ateitį “. 2012 m. „Google“įkūrėjas Larry Pageas pakvietė Kurzweilą į CTO postą. 2011 m. Jis įkūrė „Singularity University“, kurį prižiūri NASA ir kurį iš dalies remia „Google“.
Jo biografija yra svarbi. Kai Kurzweilas pasakoja apie savo ateities viziją, tai skamba kaip beprotiškai beprotiška, tačiau tikrai beprotiškas dalykas yra tai, kad jis toli gražu nėra beprotis - jis yra nepaprastai intelektualus, išsilavinęs ir sveikas žmogus. Galite pamanyti, kad jis neteisus numatydamas savo mintis, tačiau jis nėra kvailys. Kurzweilo prognozėmis dalijasi daugelis komforto zonos ekspertų - Peteris Diamandis ir Benas Herzelis. Tai, jo manymu, atsitiks.
Chronologija
Kurzweilas mano, kad kompiuteriai iki 2029 m. Pasieks bendro dirbtinio intelekto (AGI) lygį, o iki 2045 m. Turėsime ne tik dirbtinį superintelligenciją, bet ir visiškai naują pasaulį - vadinamojo išskirtinumo laiką. Jos AIN chronologija vis dar laikoma nepaprastai perdėta, tačiau per pastaruosius 15 metų spartus ypač koncentruoto dirbtinio intelekto (AI) sistemų vystymas privertė daugelį ekspertų atsisakyti Kurzweilo. Jo prognozės vis dar išlieka ambicingesnės nei „Bostrom“apklausa (AGI iki 2040 m., ISI iki 2060 m.), Tačiau nedaug.
Anot Kurzweilo, trys vienu metu vykstančios biotechnologijų, nanotechnologijų ir, dar svarbiau, PG revoliucijos skatina 2045 m. Išskirtinumą. Bet prieš mums einant toliau - ir nanotechnologijos atidžiai seka dirbtinį intelektą - skirkime minutę nanotechnologijoms.
Keletas žodžių apie nanotechnologijas
Paprastai mes vadiname nanotechnologijų technologijas, kurios susijusios su manipuliacijomis su medžiaga, kurio diapazonas yra 1–100 nanometrų. Nanometras yra viena milijardoji metro dalis, arba milimetro milimetro dalis; 1–100 nanometrų diapazone gali būti virusų (100 nm skersmens), DNR (10 nm pločio), hemoglobino molekulių (5 nm), gliukozės (1 nm) ir dar daugiau. Jei nanotechnologijos kada nors taps mūsų objektu, kitas žingsnis bus manipuliuoti atskirais atomais, kurie yra mažesni nei viena didumo laipsnis (~, 1 nm).
Norėdami suprasti, kur žmonėms kyla problemų, bandant tokiu mastu manipuliuoti materija, pereikime prie didesnio masto. Tarptautinė kosminė stotis yra 481 kilometro aukštyje virš Žemės. Jei žmonės būtų milžinai ir pataikytų į TKS per galvą, jie būtų 250 000 kartų didesni nei dabar. Jei ką nors padidinate nuo 1 iki 100 nanometrų 250 000 kartų, gausite 2,5 centimetro. Nanotechnologijos yra lygiavertis žmogui, skriejančiam aplink ISS, bandant manipuliuoti dalykais, kurie yra smėlio grūdo ar akies obuolio dydis. Norėdami patekti į kitą lygį - valdyti atskirus atomus - milžinas turės atsargiai išdėstyti objektus, kurių skersmuo yra 1/40 milimetrų. Paprastiems žmonėms norint juos pamatyti, reikės mikroskopo.
Pirmą kartą Richardas Feynmanas apie nanotechnologijas kalbėjo 1959 m. Tada jis pasakė: „Fizikos principai, kiek aš galiu pasakyti, neprieštarauja galimybei valdyti daiktus pagal atomą. Iš esmės fizikas galėtų susintetinti bet kokias chemines medžiagas, kurias chemikas užrašė. Kaip? Dėdami atomus ten, kur chemikas sako, kad gautų medžiagą “. Tai yra visas paprastumas. Jei mokate judinti atskiras molekules ar atomus, galite padaryti beveik bet ką.
Nanotechnologijos tapo rimta mokslo sritimi 1986 m., Kai inžinierius Ericas Drexleris savo pagrindinėje knygoje „Kūrimo mašinos“pristatė savo pagrindus, tačiau pats Drexleris mano, kad norintieji sužinoti daugiau apie šiuolaikines nanotechnologijų idėjas turėtų perskaityti jo 2013 m. Knygą. Visiškas gausa “(radikalus gausumas).
Kai pateksime į nanotechnologijų dugną, galėsime jas panaudoti kurdami techninius prietaisus, drabužius, maistą, bio produktus - kraujo ląsteles, kovotojus su virusu ir vėžiu, raumenų audinius ir kt. - kad ir ką. O pasaulyje, kuriame naudojamos nanotechnologijos, medžiagos kaina nebebus siejama su trūkumu ar gamybos proceso sudėtingumu, o greičiau su atominės struktūros sudėtingumu. Nanotechnologijų pasaulyje deimantas gali būti pigesnis nei trintukas.
Mes net net neuždarome ten. Ir nėra iki galo aišku, ar nuvertiname, ar pervertiname šio kelio sudėtingumą. Tačiau viskas einasi į tai, kad nanotechnologijos nėra toli. Kurzweilas daro prielaidą, kad iki 2020 m. Juos turėsime. Pasaulio valstybės žino, kad nanotechnologijos gali žadėti puikią ateitį, todėl į jas investuojama milijardai.
Įsivaizduokite, kokias galimybes superintelektualus kompiuteris gautų, jei patektų į patikimą nanoskalės surinkėją. Bet nanotechnologijos yra mūsų idėja, ir mes stengiamės ja važiuoti, mums sunku. O kas, jei tai tik ISI sistemos pokštas, o pati ISI sugalvos technologijas, kurios bus daug kartų galingesnės už viską, ką iš principo galime numanyti? Mes sutarėme: niekas neįsivaizduoja, kokiam dirbtiniam superintelligentui sugebės? Manoma, kad mūsų smegenys nesugeba numatyti net minimalaus to, kas nutiks.
Ką PG galėtų padaryti dėl mūsų?
Ginkluota superintelligencija ir visomis technologijomis, kurias galėtų sukurti superintelligence, ISI tikriausiai sugebės išspręsti visas žmonijos problemas. Visuotinis atšilimas? ISI pirmiausia sustabdys anglies dvideginio išmetimą sugalvodama daugybę efektyvaus neiškastinio kuro energijai gaminti. Tada jis sugalvos veiksmingą, novatorišką būdą pašalinti perteklinį CO2 iš atmosferos. Vėžys ir kitos ligos? Ne problema - sveikatos priežiūra ir medicina keisis taip, kaip neįmanoma įsivaizduoti. Pasaulio alkis? ISI pasitelks nanotechnologijas, kad gautų mėsą, identišką natūraliai, nuo nulio, tikrai mėsai.
Nanotechnologijos sugebės paversti krūvą šiukšlių šviežios mėsos ar kito maisto indauja (nebūtinai net įprasta forma - įsivaizduokime milžinišką obuolių kubelį) ir paskirstyti visą šį maistą visame pasaulyje naudodamos pažangias transportavimo sistemas. Žinoma, tai puikiai tiks gyvūnams, kuriems nebereikia mirti dėl maisto. ISI taip pat gali padaryti daugybę kitų dalykų, pavyzdžiui, išsaugoti nykstančias rūšis ar net sugrąžinti išnykusias iš išsaugotos DNR. ISI gali išspręsti sunkiausias mūsų makroekonomines problemas - sunkiausias mūsų ekonomines diskusijas, etinius ir filosofinius klausimus, pasaulinę prekybą - visa tai ISI bus akivaizdu.
Tačiau yra kažkas ypatingo, ką ISI galėtų padaryti dėl mūsų. Tai vilioja ir gundo, kad viskas pasikeis: ISI gali padėti mums susidoroti su mirtingumu. Palaipsniui suprasdami AI galimybes, galbūt dar peržvelgsite visas savo mintis apie mirtį.
Nebuvo jokios priežasties evoliucijai pratęsti mūsų gyvenimo trukmę ilgiau nei dabar. Jei mes gyvename pakankamai ilgai, kad pagimdytume ir užaugintume vaikus tiek, kiek jie gali apsiginti nuo savęs, pakanka evoliucijos. Evoliucijos požiūriu vystymuisi pakanka 30 ir daugiau metų, o mutacijoms nėra jokios priežasties pailginti gyvenimą ir sumažinti natūralios atrankos vertę. William Butler Yates mūsų rūšį pavadino „siela, pritvirtinta prie mirštančio gyvūno“. Nelabai smagu.
Ir kadangi mes kada nors mirštame, gyvename su mintimi, kad mirtis yra neišvengiama. Laikui bėgant galvojame apie senėjimą - toliau judame į priekį ir negalime sustabdyti šio proceso. Tačiau mirties mintis yra klastinga: ją pagavę mes pamirštame gyventi. Richardas Feynmanas rašė:
„Biologijoje yra nuostabus dalykas: šiame moksle nėra nieko, kas pasakytų apie mirties būtinumą. Jei norime sukurti nuolatinio judesio mašiną, suprantame, kad fizikoje radome pakankamai įstatymų, kurie arba nurodo, kad tai neįmanoma, arba kad įstatymai yra neteisingi. Bet biologijoje nėra nieko, kas rodytų mirties neišvengiamumą. Tai verčia manyti, kad tai nėra taip neišvengiama, ir tik laiko klausimas, kol biologai suras šios problemos, šios baisios visuotinės ligos, priežastį, ji bus išgydoma “.
Faktas yra tas, kad senėjimas neturi nieko bendra su laiku. Senėjimas yra tada, kai fizinės kūno medžiagos susidėvi. Automobilių dalys taip pat suyra - tačiau ar senėjimas yra neišvengiamas? Jei remontuosite savo automobilį, nes dalys susidėvės, jis tarnaus amžinai. Žmogaus kūnas nesiskiria - tiesiog sudėtingesnis.
Kurzweilas kalba apie intelektualius, prie „Wi-Fi“prijungtus nanobotus, esančius kraujyje, kurie galėtų atlikti daugybę žmogaus sveikatai reikalingų užduočių, įskaitant reguliarų taisymą ar pakeitimą susidėvėjusioms ląstelėms bet kurioje kūno vietoje. Tobulindami šį procesą (arba surasdami protingesnio ASI pasiūlytą alternatyvą) ne tik palaikysite kūną sveiką, bet ir atmesite senėjimą. Skirtumas tarp 60-mečio ir 30-mečio kūno yra keletas fizinių problemų, kurias būtų galima ištaisyti naudojant tinkamą technologiją. ISI galėtų pasistatyti automobilį, į kurį žmogus galėtų įvažiuoti sulaukęs 60 metų, ir išvažiuoti, kai jam bus 30 metų.
Net suprastėjusios smegenys galėtų būti atnaujintos. ISI tikrai žinotų, kaip tai padaryti nepažeidžiant smegenų duomenų (asmenybės, prisiminimų ir kt.). 90 metų vyras, kenčiantis nuo visiško smegenų degradacijos, gali būti persikvalifikuotas, atnaujintas ir grįžęs į savo gyvenimo pradžią. Tai gali atrodyti absurdiška, tačiau kūnas yra sauja atomų, ir ISI tikrai galėtų lengvai jais manipuliuoti, bet kokiomis atominėmis struktūromis. Tai nėra taip absurdiška.
Kurzweilas taip pat tiki, kad laikui bėgant dirbtinės medžiagos vis labiau integruosis į kūną. Pirmiausia organus būtų galima pakeisti pažangiausiais aparatų variantais, kurie truktų amžinai ir niekada nesugriūtų. Tada galėtume visiškai pakeisti kūno struktūrą, pakeisdami raudonuosius kraujo kūnelius puikiais nanobotais, kurie juda patys, visiškai pašalindami širdies poreikį. Taip pat galėtume pagerinti savo pažintinius sugebėjimus, pradėti galvoti milijardus kartų greičiau ir per debesį prieiti prie visos žmonijai prieinamos informacijos.
Naujų horizontų suvokimo galimybės būtų tikrai begalinės. Žmonės sugebėjo suteikti seksui naują tikslą, jie tai daro dėl malonumo, o ne tik dėl reprodukcijos. Kurzweilas mano, kad tą patį galime padaryti ir su maistu. Nanobotai galėtų idealiai maitintis tiesiai į kūno ląsteles, leisdami nesveikoms medžiagoms patekti per kūną. Nanotechnologijų teoretikas Robertas Freitas jau yra sukūręs kraujo ląstelių pakaitalą, kuris, pritaikytas žmogaus kūne, gali leisti jam 15 minučių nekvėpuoti - ir tai išrado žmogus. Įsivaizduokite, kada ISI įgis galią.
Juk Kurzweilas tiki, kad žmonės pasieks tašką, kur jie taps visiškai dirbtiniai; laikas, kai mes žiūrime į biologines medžiagas ir galvojame apie tai, kokie jie buvo primityvūs; laikas, kai skaitysime apie ankstyvuosius žmonijos istorijos etapus, nustebinti, kaip mikrobai, nelaimingi atsitikimai, ligos ar tiesiog senatvė galėjo nužudyti žmogų prieš jo valią. Galų gale žmonės nugalės savo biologiją ir taps amžinai - tai yra kelias į laimingą pusiausvyros spindulio pusę, apie kurią mes kalbėjome nuo pat pradžių. Žmonės, kurie tuo tiki, taip pat įsitikinę, kad tokios ateities mūsų laukia labai greitai.
Tikriausiai nenustebsite, kad „Kurzweil“idėjos sulaukė griežtos kritikos. Jos išskirtinumas 2045 m. Ir vėlesnis amžinasis žmonių gyvenimas buvo vadinamas „nervų kilimu“arba „intelektualiu žmonių, kurių IQ yra 140, sukūrimu“. Kiti abejojo optimistiniu laiko tarpu, žmogaus kūno ir smegenų supratimu, priminė Moore'io dėsnį, kuris dar niekur nedingo. Kiekvienas ekspertas, kuris tiki Kurzweilo idėjomis, yra trys, kurie mano, kad jis klysta.
Tačiau įdomiausia tai, kad dauguma su juo nesutinkančių ekspertų paprastai nesako, kad tai neįmanoma. Užuot sakę „šūdas, tai niekada neįvyks“, jie sako kažką panašaus į „visa tai įvyks, jei pateksime į ISI, bet tai yra laimikis“. „Bostrom“, vienas pripažintų AI ekspertų, įspėjantis apie AI pavojų, taip pat pripažįsta:
„Beveik nėra likusios problemos, kurios superintelligence negali išspręsti ar net padėti mums išspręsti. Ligos, skurdas, aplinkos sunaikinimas, visų rūšių kančios - visa tai, kas suprantama, naudojant nanotechnologijas, gali akimirksniu išspręsti. Super intelektas taip pat gali suteikti mums neribotą gyvenimo trukmę, sustabdydamas ir pakeisdamas senėjimo procesą, naudodamas nanomediciną arba galimybę įkelti mus į debesį. Super intelektas taip pat gali sudaryti galimybes begaliniam intelekto ir emocinių galimybių padidėjimui; jis gali padėti mums sukurti pasaulį, kuriame gyvensime džiaugsmu ir supratimu, artėdami prie savo idealų ir reguliariai įgyvendindami svajones “.
Tačiau tai yra vieno iš „Kurzweil“kritikų citata, kuris pripažįsta, kad visa tai įmanoma, jei galime sukurti saugią ASI. Kurzweilas tiesiog apibrėžė, koks turėtų būti dirbtinis super intelektas, jei tai įmanoma. O jei jis geras dievas.
Akivaizdžiausia komforto zonos šalininkų kritika yra ta, kad jie gali būti pasmerkti neteisingai vertindami ISI ateitį. Kurzweilas savo knygoje „Singularity“skyrė 20 puslapių iš 700 galimų ISI grėsmių. Klausimas yra ne tada, kai pateksime į ISI, klausimas, kokia bus jos motyvacija. Kurzweilas į šį klausimą atsako atsargiai: „ISI kyla iš daugelio skirtingų pastangų ir bus giliai integruota į mūsų civilizacijos infrastruktūrą. Tiesą sakant, jis bus glaudžiai įterptas į mūsų kūną ir smegenis. Jis atspindės mūsų vertybes, nes jis bus vienas su mumis “.
Bet jei atsakymas yra, kodėl tiek daug protingų žmonių šiame pasaulyje nerimauja dėl dirbtinio intelekto ateities? Kodėl Stephenas Hawkingas sako, kad ISI plėtra „gali reikšti žmonijos pabaigą“? Billas Gatesas sako, kad „nesupranta žmonių, kurie nesivargina“. Elonas Muskas baiminasi, kad mus „sukviečia demonas“. Kodėl daugelis ekspertų mano, kad ISI yra didžiausia grėsmė žmonijai?
Remiantis waitbutwhy.com medžiaga, Tim Tim Urban sudaryta. Straipsnyje panaudota medžiaga iš Nicko Bostromo, Džeimso Barratt, Ray Kurzweilo, Jay Niels-Nilsson, Stepheno Pinkerio, Vernoro Vinge'o, Moshe'o Vardy, Russo Robertso, Stuarto Armstrogo ir Kai Sotalo, Susanos Schneiderio, Stuarto Russello ir Peterio Norvigo, Theodore'o Modiso kūrinių. Marcusas, Karlas Schulmanas, Johnas Searle'as, Jaronas Lanieris, Billas Joy'as, Kevinas Keley'is, Paul'as Allenas, Stephenas Hawkingas, Kurtas Andersenas, Mičas Kaporas, Benas Herzelis, Arthuras Clarkas, Hubertas Dreyfusas, Tedas Greenwald'as, Jeremy Howard'as.
Autorius: Ilja Khel
Trečia dalis: kodėl tai gali būti paskutinis mūsų išradimas?