Užvaldytas ažiotažo dėl dabartinių „krizių“, su kuriomis susiduria žmonija, mes pamirštame daugybę kartų, kurios, tikimės, ateis mus pakeisti. Mes kalbame ne apie tuos žmones, kurie gyvens po mūsų 200 metų, bet apie tuos, kurie gyvens po tūkstančio ar 10 tūkstančių metų po mūsų.
Aš vartoju žodį „viltis“, nes susiduriame su rizika, kuri vadinama egzistencine ir kuri gali sunaikinti žmoniją. Ši rizika siejama ne tik su didelėmis nelaimėmis, bet ir su katastrofomis, kurios gali baigtis istorija.
Tačiau ne visi ignoruoja tolimą ateitį. Tokie mistikai kaip „Nostradamus“reguliariai bando nustatyti pasaulio pabaigos datą. H. G. Wellsas bandė plėtoti prognozavimo mokslą ir, kaip žinoma, „The Time Machine“aprašė žmonijos ateitį. Kiti rašytojai, norėdami perspėti, linksminti ar svajoti, sugalvojo kitas tolimos ateities versijas.
Bet net jei visi šie pradininkai ir ateitininkai negalvotų apie žmonijos ateitį, rezultatas vis tiek išliktų toks pats. Anksčiau žmogus negalėjo padaryti daug, kad mus išgelbėtų nuo egzistencinės krizės ar net ją sukeltų.
Šiandien mes esame labiau privilegijuotoje padėtyje. Žmonių veikla palaipsniui formuoja mūsų planetos ateitį. Nors mes vis dar toli nuo nelaimių kontrolės, mes jau kuriame technologijas, galinčias sušvelninti jų pasekmes arba bent ką nors padaryti šiuo klausimu.
Ateitis netobula
Tačiau ši rizika vis dar nėra gerai suprantama. Dėl išvardytų problemų yra bejėgiškumas ir fatalizmas. Žmonės jau tūkstantmečius kalba apie apokalipses, tačiau nedaugelis bandė jų išvengti. Be to, žmonės nėra tokie stiprūs dar nerodytų problemų požiūriu (ypač dėl prieinamumo euristinės įtakos) - tendencija pervertinti tų įvykių, kurių pavyzdžiai mums yra gerai, tikimybę ir nuvertinti įvykius, kuriuos mes negalime atsiminti iš karto).
Reklaminis vaizdo įrašas:
Jei žmonija nustos egzistuoti, tai tokio pobūdžio nuostoliai bus bent jau lygūs visų gyvų individų praradimui, taip pat visų jų tikslų žlugimui. Tačiau iš tikrųjų nuostoliai greičiausiai bus daug didesni. Žmogaus išnykimas reiškia ankstesnių kartų sukurtos prasmės praradimą, visų ateinančių kartų gyvybės praradimą (o būsimų gyvenimų skaičius gali būti astronominis), taip pat visas tas vertybes, kurias jie tikriausiai galėtų sukurti.
Jei sąmonės ir proto nebėra, tai gali reikšti, kad pati vertybė nustoja egzistuoti visatoje. Tai yra labai gera moralinė priežastis, leidžianti nenuilstamai užkirsti kelią egzistencinėms grėsmėms. Šiame kelyje neturime padaryti nė vienos klaidos.
Tai pasakius, aš atrinkau penkias rimčiausias grėsmes žmogaus egzistencijai. Tačiau reikėtų atsižvelgti į kai kurias papildomas aplinkybes, nes šis sąrašas dar nėra galutinis.
Per pastaruosius kelis šimtmečius mes atradome arba sukūrėme sau naują egzistencinę riziką: aštuntojo dešimtmečio pradžioje buvo atrasti supervulkanai, o prieš Manheteno projektą branduolinis karas buvo neįmanomas. Todėl turėtume tikėtis, kad atsiras ir kitų grėsmių. Be to, kai kuri rizika, kuri šiandien atrodo rimta, kaupiant žinias gali išnykti. Laikui bėgant keičiasi ir tam tikrų įvykių tikimybė. Kartais taip nutinka todėl, kad mums rūpi esama rizika ir sprendžiamos jų priežastys.
Galiausiai tai, kad kažkas yra įmanoma ir potencialiai rizikinga, dar nereiškia, kad verta jaudintis. Yra pavojų, su kuriais visiškai nieko negalime padaryti, pavyzdžiui, gama spindulių srautai, atsirandantys dėl galaktikų sprogimo. Bet jei sužinosime, kad sugebame ką nors padaryti, prioritetai keičiasi. Pavyzdžiui, gerėjant sanitarinėms sąlygoms, atsiradus vakcinoms ir antibiotikams, maras pradėtas suvokti ne kaip dieviškos bausmės pasireiškimas, bet kaip blogos sveikatos priežiūros būklės rezultatas.
1. Branduolinis karas
Nors iki šiol buvo naudojamos tik dvi atominės bombos - Hirosimoje ir Nagasakyje per Antrąjį pasaulinį karą - ir atsargos sumažėjo nuo Šaltojo karo viršūnių, būtų klaidinga manyti, kad branduolinis karas yra neįmanomas. Tiesą sakant, ji neatrodo neįtikėtina.
Kubos raketų krizė buvo labai arti branduolinės krizės. Jei remsimės prielaida, kad tokia krizė įvyksta kas 69 metus ir yra viena iš trijų tikimybė, kad ji gali sukelti branduolinio karo protrūkį, tai tokios katastrofos galimybė padidėja ir atitinkamas koeficientas bus 1 iš 200 per metus.
Dar blogiau, kad Kubos raketų krizė yra tik garsiausias atvejis. Sovietų ir Amerikos branduolinio atgrasymo istorijoje gausu krizinių situacijų ir pavojingų klaidų. Tikra tikimybė nebėra priklausoma nuo tarptautinės įtampos, tačiau branduolinio konflikto tikimybė vargu ar bus mažesnė nei koeficientas 1 iš 1000 per metus.
Visapusiškas branduolinis karas tarp didžiųjų valstybių sukeltų šimtų milijonų žmonių mirtį tiesiog pasikeitus streikais ar dėl jų padarinių - tai būtų neįsivaizduojama katastrofa. Tačiau egzistencinei rizikai to vis dar nepakanka.
Tą patį reikėtų pasakyti ir apie riziką, susijusią su branduolinių sprogimų padariniais - jie dažnai būna perdėti. Lokaliai jie yra mirtini, tačiau pasauliniu mastu jie yra gana ribota problema. Kobalto bombos buvo siūlomos kaip hipotetinis pasaulio pabaigos ginklas, galintis viską sunaikinti dėl pasekmių, susijusių su jų naudojimu, tačiau praktiškai jas labai sunku pagaminti ir brangu. Iš tikrųjų jų sukurti neįmanoma.
Tikroji grėsmė yra branduolinė žiema - tai yra suodžių dalelės, kurios gali pakilti į stratosferą ir taip sukelti ilgalaikį planetos temperatūros kritimą ir dehidrataciją. Dabartiniai klimato modeliai rodo, kad dėl to daugelį metų nebūtų įmanoma ūkininkauti didelėje planetos dalyje.
Jei šis scenarijus išsipildys, milijardai žmonių mirs nuo bado, o nedaugeliui išgyvenusių žmonių grės kitos grėsmės, įskaitant ligas. Pagrindinis netikrumas yra tai, kaip elgsis į dangų kylančios suodžių dalelės: atsižvelgiant į jų sudėtį, rezultatas gali būti kitoks, ir kol kas neturime patikimo būdo išmatuoti tokio pobūdžio pasekmes.
2. Pandemijos, kurias sukelia bioinžinerija
Natūralios pandemijos sukėlė daugiau mirčių nei karai. Tačiau vargu ar natūralios pandemijos gali kelti egzistencinę grėsmę. Paprastai yra žmonių, kurie yra apsaugoti nuo ligų sukėlėjų, o išgyvenusiųjų palikuonys tampa dar labiau apsaugoti.
Evoliucija taip pat nėra ypač palanki tiems parazitams, kurie naikina šeimininkus organizmus, todėl sifilis, plitęs Europoje, tapo žiauriu žudiku ir lėtine liga.
Deja, mes patys dabar galime ligas padaryti destruktyvesnes. Vienas iš žinomiausių pavyzdžių yra tai, kaip įtraukus papildomą geną į pelių raupus - raupų pelės variantą, jis tapo daug pavojingesnis gyvybei ir galėjo užkrėsti jau paskiepytus asmenis. Naujausias darbas su paukščių gripu parodė, kad ligos užkrečiamumą galima tikslingai padidinti.
Šiuo metu rizika, kad kas nors sąmoningai išplis kažkokią kenksmingą infekciją, yra nereikšminga. Tačiau tobulėjant biotechnologijoms ir atpigus, vis daugiau grupių šią ligą pavers dar pavojingesne.
Didžiąją dalį darbo biologinio ginklo srityje dirba valstybės, norinčios ką nors kontroliuoti, nes žmonijos naikinimas nėra naudingas kariniu požiūriu. Tačiau visada atsiras žmonių, kurie ateis atlikti kai kuriuos dalykus vien dėl to, kad sugeba. Kiti gali turėti aukštesnių tikslų.
Pavyzdžiui, religinės grupės „Aum Shinrikyo“nariai bandė paspartinti apokalipsės atsiradimą panaudodami biologinius ginklus, o ne tik per sėkmingesnę ataką naudojant nervines dujas. Kai kurie žmonės tiki, kad padėtis Žemėje pagerės, jei joje nebeliks žmonių ir t.
Mirčių dėl biologinių ginklų ir epideminių ligų skaičius verčia galvoti, kad jie vystosi pagal valdžios įstatymą - daugeliu atvejų aukų yra nedaug, tačiau nedaugeliu atvejų aukų yra daug. Atsižvelgiant į šiuo metu turimus duomenis, pasaulinės pandemijos dėl bioterorizmo rizika yra nedidelė.
Bet tai taikoma tik bioterorizmui: vyriausybės nužudė žymiai daugiau žmonių, turinčių biologinių ginklų, nei bioteroristų (per Antrąjį pasaulinį karą Japonijos biologinio karo programos aukomis tapo apie 400 tūkst. Technologijos tampa vis galingesnės, todėl ateityje sukurti dar daugiau ligų sukėlėjų bus lengviau.
3. Pažangumas
Intelektas yra galingas. Nežymus problemų sprendimo ir grupės koordinavimo padidėjimas yra priežastis, kodėl likusios beždžionių rūšys neveikia. Šiuo metu jų egzistavimas priklauso nuo asmens priimtų sprendimų, o ne nuo to, ką jie daro.
Būti protingu yra tikras žmonių ir organizacijų meistriškumas, todėl daug pastangų skiriama tobulinti mūsų individualų ir kolektyvinį intelektą, pradedant narkotikais, siekiant pagerinti kognityvinius gebėjimus, ir baigiant kurti programas, susijusias su dirbtiniu intelektu.
Problema ta, kad intelektualinės sistemos gerai pasiekia savo tikslus, tačiau jei šie tikslai yra menkai apibrėžti, tada jie turi galimybę protingai panaudoti savo jėgas, kad pasiektų savo katastrofiškus tikslus. Nėra jokios priežasties manyti, kad pats intelektas gali priversti ką nors ar ką nors elgtis teisingai ir moraliai. Tiesą sakant, yra tikimybė, kad kai kurie superžvalgiųjų sistemų tipai nepaisys moralinių taisyklių, net jei jos būtų įmanomos.
Dar didesnį nerimą kelia tai, kad bandydami paaiškinti dirbtiniam intelektui, susiduriame su giliomis praktinėmis ir filosofinėmis problemomis. Žmogiškosios vertybės yra neaiškios, sudėtingos problemos, kurių dar negalime gerai apibrėžti, ir net jei galėtume, galbūt nesuprantame visų to, ką bandome sukurti, implikacijų.
Programine įranga pagrįstas intelektas gali labai greitai panaikinti spragą tarp žmonių, o mašinos galimybės gali tapti pavojingos. Problema ta, kad dirbtinis intelektas gali būti susietas su biologiniu intelektu įvairiais būdais: jis gali veikti greičiau greitesniuose kompiuteriuose, jo dalys gali būti daugiau kompiuterių, kai kurias jo versijas galima išbandyti ir atnaujinti skrendant. yra galimybė įvesti naujus algoritmus, kurie gali žymiai padidinti našumą.
Šiandien daugelis mano, kad „žvalgybos lūžis“yra tikėtinas, jei pačios programos turi pakankamai galimybių kurti geresnes programas. Jei atsiras toks šuolis, bus didelis skirtumas tarp išmaniosios sistemos (arba žmonių, sakančių, ką daryti) ir viso pasaulio. Tokia situacija gali sukelti nelaimę, jei tikslai nebus nustatyti teisingai.
Neįprastas superžvalgybos dalykas yra tas, kad mes nežinome, ar įmanomas greitas ir galingas proveržis plėtojant intelektą: galbūt dabartinė mūsų civilizacija tobulėja pati greičiausiai. Tačiau yra pakankamas pagrindas manyti, kad kai kurios technologijos tam tikrus dalykus gali judėti į priekį daug greičiau, nei galimybės pagerinti jų kontrolę šiuolaikinėje visuomenėje.
Be to, mes dar negalime suprasti, kiek pavojingos gali būti kai kurios superžvalgybos formos ir kaip veiks švelninimo strategijos. Labai sunku spėlioti apie ateities technologijas, kurių dar neturime, ar intelektą, pranokstantį tai, ką turime. Tarp išvardytų rizikų būtent tai turi daugiausiai galimybių tapti išties dideliu mastu arba likti tik miražu.
Apskritai ši sritis dar nėra pakankamai ištirta, kas stebina. Net 5–6 dešimtmetyje žmonės buvo visiškai įsitikinę, kad superžvalgyba gali būti sukurta „kartos eigoje“, tačiau tuo metu saugumo klausimams nebuvo skiriama deramo dėmesio. Galbūt žmonės paprasčiausiai nežiūrėjo į savo prognozes rimtai ir, greičiausiai, laikė tai problema tolimoje ateityje.
4. Nanotechnologijos
Nanotechnologijos yra susijusios su medžiagos valdymu atominiu ar molekuliniu tikslumu. Pats savaime tai nėra pavojinga ir, priešingai, gali būti labai gera žinia daugeliui naudojimo būdų. Problema ta, kad, kaip ir biotechnologijose, augančios galimybės taip pat padidina piktnaudžiavimo galimybę, nuo kurios labai sunku apsiginti.
Didžioji problema yra ne pagarsėjęs „pilkas gaudymasis“, kai viską suryja pačios dauginančios nanomachinos. Tam reikės sukurti labai sudėtingus įrenginius. Sunku sukurti mašiną, kuri galėtų atkurti save: biologija, pagal apibrėžimą, yra geresnė atliekant šią užduotį. Galbūt kai kurie maniakai sugebės tai padaryti, tačiau ant destruktyvių technologijų medžio yra labiau prieinamų vaisių.
Akivaizdžiausia rizika yra ta, kad automatinė tikslioji gamyba yra ideali vieta pigiai gaminant tokius dalykus kaip ginklai. Pasaulyje, kuriame daugelis vyriausybių turės galimybę „atspausdinti“daugybę autonominių ar pusiau autonominių ginklų sistemų (įskaitant galimybę padidinti jų gamybą), ginklavimosi varžybos gali tapti labai intensyvios - dėl to padidėja nestabilumas, todėl gali būti labai viliojanti pradėti pirmąjį streiką iki to momento, kai priešas gauna didelį pranašumą.
Ginklai taip pat gali būti labai mažo dydžio ir labai tikslūs: jie gali būti „protingi nuodai“, galintys veikti ne tik kaip nervinės dujos, bet ir pasirinkti jų aukas, arba visur esančios mikro robotai (gnatbotai), miniatiūrinės stebėjimo sistemos, kad gyventojai būtų paklusnūs. - visa tai visai įmanoma. Be to, branduoliniai ginklai ir klimatą veikiantys įrenginiai gali patekti į įsibrovėlių rankas.
Negalime įvertinti būsimos nanotechnologijos keliamos egzistencinės rizikos tikimybės, tačiau, matyt, jos gali būti gana žalingos vien todėl, kad sugeba duoti viską, ko norime.
5. Paslaptingas nežinomas
Nerimą kelia tai, kad pasaulyje yra kažkas mirtino, bet mes nežinome, kas tai yra.
Tyla danguje gali tai įrodyti. Ar ateivių nėra dėl to, kad gyvenimas ir intelektas yra labai reti, ar dėl to, kad protingas gyvenimas yra linkęs sunaikinti? Jei yra būsimasis Didysis filtras, tai kitos civilizacijos turėjo tai pastebėti, bet ir tai nepadėjo.
Kad ir kokia būtų tokia grėsmė, tai būtų beveik neišvengiama, net jei žinotumėte apie jos egzistavimą, neatsižvelgiant į tai, kas esate ar koks esate iš tikrųjų. Mes nieko nežinome apie tokio pobūdžio grėsmę (nė viena iš aukščiau išvardytų grėsmių neveikia taip), tačiau jų gali būti.
Atkreipkite dėmesį, kad kažko nežinomo buvimas nereiškia, kad mes negalime to pagrįsti. Maxo Tegmarko ir Nicko Bostromo straipsnis parodė, kad tam tikros rizikos grupės santykis turėtų būti mažesnis nei vienas iš milijardo per metus, atsižvelgiant į santykinį Žemės amžių.
Tai gali jus nustebinti, kad klimato kaita ir meteorų poveikis nėra šiame sąraše. Klimato kaita, kad ir kokia šiurpi, vargu ar pavers visą planetą netinkama gyventi (tačiau tai gali sukelti papildomų grėsmių, jei mūsų gynyba pasirodys neveiksminga). Meteorai, žinoma, gali mus nuvalyti nuo Žemės paviršiaus, tačiau tokiu atveju turime būti labai dideli nevykėliai.
Paprastai tam tikras žinduolių tipas egzistuoja apie milijoną metų. Taigi pagrindinis natūralaus išnykimo lygis yra maždaug vienas iš milijono per metus. Tai yra žymiai mažesnė už branduolinio karo riziką, kuri praėjus 70 metų vis dar kelia didžiausią grėsmę mūsų tolesniam egzistavimui.
Prieinamumo euristika verčia pervertinti dažnai žiniasklaidoje aptariamą riziką ir sumenkinti riziką, su kuria žmonija dar nesusidūrė. Jei norime išlikti ir po milijono metų, turime šią situaciją ištaisyti.
Andersas Sandbergas
Populiarusis mokslas