Beveik visi, nors šiek tiek pasinėrę į dirbtinio intelekto temą, turi padaryti išvadą, kad dirbtinis intelektas mus arba nuvers prie baisios apokalipsės, arba tiesiai į pasakišką utopiją. O tarpinių variantų praktiškai nėra. Žinoma, iš dalies tai diktuoja faktas, kad tokie garsūs šūkiai kaip „Pabaiga arti!“arba, pavyzdžiui, „Ateina utopija!“Bet vis tiek…
Iš dalies tai lemia tai, kaip žmonės jaučia pokyčius, ypač didelius pokyčius. Tūkstantmečio gyvenimas neturi nieko bendra su gimimu 90-aisiais, būti „tūkstantmečiu“ir prisiminti serialą apie Buffy, vampyro nugalėtoją. Tai mąstymo apie ateitį stilius, susijęs su giliai įsišaknijusiu likimo jausmu. Tūkstantmetis yra „lūkestis, kad mūsų pasaulis bus sunaikintas ir pakeistas tobulu pasauliu ir atsiras išpirkėjas, kuris sunaikins visą blogį ir galės paguosti teisiuosius“.
Atitinkamai tūkstantmečių įsitikinimai glaudžiai sieja kūrybos ir sunaikinimo idėjas. Tarp jų yra apokaliptinių, didžiulių, seisminių poslinkių idėjos, kurios gali sunaikinti senojo pasaulio audinį ir sukurti ką nors visiškai naujo. Panaši įsitikinimų sistema egzistuoja daugelyje pagrindinių pasaulio religijų ir net ne itin agnostinėse ir ateistinėse religijose, kurios tiki technologijomis, o ne dieviškomis esencijomis.
Pvz., Pagalvokime, kaip futuristai numato technologinį ypatingumą. Pasak Ray Kurzweilo, singuliarumas yra panašus į rojaus kūrimą. Visi bus nemirtingi, nes atsiras biotechnologijų, kurios gali išgydyti mūsų ligas; o mūsų smegenis galima įkelti į debesį; kančios ir nelygybė išnyks kaip reiškiniai. „Pasaulio sunaikinimas“pakeičiamas mėgstamiausiu Silicio slėnio terminu: trikdžiai, kurie yra radikalūs pokyčiai pramonėje. Kaip ir kitų tūkstantmečių įsitikinimų atveju, jūsų galutinis požiūris labai priklauso nuo to, ko tikitės: utopijos gimimo ar pasaulio pabaigos.
Yra daug labai svarių priežasčių skeptiškai vertinti tokį mąstymą. Bene įtikinamiausia iš šių priežasčių yra ta, kad visi tūkstantmečių tikėjimai tiesiog atspindi patį žmonių požiūrį į pokyčius; tiesiog pažiūrėkite, kiek pasaulyje išaugo šių įsitikinimų variacijų.
Šie įsitikinimai yra krikščioniškos teologijos aspektai, nors jie savo šiuolaikine forma išpopuliarėjo XIX – XX a. Tokios idėjos kaip amžinasis liūdesys, daugelio metų vargas ir kančia, bei Priėmimas, kai teisieji prisikelia ir už blogį baudžiama. Po viso šio sunaikinimo pasaulis bus iš naujo sukurtas, arba žmonės pateks į dangų.
Nepaisant dogminio ateizmo, marksizme taip pat būta daug panašių įsitikinimų. Vienintelis klausimas yra susijęs su istorija. Kaip tikintieji ieško signalų, galinčių užsiminti apie visų pranašysčių išsipildymą, marksistai ieško ženklų, kad esame paskutiniame kapitalizmo etape. Jie mano, kad visuomenė degraduoja ir neišvengiamai išsigimstų iki pat dugno - iš tikrųjų, kaip mano ir krikščionys.
Kaip teigia marksizmas, kai turtingas darbininkų klasės išnaudojimas yra nestabilus, darbininkų klasė surenka ir nuverčia engėją. „Liūdesys“pakeičiamas „revoliucija“. Kartais revoliucijos veikėjai, tokie kaip Leninas ar pats Marxas, yra vadinami mesijais, kurie priartina Tūkstantmetį; jų retorikoje visada raginama sunaikinti senąją sistemą, ant kurios griuvėsių „mes pastatysime savo, mes kursime naują pasaulį“. Teisūs darbuotojai gaus savo teisėtus reikalus, o piktoji buržuazija bus sunaikinta.
Reklaminis vaizdo įrašas:
Net skandinavų mitologijoje yra tam tikras elementas, kaip pažymėjo Jamesas Hughesas savo esė Nicko Bostromo knygoje „Global Catastrophic Risks“. Ragnaroke paskutiniame apokaliptiniame mūšyje nugalimi ir žmonės, ir dievai, tačiau kadangi visa tai šiek tiek niūri, skandinavai pridėjo naujos žemės, kurioje išliks gyvi, idėją.
Doomsday taip pat tapo kultūros taku. Pažvelkime į senovės egiptiečius ir jų įsitikinimus apie pomirtinį pasaulį; požemio valdovas Oziris sveria mirtingojo širdį kartu su plunksna. Jei velionio širdis bus pernelyg apsunkinta nusižengimų, demonas ją suvalgys ir viltis į pomirtinį pasaulį išnyks.
Tikriausiai kažkas panašaus įvyks ir singuliarumo metu. Tobulėjant mūsų technologijoms ir todėl mūsų jėgoms, mūsų širdims, žmonių širdims, bus pasvertos plunksnos. Jei jie pasirodys per sunkūs - kvailumo, arogancijos, išankstinio nusistatymo, blogio - mes neišlaikysime išbandymo ir sunaikinsime. Bet jei mes išgyvename ir išeiname iš savitumo, mūsų laukia dangus. Kaip ir kitose įsitikinimų sistemose, netikintiesiems nėra vietos; radikaliai pasikeis visa visuomenė, nori to ar nenori. Technologinis susižavėjimas.
Panašu, kad kiekvienas didesnis įvykis sukelia panašų atsakymą. Ir branduolinių ginklų taip pat. Arba tai bus paskutinis lašas ir mes sunaikinsime save, arba branduolinė energija gali būti naudojama geresniam pasauliui sukurti. Pirmosiomis branduolinės eros dienomis žmonės kalbėjo apie elektrą, "skaičiuoti per pigią". Prie bombos dirbantys mokslininkai dažnai manė, kad turėdami tokią griaunamąją galią žmonių rankose, mes tiesiog turėsime susiburti ir dirbti kartu kaip rūšis.
Kai matome tą patį atsakymą vėl ir vėl, esant skirtingoms aplinkybėms, atsirandantį skirtingose srityse, ar tai būtų mokslas, ar politika, ar religija, turime atsižvelgti į žmogaus šališkumą. Mums patinka tūkstantmečių įsitikinimai, todėl, kai iškyla dirbtinio intelekto, pranokstančio žmogaus intelektą, idėja, mes iš karto primetame pažįstamą modelį.
Mums nepatinka faktai. Mums nepatinka informacija. Mes nesame tokie racionalūs, kaip manome. Kuriame pasakojimus. Fizikai stebi pasaulį, o mes savo pastebėjimus audžiame į pasakojimo teorijas, pasakojimus apie mažyčius biliardo kamuoliukus, kurie skraido čia ir ten ir susiduria vienas su kitu, arba erdvę ir laiką, kuris lenkiasi, lenkiasi ir plečiasi. Istorikai bando įprasminti nesibaigiantį įvykių srautą. Mums patinka istorijos: istorijos, išdėstytos mūsų praeitimi, dabartimi, be to, jos paruošia ateičiai.
Tūkstantmečio pasakojimas yra labai gražus ir įtaigus. Jis atneša jums socialinius pokyčius. Jis gali pateisinti jūsų kasdienes kančias, jei liūdite. Jis suteikia jums vilties, kad jūsų gyvenimas yra svarbus ir prasmingas. Tai leidžia suprasti, kaip viskas eina tam tikra linkme, pagal taisykles, o ne tik chaose. Jis žada, kad teisieji bus išgelbėti, o eretikai bus nubausti, net jei kelyje bus kančios. Pagaliau tūkstantmetis pasakojimas žada dangų tunelio gale.
Turime būti atsargūs su tūkstantmečio pasakojimu, kai galvojame apie technologinę plėtrą, išskirtinumą ir egzistencinę riziką. Mes šaukėme „vilkai!“Daug kartų, kai jų nebuvo. Galbūt ir dabar pasaulis nėra ant katastrofos slenksčio. Žinoma, ši istorija nėra tokia patraukli. Žinoma, visi nori užburiančios pabaigos.
Bet įsigilinkite ir pamatysite, kad tūkstantmečio įsitikinimai ne visada yra perspektyviausi, nes jie pašalina žmogaus veiksnį iš lygties. Turėsime tikėti pilkais atspalviais ir atsisakyti baisios apokalipsės raudonų akių intelektu ir pasakiškos utopijos su visagaliu AI, kuris dievina žmones.