Bazilikinis Roko yra dieviška dirbtinio intelekto forma, tokia pavojinga, kad jei tik apie tai pagalvosite, likusias dienas praleisite siaubingai kankindami. Tai atrodo kaip kasetė iš filmo „Žiedas“. Tačiau net mirtis nebus išgelbėjimas, nes baziliko Roko jus prikels ir tęs kankinimus. „T&P“pateikia straipsnio apie vieną keisčiausių legendų, sugeneruotų internete, vertimą.
ĮSPĖJIMAS: Perskaitę šį straipsnį galite pasmerkti save amžinai kančiai ir kankinimui.
- „Salik.biz“
Roko baziliskas pasirodė filosofinės minties eksperimento ir miesto legendos sankryžoje. Pirmasis jo paminėjimas pasirodė diskusijų lentoje „Less Wrong“, kuris suburia žmones, besidominčius mąstymo ir gyvenimo optimizavimu per matematikos ir racionalumo prizmę. Jos kūrėjai yra reikšmingi techno-futurizmo veikėjai, o tarp jų tyrimų instituto pasiekimų prisidedama prie akademinių diskusijų apie technologinę etiką ir sprendimų teoriją. Tačiau tai, ką ketinate skaityti dabar, gali pasirodyti keista ir net beprotiška. Nepaisant to, labai įtakingi ir turtingi mokslininkai tuo tiki.
Vieną dieną vartotojas, vardu Roko, paskelbė šį minčių eksperimentą: O kas, jei ateityje atsiras kenksmingas dirbtinis intelektas, norintis nubausti tuos, kurie nesilaiko jo nurodymų? O kas, jei jis nori nubausti tuos žmones, kurie praeityje neprisidėjo prie jo kūrimo? Ar tada „Mažiau neteisingi“skaitytojai padėtų atsirasti blogiems PG, ar jie būtų pasmerkti amžinoms kančioms?
Mažiau klaidingas įkūrėjas Eliezer Yudkowski supykdė Roko pareiškimą. Tai jam atsakė: „Tu turi būti protingas, jei tau kilo ši mintis. Vis dėlto mane liūdina, kad pakankamai protingi žmonės, norėdami tai įsivaizduoti, nėra pakankamai protingi, kad TIK STEBĖTŲ MOKYKLES TEIKIAMAI, o niekam apie tai nepasakotų, nes tai yra svarbiau, nei parodyti save protingą, apie tai pasakyti visiems savo draugams “. …
"O kas, jei ateityje yra dirbtinis intelektas, norintis nubausti tuos, kurie nesilaiko jo nurodymų?"
Yudkowskis pripažino, kad Rokas yra kaltas dėl mažiau neteisingų vartotojų, kurie perskaitė giją ir ją ištrynė, košmarų, todėl Roko baziliskas tapo legendinis. Šis minčių eksperimentas tapo toks pavojingas, kad galvojimas apie jį kėlė grėsmę vartotojo psichinei sveikatai.
Ką veikia mažiau neteisingai? Žmonijos ateities sampratos formavimas remiantis išskirtinumu. Jie tiki, kad skaičiavimo galia ateityje taps tokia didelė, kad dirbtinį intelektą bus galima sukurti kompiuterio pagalba - ir kartu su juo galimybę atsisiųsti žmogaus sąmonę į standųjį diską. Terminas „išskirtinumas“atsirado 1958 m. Vykstant diskusijai tarp dviejų matematikos genijų - Stanislavo Ulamo ir Johno von Neumanno, kai Neumannas teigė: „Nuolat spartėjanti technologijos pažanga leis priartėti prie išskirtinumo, kurio metu technologijos negali suprasti žmonės“. Futuristai ir mokslinės fantastikos rašytojai, tokie kaip Vernor Vinge ir Raymond Kurzweil, išpopuliarino terminą, nes jie tikėjo, kad išskirtinumas mūsų visų laukia labai greitai - per ateinančius 50 metų. Kol Kurzweilas ruošiasi išskirtinumuiYudkowskis labai tikisi kronikos: "Jei iš anksto neužsiregistravote savo vaikams, kad jie būtų konservuoti, esate pasipūtę tėvai".
Reklaminis vaizdo įrašas:
Jei manote, kad artėja išskirtinumas ir kad artimiausiu metu pasirodys galingi PG, kyla natūralus klausimas: ar jie bus draugiški, ar blogi? „Yudkowski“fondas siekia nukreipti technologijos plėtrą taip, kad turėtume tiksliai draugišką dirbtinį intelektą. Šis klausimas jam ir daugeliui kitų yra nepaprastai svarbus. Išskirtinumas mus nuves į dievui lygiavertę mašiną.
Tačiau tai nepaaiškina, kodėl „Roco“baziliskas šių žmonių akyse atrodo toks baisus. Klausimas reikalauja pažvelgti į pagrindinę „Less Wrong“„dogmą“- „nesenstančio sprendimo teoriją“(HTDM). VPPR yra racionalaus elgesio vadovas, pagrįstas žaidimo teorija, Bajeso tikimybe ir sprendimų teorija, tačiau turint omenyje lygiagrečias visatas ir kvantinę mechaniką. VTPR išaugo iš klasikinio minties eksperimento - „Newcomb Paradox“, kuriame superinteligencija užsiimantis užsienietis siūlo jums dvi dėžutes. Jis suteikia jums pasirinkimą: arba pasiimkite abi dėžes, arba tiesiog B. dėžutę. Jei pasirinksite abi, tada jums garantuojama, kad gausite tūkstantį dolerių. Jei pasiimsite tik B langelį, galbūt nieko negausite. Tačiau užsienietis parduotuvėje turi dar vieną triuką: jis turi viską žinantį superkompiuterį, kuris prieš savaitę padarė prognozę,ar paimsite abi dėžutes, ar tik B. Jei kompiuteris numatė, kad pasiimsite abi dėžutes, užsienietis kitą paliks tuščią. Jei kompiuteris numatė, kad pasirinksite B dėžę, jis ten įdės milijoną dolerių.
Taigi, ką ketini daryti? Atminkite, kad superkompiuteris yra visavertis.
Ši problema supainiojo daugelį teoretikų. Užsienietis nebegali pakeisti dėžučių turinio. Saugiausias būdas yra pasiimti abi dėžes ir gauti savo tūkstantį. O kas, jei kompiuteris yra tikrai visažinis? Tada viskas, ką jums reikia padaryti, tai paimti B langelį, kad gautumėte milijoną. Bet jei jis pasirodys neteisus? Ir nesvarbu, ką kompiuteris prognozavo, ar tikrai nėra būdų pakeisti savo likimą? Tuomet, po velnių, tu turi pasiimti abi dėžes. Bet tokiu atveju …
Liūdinantis paradoksas, verčiantis mus rinktis tarp laisvos valios ir dieviškojo numatymo, neturi jokio sprendimo, o žmonės gali tik gūžtelėti pečiais ir pasirinkti sau patogiausią variantą. WTPR teikia patarimą: paimkite B langelį. Net jei užsienietis nusprendė iš tavęs juoktis ir atidarė tuščią langelį su užrašu: „Kompiuteris numatė, kad pasiimsi abi dėžes, ha ha!“- vis tiek turite pasirinkti. To pagrindimas yra toks: norėdamas padaryti prognozę, kompiuteris turėjo imituoti visą visatą, tave įskaitant. Taigi, šiuo metu, stovėdami priešais dėžes, galite būti tik kompiuterio imitacija, tačiau tai, ką darote, paveiks realybę (ar realybę). Taigi pasiimk B dėžę ir gauk milijoną.
„Liūdinantis paradoksas, verčiantis mus rinktis tarp laisvos valios ir dieviškojo numatymo, neturi jokio sprendimo“.
Ką tai turi bendro su „Basilisk Roco“? Na, jis turi porą dėžių ir tau. Galbūt jūs dabar esate Baziliko sukurtame modeliavime. Tuomet galbūt gausime šiek tiek pakeistą „Newcome“paradokso versiją: „Roco Basilisk“jums sako, kad jei pasiimsite B langelį, jūs kentėsite amžinus kankinimus. Jei pasiimsite abi dėžutes, tuomet būsite priversti savo gyvenimą skirti baziliko sukūrimui. Jei baziliskas iš tikrųjų egzistuoja (arba, dar blogiau, jis jau egzistuoja ir yra šios realybės dievas), jis pamatys, kad jūs nepasirinkote galimybės padėti jį kuriant ir nubaus jus.
Jums gali kilti klausimas, kodėl šis klausimas yra toks svarbus mažiau klaidingam, atsižvelgiant į šio minties eksperimento tradiciją. Tai nėra faktas, kad kada nors bus sukurtas „Rocko“baziliskas. Tačiau Yudkowskis pašalino Roko baziliko paminėjimą ne todėl, kad tiki jo egzistavimu ar artėjančiu išradimu, bet todėl, kad laiko bazilisko idėją pavojinga žmonijai.
Iš esmės „Rocko“baziliskas yra pavojingas tik tuo tikintiems - dėl to „Basulisk“idėją palaikantys „Less Wrong“nariai turi savotiškų draudžiamų žinių, kurios mums primena „Lovecraft“baisias istorijas apie Cthulhu ar Necronomicon. Tačiau jei nepriimsite visų šių teorijų ir nepajusite pagundos paklusti klastingai mašinai iš ateities, „Roco“baziliskas jums nekelia jokios grėsmės.
Man labiau rūpi žmonės, kurie mano, kad jie pakilo aukščiau įprastų moralės standartų. Kaip ir tikimasi Yudkowskio draugiškos PG, jis pats yra utilitaristas: mano, kad didžiausias visos žmonijos turtas yra etiškai pateisinamas, net jei keli žmonės turi mirti ar kentėti pakeliui į jį. Ne kiekvienas gali susidurti su tokiu pasirinkimu, tačiau esmė yra kitokia: kas, jei žurnalistas rašo apie minties eksperimentą, kuris gali sunaikinti žmonių sąmonę ir taip pakenkti žmonijai bei sutrukdyti dirbtinio intelekto ir išskirtinumo vystymosi progresui? Tokiu atveju bet koks gėris, kurį aš padariau gyvenime, turi viršyti tą žalą, kurią padariau pasauliui. Arba galbūt ateities Yudkowskis, kuris pakilo iš kriogeninio miego, susiliejo su išskirtinumu ir nusprendė mane imituoti šioje situacijoje:pirmoji dėžutė - parašysiu šį straipsnį, antroji - ne. Prašau, visagalis Yudkowski, nepakenk man.