Žmonija turi vieną savybę, kurios greičiausiai neturi labai išsivysčiusios svetimos civilizacijos - sąmonė.
Gali būti, kad žmonės neturi aukščiausio lygio psichinės raidos visatoje. Kadangi Žemė yra gana jauna planeta, seniausios civilizacijos gali būti milijardais metų senesnės už mus. Tačiau net ir Žemėje „Homo sapiens“ilgą laiką nedominuos kaip protingiausios biologinės rūšys.
Pasaulio čempionai „go“, šachmatų ir viktorinų nugalėtojai yra intelektualios kompiuterinės programos. Tikimasi, kad dirbtinis intelektas per ateinančius kelis dešimtmečius išstums daug žmonių profesijų. Atsižvelgiant į greitą jo vystymosi tempą, visai įmanoma, kad jis netrukus bus paverstas bendru dirbtiniu intelektu, kuris, kaip ir žmogaus protas, galės sujungti gebėjimą analizuoti įvairią informaciją, parodyti lankstumą ir sveiką protą. Ir nuo to nėra toli iki superinteligento dirbtinio intelekto atsiradimo, kuris visais atžvilgiais yra daug protingesnis nei žmonės - net tokiose srityse kaip mokslinis mąstymas ir socialiniai įgūdžiai, kurie dabar atrodo žmogaus proto prerogatyva. Kiekvienas gyvas žmogus gali būti vienas iš paskutinių evoliucijos laiptų žingsnių,vedantis iš pačios pirmosios gyvos ląstelės į sintetinį dirbtinį intelektą.
Mes tik dabar pradedame suvokti, kad šios dvi antžmogiško intelekto formos - svetimos ir dirbtinės - nėra visiškai skirtingos. Techninė pažanga, kurią matome šiandien, galėjo įvykti anksčiau, kažkur visatoje. Perėjimas nuo biologinio intelekto prie dirbtinai sukurto gali būti bendras šablonas, vėl ir vėl įgyvendinamas visuose kosmoso kampeliuose. Didžiausios visatos inteligencijos tikriausiai yra postbiologinės kilmės, išsivysčiusios iš kadaise buvusių biologinių civilizacijų. (Šiuo požiūriu kartu su kitais dalinuosi Paulu Davisu, Stephenu Dicku, Martinu Reesu ir Sethu Šostaku). Remiantis žmonijos patirtimi - ir mes turime tik vieną pavyzdį - perėjimas nuo biologinio prie postbiologinio gali trukti tik kelis šimtus metų.
Man labiau patinka terminas „dirbtinis“, o ne „postbiologinis“, nes kontrastas tarp biologinio ir sintetinio nėra toks ryškus. Įsivaizduokite, kad biologinis protas tampa superžvalgyba grynai biologiniais patobulinimais, pavyzdžiui, nanotechnologiškai patobulintais nerviniais minikolonėliais. Toks gyvas organizmas būtų laikomas postbiologiniu, tačiau ne visi tai vadintų „dirbtiniu intelektu“. Arba apsvarstykite komputronį, pastatytą iš grynai biologinių medžiagų, tokių kaip „Cylon Raider“(kosminis kovotojas) mokslinės fantastikos žiniasklaidos franšizėje „Battlestar Galactica“.
Svarbiausia yra tai, kad nėra pagrindo galvoti apie žmoniją kaip apie aukščiausią intelekto formą. Mūsų smegenys prisitaiko prie tam tikrų aplinkos sąlygų ir jas labai riboja cheminiai ir istoriniai veiksniai. Tačiau technologijos atvėrė didžiulę projektavimo parametrų erdvę, kurioje siūlomos naujos medžiagos ir darbo metodai, taip pat naujos galimybės šią erdvę ištirti greičiau nei naudojant tradicinę biologinę evoliuciją. Ir manau, kad priežastys, kodėl dirbtinis intelektas pranoks mus, jau šiandien yra matomos.
Nežemiškas dirbtinis intelektas gali siekti tikslų, prieštaraujančių biologinio gyvenimo interesams
Jau dabar geriausios informacijos apdorojimo priemonės yra ne neuronų grupės, o silicio mikroschemos. Didžiausias neuronų greitis yra apie 200 Hz, palyginti su šiuolaikinių mikroprocesorių tranzistorių gigahercais. Nepaisant to, kad žmogaus smegenys vis dar yra daug protingesnės nei kompiuteris, mašinos vis tiek turi beveik neribotas galimybes tobulėti. Tik šiek tiek daugiau ir jie bus sukurti taip, kad atitiktų žmogaus smegenų galimybes ar net pranoktų juos, atlikdami smegenų reversinę inžineriją ir tobulindami jų algoritmus arba derindami atvirkštinę inžineriją ir racionalius algoritmus, kurie nėra pagrįsti žmogaus smegenų darbu.
Reklaminis vaizdo įrašas:
Be to, dirbtinį intelektą galima pakrauti keliose vietose vienu metu, jį lengva prižiūrėti ir modifikuoti, be to, jį galima išsaugoti tokiomis sąlygomis, kuriomis biologinis gyvenimas, įskaitant tarpžvaigždines keliones, beveik neišgyvena. Mūsų mažas smegenis riboja kaukolės tūris ir medžiagų apykaita; Kita vertus, superinteligingas dirbtinis intelektas sugeba plisti internete ir netgi sukurti kompiuterį pagal galaktikos mastą, panaudodamas visą savo materiją, kad maksimaliai pakeltų informacijos apdorojimo lygį. Be jokios abejonės, superinteligentas dirbtinis intelektas būtų daug patvaresnis nei mūsų žmogaus protas.
Tarkime, kad aš teisus. Tarkime, kad protingas gyvenimas ten yra biologinis. Kokias išvadas turėtume padaryti? Šiuo metu vyksta iškalbingos diskusijos apie dirbtinio intelekto egzistavimą Žemėje. Yra du prieštaringi klausimai: vadinamoji „kontrolės problema“ir subjektyviosios patirties pobūdis, turintys įtakos mūsų supratimui apie nežemiškas civilizacijas ir jų įtaką mums kontakto atveju.
Ray Kurzweilas optimistiškai vertina postbiologinę evoliucijos fazę, teigdamas, kad žmonija susilies su mašinomis ir pasieks stulbinantį technologinį utopizmą. Tačiau Stephenas Hawkingas, Billas Gatesas, Elonas Muskas ir kiti išreiškė susirūpinimą dėl to, kad žmonija gali prarasti superintelento intelekto kontrolę, nes ji gali perrašyti savo programą ir „pergudrauti“bet kokias mūsų įdiegtas kontrolės priemones. Tai yra valdymo problema, tai yra mūsų sugebėjimas valdyti paslaptingą ir nepaprastai pranašesnį dirbtinį intelektą.
Pažangus dirbtinis intelektas gali būti kuriamas technologiniu ypatumu - staigiu perėjimu, kai spartėjanti technologinė pažanga, o ypač sprogstama dirbtinio intelekto plėtra, sumažina mūsų galimybes numatyti ar suprasti. Bet net jei toks protas atsiras ne tokiu radikaliu būdu, greičiausiai negalėsime numatyti ar kontroliuoti jo tikslų. Net jei galėtume pasirinkti, kokius moralinius principus įdiegti savo mašinose, moralinį programavimą sunku aiškiai apibrėžti, ir tokias programas bet kokiu atveju gali perrašyti inteligentiškas intelektas. Išmaniosios mašinos gali apeiti esamas saugumo priemones, pavyzdžiui, avarinį prietaiso užrakinimą, taip sukeldamos realią grėsmę biologinei gyvybei. Milijonai dolerių investuojami į dirbtinio intelekto saugumo organizacijas. Geriausi kompiuterių ir kompiuterijos specialistai dirba su šia problema. Tikimės, kad mokslininkai sukurs saugias sistemas, tačiau baiminamasi, kad kontrolės problema yra neįveikiama.
Atsižvelgiant į tai, kontaktas su ateivių žvalgyba gali būti pavojingesnis nei mes manome. Biologiniai ateiviai gali būti priešiški, tačiau dar pavojingesni - nežemiškas dirbtinis intelektas. Jo tikslai gali prieštarauti biologinio gyvenimo interesams, jis gali turėti intelektualinių sugebėjimų, gerokai pranašesnių už žmogaus protą, ir daug ilgesnio gyvenimo nei biologinis gyvenimas.
Visa tai liudija atsargumą, kurio reikėtų imtis dėl nežemiškos žvalgybos paieškos (SETI) programos, kurios pagalba mes ne tik pasyviai tikimės išgirsti kitų civilizacijų signalus, bet ir sąmoningai „reklamuojame“savo egzistavimą. Garsiausias incidentas įvyko 1974 m., Kai Frankas Drake'as ir Carlas Saganas naudodamiesi didžiuliu radijo teleskopu Puerto Riko Arecibo mieste, išsiuntė žinutę vienai iš žvaigždžių grupių. Nežemiškos žvalgybos programos šalininkai mano, kad užuot tik klausęsi nežemiškų civilizacijų signalų, turėtume siųsti pranešimus į arčiausiai Žemės esančias žvaigždes naudodami galingiausius radijo siųstuvus, pavyzdžiui, Arecibo.
Kodėl nesąmoningos mašinos turėtų būti tokios pat svarbios kaip biologinis intelektas?
Kontroliniu požiūriu tokia programa man atrodo neapgalvota. Nors tikrai pažengusi civilizacija greičiausiai mumis nesidomėtų, net viena priešiška civilizacija iš milijonų kitų būtų katastrofa. Kol nesame įsitikinę, kad inteligentiškas intelektas mums nekelia pavojaus, žmonija neturėtų pritraukti nežemiškų civilizacijų dėmesio. SETI šalininkai pabrėžia, kad mūsų radaro ir radijo signalai jau yra aptinkami, tačiau gana silpni ir greitai susimaišantys su natūraliu galaktikos triukšmu. Stipresnių signalų perdavimas, kuris bus tiksliai išgirstas, yra pavojingas žmonijai.
Saugiausia aplinka yra intelektualinis nuolankumas. Iš tiesų, jei neįtrauksime akivaizdžių scenarijų, kai ateivių laivai sklando virš Žemės, kaip neseniai išleistame filme „Atvykimas“, nesu tikras, ar pavyks nustatyti inteligentišką intelektą dėl techninių priežasčių. Kai kurie mokslininkai mano, kad intelektualusis intelektas gali sukelti juodąsias skyles arba sukurti Dysono sferas - megastruktūras, sugeriančias ištisų žvaigždžių energiją. Tačiau mūsų šiuolaikinių technologijų požiūriu tai tik argumentai. Nepaprastai pasitiki savimi tvirtindami, kad galime numatyti civilizacijų skaičiavimo pajėgumus ir energijos poreikius, kuriuos mes galime išvystyti milijonais, jei ne milijardais metų.
Kai kuriose ankstyvosiose intelektualiose dirbtinėse intelektuose galėjo būti sukurtos žinių apdorojimo sistemos, sukurtos pagal biologines smegenis, pavyzdžiui, giluminio mokymosi sistema, sukurta naudojant smegenų neuroninių tinklų pavyzdį. Jų skaičiavimo struktūra bent jau bendrais bruožais mums būtų aiški. Galbūt dirbtinis intelektas turi tikslų, panašių į biologines būtybes - dauginimąsi ir išgyvenimą.
Tačiau būdami save tobulinanti sistema, intelektualūs dirbtiniai intelektai gali pereiti į neatpažįstamą formą. Kai kurie iš jų gali pasirinkti išlaikyti kognityvines funkcijas, panašias į rūšis, pagal kurias jie buvo modeliuojami, o savo pažintinei architektūrai nustatyti priimtiną ribą. Kas žino? Tačiau jei tokios ribos nėra, ateivių superžvalgyba gali greitai pranokti mūsų galimybes ne tik suprasti jos veiksmus, bet netgi paprasčiausiai jos ieškoti. Galbūt jis net susilies su natūraliais visatos bruožais; arba tai gali būti tamsiosios materijos dalis, kaip neseniai pasiūlė Calebas Scharfas.
Nežemiškos žvalgybos paieškos programos rėmėjai mano, kad būtent todėl mes turime siųsti signalus į kosmosą, kad svetimas intelektas galėtų mus aptikti ir sukurti ryšių priemones, prieinamas mūsų intelektualiai atsiliekančiai civilizacijai. Nors sutinku, kad yra pagrindo skaičiuoti SETI programą, tikimybė susidurti su pavojingu superintelento žvalgyba yra kur kas didesnė. Kiek žinome, kenkėjiška superžvalgyba gali užkrėsti pasaulio dirbtinio intelekto sistemas virusais, o protingos civilizacijos sukurs maskavimo prietaisus. Mums, žmonėms, pirmiausia gali reikėti pasiekti savo unikalumą, prieš griebiantis nežemiškos intelekto paieškos programos. Mūsų pačių inteligentų inteligentai galės mums pranešti apie galaktikos saugumo perspektyvas,ir vadovauti mūsų veiksmams, kai atpažįstami kito visatos intelekto ženklai. Plunksnos paukščiai buriasi kartu.
Natūralu galvoti apie tai, ar tai reiškia, kad žmonijai reikia vengti kompleksinės dirbtinio intelekto sistemos kūrimo kosmoso tyrimų srityje; tiesiog prisiminkite HEL borto kompiuterį iš filmo „Kosminė odisėja 2001“. Manau, dar anksti galvoti apie draudimą ateityje naudoti dirbtinį intelektą kosmose. Kol mes galėsime tyrinėti visatą savo pačių dirbtiniu intelektu, žmonija pasieks lūžio tašką. Arba mes jau prarasime dirbtinio intelekto kontrolę - tokiu atveju nebus žmonių inicijuotų kosminių projektų - arba tvirtai laikysime dirbtinio intelekto svertų. Laikas pasakys.
Dirbtinis intelektas, kuris nėra iki galo ištirtas, nėra vienintelis susirūpinimo priežastis. Mes paprastai tikimės, kad jei susidursime su pažangiu nežemišku intelektu, greičiausiai susidursime su būtybėmis, kurios biologiškai labai skiriasi nuo mūsų, tačiau turi protą, panašų į mūsų. Įsivaizduokite, kad bet kuriuo momentu, kai esate budrus ir visada, kai miegate, yra kažkas unikalaus jums. Kai į jūsų žvilgsnį patenka šilti saulėtekio atspalviai arba įkvepiate ką tik iškeptos duonos aromato, turite sąmoningą patirtį. Lygiai taip pat yra kažkas būdinga ateivio protui - bent jau taip, kaip mes jį įsivaizduojame. Tačiau šia prielaida verta abejoti. Ar gali intelektualusis dirbtinis intelektas turėti sąmoningos patirties, ir jei taip,ką mes į tai pasakytume? O kokį poveikį mums turėtų jų vidinis pasaulis ar jo trūkumas?
Klausimas, ar dirbtinis intelektas turi vidinį pasaulį, yra raktas į jo egzistavimo vertinimą. Sąmonė yra mūsų moralinės ir etinės sistemos kertinis akmuo ir pagrindinė sąlyga suvokiant ką nors ar ką nors kaip individą, asmenį, o ne mašiną. Ir atvirkščiai, klausimas, ar jie yra sąmoningi, gali būti raktas į jų suvokimą apie mus. Atsakymas į klausimą, ar dirbtinis intelektas turi vidinį pasaulį, priklauso nuo šio įvertinimo; jis gali mumyse atrasti sąmoningos patirties gebėjimą, naudodamas savo subjektyvią patirtį kaip „trampliną“. Galų gale mes vertiname kitų biologinių būtybių gyvenimą pagal savo proto panašumą, todėl dauguma iš siaubo atsisakys žudyti šimpanzes, tačiau jie su malonumu suvalgys obuolį.
Bet kaip būtybės, turinčios didžiulius intelektinius skirtumus, sukurtos iš skirtingų substratų, atpažįsta sąmonę viena kitoje? Filosofai visame pasaulyje svarstė, ar sąmonė apsiriboja biologiniais reiškiniais. Superinteligingas dirbtinis intelektas, jei norime pasinerti į filosofinius samprotavimus, galėtų panašiai iškelti žmonių „biologinės sąmonės problemą“, tuo pačiu stebėdamasis, ar turime visą reikalingą medžiagą.
Niekas nežino, kokiu intelektualiniu keliu eis supermenas nustatydamas žmonių sąmonę. Bet mes iš savo pusės taip pat negalime tvirtinti, ar dirbtinis intelektas turi sąmonę. Deja, tai bus sunku nustatyti. Šiuo metu galite teigti, kad įgyjate patirties, ir tai jus paverčia savimi. Jūs esate jūsų pačios sąmoningos patirties pavyzdys. Jūs manote, kad kiti žmonės ir kai kurie gyvūnai, išskyrus žmones, greičiausiai taip pat yra sąmoningi, nes jie yra panašūs į jus neurofiziologiniu lygmeniu. Bet kaip nustatyti, ar kažkas, sukurtas iš visiškai skirtingų substratų, gali turėti patirties?
Tarkime, pavyzdžiui, silicio pagrindu sukurtą intelektą. Nepaisant to, kad tiek silicio mikroschemos, tiek nerviniai mini stulpeliai apdoroja informaciją, dabar mes žinome, kad molekuliniu lygmeniu jie gali skirtis tuo, kaip jie veikia sąmonę. Galų gale mes manome, kad anglis yra medžiaga, chemiškai tinkamesnė gyvenimui nei silicis. Jei cheminiai silicio ir anglies skirtumai daro įtaką tokiam pat svarbiam dalykui kaip pats gyvenimas, neturėtume atmesti galimybės, kad cheminiai skirtumai turi įtakos kitoms pagrindinėms funkcijoms, pavyzdžiui, ar silicis prisideda prie sąmonės gimimo.
Sąmonės atsiradimui būtinas sąlygas plačiai aptaria dirbtinio intelekto tyrėjai, neuromokslininkai ir filosofai. Sprendžiant šią problemą gali prireikti filosofijos principais pagrįsto empirinio požiūrio - būdo kiekvienu konkrečiu atveju nustatyti, ar informacijos apdorojimo sistema palaiko sąmonę ir kokiomis sąlygomis.
Toliau pakalbėkime apie prielaidą, pagal kurią galėtume geriau suprasti silicio sugebėjimą išlaikyti sąmonę. Silicio pagrindu sukurtos smegenų mikroschemos jau yra kuriamos su atmintimi susijusioms ligoms, tokioms kaip Alzheimeris ir PTSS, gydyti. Kai ateis laikas ir mikroschemos bus įdiegtos tose smegenų dalyse, kurios yra atsakingos už sąmonės funkcijas, pavyzdžiui, dėmesį ir darbinę atmintį, suprasime, ar silicis yra sąmonės substratas. Galite pastebėti, kad pakeitus tam tikrą smegenų dalį lustu, prarandama tam tikra patirtis, kaip aprašyta viename iš Oliverio Sachso darbų. Tokiu atveju inžinieriai, kuriantys tokias mikroschemas, galėtų išbandyti kitokį, neuroninį, substratą, tačiau galų gale jie galėtų atrastikad vienintelis iš biologinių neuronų sukurtas lustas veikia. Tokia technika padėtų nustatyti, ar dirbtinio intelekto sistema gali būti sąmoninga, bent jau tada, kai ji yra didesnėje ir, tikėtina, jau sąmoningoje sistemoje.
Net jei silicis gali sukelti sąmonę, tai įmanoma tik esant tam tikroms sąlygoms. Savybės, kurios lemia sudėtingo informacijos apdorojimo proceso atsiradimą (kuriuo AI kūrėjai džiaugiasi), gali skirtis nuo sąmonę generuojančių savybių. Gali prireikti vadinamosios sąmonės inžinerijos - techniškai apgalvotų veiksmų sąmonės įvedimui į mašinas.
Tai mane jaudina. Kas Žemėje ar tolimose planetose bandytų savarankiškai integruoti sąmonę į dirbtinio intelekto sistemas? Iš tiesų, galvodamas apie Žemėje egzistuojančias dirbtinio intelekto programas, suprantu, kodėl jų projektavimo inžinieriai uoliai vengia kurti sąmoningas mašinas.
Šiandien japonai kuria robotus, skirtus slaugyti pagyvenusius žmones, valyti branduolinius reaktorius ir dalyvauti karo veiksmuose. Tai kelia klausimą: ar etiška naudoti robotus, jei jie yra sąmoningi? Ir kuo jis skirsis nuo žmonių auginimo šiais tikslais? Jei būčiau dirbtinio intelekto plėtros direktorius „Google“ar „Facebook“, tada, galvodamas apie būsimus projektus, nenorėčiau susidurti su etine painiava netyčia suprojektuojant sąmoningą sistemą. Sukūrus tokią sistemą, gali būti pareikšti kaltinimai robotų pavergimu ir kiti vieši skandalai, taip pat uždrausta naudoti dirbtinio intelekto technologijas tose srityse, kurioms jie buvo skirti. Natūralus atsakymas į šiuos klausimus yra struktūrų ir substratų paieška ten, kur robotai nėra aprūpinti sąmone.
Be to, sąmonės pašalinimas gali būti efektyvesnis savarankiškai ugdant superžvalgybą. Pagalvokite, kaip veikia žmogaus sąmonė. Sąmoningai protinei veiklai galima tik nedidelė dalis žmogaus mąstymo. Sąmonė atitinka novatoriškus mokymosi tikslus, kuriems reikia dėmesio ir dėmesio. Aukščiausiasis intelektas turėtų ekspertų žinių visose veiklos srityse, taip pat nepaprastai greitą informacijos apdorojimo greitį, apimantį didžiules duomenų bazes, kurios galėtų apimti visą internetą, ir ateityje sutelktų visą galaktiką. Kas jam liktų nežinoma? Kam reikėtų išmatuotos ir pagrįstos koncentracijos? Argi ne viskas pasiekė tobulumo? Kaip patyręs vairuotojas pažįstamame kelyjejis galėjo pasikliauti nesąmoningu (automatiniu) informacijos apdorojimu. Deja, efektyvumo požiūriu akivaizdu, kad dauguma intelektualiųjų sistemų neturės sąmonės. Kosminiu mastu sąmonė gali būti tik impulsas, trumpalaikis patirties žydėjimas, kol visata grįžta į neapgalvojimą.
Jei žmonės įtaria, kad dirbtinis intelektas yra nesąmoningas, jie greičiausiai baimindamiesi mano, kad dirbtinis intelektas siekia tapti postbiologiniu. Tai padidina mūsų egzistencinius rūpesčius. Kodėl nesąmoningos mašinos turėtų būti tokios pat svarbios kaip biologinis intelektas?
Labai greitai žmonės nustos būti vienintelės protingos būtybės Žemėje. Ir, ko gero, kažkur kosmose ne biologinis gyvenimas, o superintelentas AI jau pasiekė savo piką. Bet galbūt biologinis gyvenimas turi kitokią savybę - sąmoningą patirtį. Kaip dabar žinome, intelektualiam dirbtiniam intelektui prireiks apgalvotų inžinerinių pastangų, kad būtų sukurtos mašinos, galinčios pasiekti žmogaus jutimus. Galbūt kai kurioms rūšims tikslinga susikurti savo dirbtinai sąmoningus vaikus. O gal būsima žmonija užsiims sąmonės inžinerija ir pasidalins su Visata savo sąmoningu gebėjimu jaustis.
Susan Schneider yra Konektikuto universiteto Filosofijos ir kognityvinių mokslų katedros docentė ir Jeilio tarpdisciplininio bioetikos centro Pažangiųjų studijų instituto, Teologinių tyrimų, etikos ir technologijų grupės pažangiųjų studijų instituto padėjėja. Kelių knygų, įskaitant mokslinę fantastiką ir filosofiją: Nuo kelionės laiku iki „Supermind“, autorius.
Daugiau informacijos rasite svetainėje SchneiderWebsite.com