Kaip AI tyrinėtojas, aš dažnai susiduriu su nuomone, kad daugelis žmonių bijo AI ir kas tai gali tapti. Tiesą sakant, nenuostabu, jei žvelgdami iš žmonijos istorijos perspektyvos, atkreipdami dėmesį į tai, ką pramogų industrija mus maitina, žmonės gali bijoti kibernetinio maišto, kuris privers mus gyventi izoliuotose vietose, o kitus pavers „žmonių matricos tipo“tipo baterijomis. …
Ir vis dėlto man, žiūrint į visus šiuos evoliucinius kompiuterinius modelius, kuriuos naudoju AI kūrime, sunku pagalvoti, kad mano nekenksmingi padarai, švarūs kaip kūdikio ašaros, mano kompiuterio ekrane vieną dieną galėtų virsti futuristinės distopijos monstrais. Ar aš tikrai galiu būti vadinamas „pasaulių naikintoju“, kaip kažkada apgailestavo Oppenheimeris ir pasakė apie save po to, kai jis vedė branduolinės bombos kūrimo programą?
- „Salik.biz“
Galbūt sutikčiau su tokia šlove, o gal iš tikrųjų mano darbo kritikai yra teisūs? Gal tikrai turėčiau nustoti vengti klausimų, kokių baimių turiu dėl AI, kaip AI eksperto?
Nenuspėjamumo baimė
HAL 9000, mokslinės fantastikos rašytojo Arthuro Charleso Clarke'io svajonė, kurią atgaivino 2001 m. Filmo „Kosminė odisėja“režisierius Stanley Kubrickas, yra puikus sistemos, sudužusios dėl nenumatytų aplinkybių, pavyzdys.
Daugelyje sudėtingų sistemų - „Titaniko“, NASA šaudyklų ir Černobylio atominės elektrinės - inžinieriai turėjo derinti daugybę komponentų. Galbūt šių sistemų architektai gerai suprato, kaip kiekvienas jo elementas veikia atskirai, tačiau jie nepakankamai gerai suprato, kaip visi šie komponentai veiks kartu.
Reklaminis vaizdo įrašas:
Rezultatas buvo sistemos, kurios niekada nebuvo visiškai suprantamos jų kūrėjų, ir tai lėmė žinomas pasekmes. Kiekvienu atveju laivas nuskendo, sprogo du maršrutiniai laivai, ir beveik visa Europa ir Azijos dalys susidūrė su radioaktyviojo užteršimo problema - palyginti nedidelių problemų visuma, tačiau atsitiktinai atsirandanti tuo pačiu metu, sukūrė katastrofišką poveikį.
Puikiai įsivaizduoju, kaip mes, AI kūrėjai, galime pasiekti panašių rezultatų. Mes imamės naujausių pažinimo mokslo (mąstymo mokslo - red.) Pokyčių ir tyrimų, perkeliame juos į kompiuterinius algoritmus ir visa tai pridedame prie esamų sistemų. Mes stengiamės vystyti AI, visiškai nesuprasdami savo intelekto ir sąmonės.
Sistemos, tokios kaip IBM „Watson“ar „Google“Alfa, yra dirbtiniai neuroniniai tinklai, turintys įspūdingą skaičiavimo galią ir galintys atlikti tikrai sudėtingas užduotis. Tačiau kol kas vienintelis dalykas, dėl kurio padaryta klaida jų darbe, bus intelekto žaidimo „Pavojus!“Pralaimėjimas. arba praleista proga nugalėti dar vieną geriausią pasaulyje logikos stalo žaidimą „Go“.
Šios pasekmės nėra globalios. Tiesą sakant, blogiausias dalykas, kuris šiuo atveju gali nutikti žmonėms, yra tas, kad kažkas praranda lažybose tam tikrą pinigų sumą.
Tačiau AI architektūra tampa vis sudėtingesnė, o kompiuteriniai procesai spartėja. Laikui bėgant PG galimybės tik didės. Ir jau tai lems, kad mes pradėsime vis daugiau ir daugiau atsakomybės skirti AI, net nepaisant didėjančios nenumatytų aplinkybių rizikos.
Puikiai suprantame, kad „klaidos yra žmogaus prigimties dalis“, todėl mums bus tiesiog fiziškai neįmanoma sukurti tikrai saugią visko sistemą.
Baimė netinkamo naudojimo
Aš tikrai nesijaudinu dėl pasekmių nenuspėjamumo AI darbe, kurį kuriu naudodamas vadinamąjį neuroevoliucijos metodą. Aš kuriu virtualią aplinką ir apgyvendinu ją su skaitmeninėmis būtybėmis, duodamas jų smegenims komandas išspręsti vis didėjančio sudėtingumo problemas.
Laikui bėgant, šių būtybių problemų sprendimo efektyvumas didėja ir vystosi. Reprodukcijai atrenkami tie, kurie atlieka geriausią darbą, jų pagrindu sukurdami naują kartą. Per šias kartas šios skaitmeninės būtybės ugdo pažintinius sugebėjimus.
Pvz., Dabar mes žengiame pirmuosius žingsnius kurdami mašinas iki paprastų naršymo užduočių atlikimo, paprastų sprendimų priėmimo ar įsimenamų poros informacijos bitų. Tačiau netrukus išvysime mašinas, galinčias atlikti sudėtingesnes užduotis ir turinčias daug efektyvesnį bendrą intelekto lygį. Mūsų pagrindinis tikslas yra sukurti žmogaus lygio intelektą.
Šios raidos metu bandysime aptikti ir ištaisyti visas klaidas ir problemas. Su kiekviena nauja karta mašinos geriau susidoros su klaidomis nei ankstesnės. Tai padidins tikimybę, kad pavyks atpažinti visas nenuspėjamas pasekmes modeliavime ir pašalinti jas dar prieš jas įgyvendinant realiame pasaulyje.
Kita galimybė, kurią suteikia evoliucinis vystymosi metodas, yra suteikti dirbtiniam intelektui etiką. Tikėtina, kad tokios etinės ir moralinės žmogaus savybės kaip patikimumas ir altruizmas yra mūsų evoliucijos rezultatas ir jos tęsimosi veiksnys.
Mes galime sukurti sukurtą aplinką ir įgalinti mašinas parodyti gerumą, sąžiningumą ir empatiją. Tai gali būti vienas iš būdų įsitikinti, ar mes ugdome paklusnesnius tarnus, nei negailestingus žudikų robotus. Tačiau neuroevoliucija gali sumažinti netyčinių AI elgesio padarinių lygį, tačiau ji negali užkirsti kelio piktnaudžiavimui dirbtiniu intelektu.
Aš, kaip mokslininkas, turiu laikytis savo įsipareigojimo tiesai ir pranešti apie tai, ką sužinojau atlikdamas eksperimentus, nesvarbu, ar man patinka rezultatai, ar ne. Mano darbas nėra nustatyti, kas man patinka, o kas ne. Svarbus dalykas yra tik tai, kad galiu paviešinti savo darbą.
Baimė dėl netinkamų socialinių prioritetų
Būti mokslininku nereiškia prarasti savo žmogiškumą. Turiu susieti su savo viltimis ir baimėmis tam tikru lygiu. Būdamas morališkai ir politiškai motyvuotas asmuo, turiu atsižvelgti į galimas savo darbo pasekmes ir galimą jo poveikį visuomenei.
Mes, kaip mokslininkai ir kaip visuomenės atstovai, vis dar nesuvokėme, ko būtent norime gauti iš PG ir kuo ji turėtų tapti. Tai, be abejo, iš dalies dėl to, kad mes vis dar nepakankamai suprantame jo galimybes. Tačiau vis tiek turime aiškiai suprasti ir nuspręsti, ko norime gauti iš tikrai pažengusio dirbtinio intelekto.
Viena didžiausių sričių, į kurią žmonės atkreipia dėmesį kalbėdami apie PG, yra užimtumas. Robotai už mus jau atlieka sudėtingą fizinį darbą, pavyzdžiui, surenka ir suvirina automobilio kėbulo dalis. Tačiau vieną dieną ateis diena, kai robotams bus pavesta atlikti pažintines užduotis, tai yra, jiems bus pavesta tai, kas anksčiau buvo laikoma išskirtinai paties žmogaus galimybėmis. Savarankiškai važiuojantys automobiliai gali pakeisti taksi vairuotojus; savarankiškai vairuojantiems lėktuvams pilotų neprireiks.
Užuot gavę medicininę pagalbą skubios pagalbos skyriuose, kuriuose visada dirba pavargę darbuotojai ir gydytojai, pacientai galės atlikti patikrinimus ir išmokti diagnozes naudodamiesi ekspertų sistemomis, turinčiomis greitą prieigą prie visų medicinos žinių. Chirurgines operacijas atliks robotai, neatsparūs nuovargiui, su puikiai „treniruota ranka“.
Teisinės konsultacijos bus teikiamos remiantis išsamia teisine sistema. Norėdami gauti patarimų dėl investavimo, kreipsimės į ekspertų rinkos prognozavimo sistemas. Galbūt vieną dieną visus žmogaus darbus padarys mašinos. Net mano darbas gali būti atliktas greičiau, naudojant daugybę mašinų, negailestingai tiriant, kaip mašinas padaryti dar protingesnes.
Dabartinės visuomenės tikrovėje automatika jau verčia žmones palikti savo darbą, todėl turtingi tokių automatų savininkai tampa dar turtingesni, o likusieji dar skurdesni. Bet tai nėra mokslinė problema. Tai politinė ir socialinė bei ekonominė problema, kurią turi išspręsti pati visuomenė.
Mano tyrimai to nepakeis, tačiau mano politiniai pagrindai kartu su žmonija gali sukelti aplinkybes, kuriomis PG gali tapti ypač naudinga funkcija, užuot padidinusi atotrūkį tarp vieno procento pasaulio elito ir kitų.
Baimė dėl katastrofiško scenarijaus
Mes priėjome prie galutinės baimės, kurią mums sukėlė beprotiškas HAL 9000, „Terminatorius“ir bet kuris kitas žvalus super intelektas. Jei AI toliau vystysis, kol nepralenks žmogaus intelektas, ar dirbtinė super intelektuali sistema (ar tokių sistemų kolekcija) laikytų žmogų nenaudinga medžiaga? Kaip mes galime pateisinti savo egzistavimą susidūrę su intelektu, galinčiu padaryti ir sukurti tai, ko negali kitas žmogus? Ar mes sugebėsime išvengti likimo, kai mašinas, kurias mes padėjome sukurti, nuvalysite nuo Žemės paviršiaus?
Todėl svarbiausias klausimas tokiomis aplinkybėmis skamba taip: kodėl mums reikės dirbtinio super intelekto?
Jei tokia situacija būtų nutikusi, turbūt sakyčiau, kad esu geras žmogus, netgi prisidėjęs prie šio super intelekto, su kuriuo dabar susiduriu, kūrimo. Aš kreipsiuosi į jo užuojautą ir empatiją, kad super intelektas paliktų mane tokį užuojautą ir empatišką. Taip pat norėčiau pridurti, kad pati rūšių įvairovė turi vertę ir visata yra tokia didelė, kad joje egzistuojanti žmonių rūšis iš tikrųjų yra gana nereikšminga.
Bet aš negaliu kalbėti už visą žmoniją, todėl man bus sunku rasti pagrįstą argumentą mums visiems. Tiesiog žvelgdamas į mus visus tikrai matau, kad padarėme daug ir darome daug blogo. Pasaulyje karaliauja neapykanta vienas kitam. Mes einame į karą vienas prieš kitą. Mes nesąžiningai paskirstome maistą, žinias ir sveikatos priežiūrą. Mes teršiame planetą. Šiame pasaulyje, be abejo, yra daug gerų dalykų, tačiau jei pažvelgsite į visus blogus dalykus, kuriuos sukūrėme ir kuriame toliau, bus labai sunku rasti argumentą, kuris palaikytų mūsų nuolatinį egzistavimą.
Laimei, dar neturime pateisinti savo egzistavimo. Mes vis dar turime laiko. Nuo 50 iki 250 metų, priklausomai nuo to, kaip greitai vystosi dirbtinis intelektas. Mes, kaip rūšis, turime galimybę susiburti ir rasti gerą atsakymą į klausimą, kodėl intelektas neturėtų nuvalyti mūsų planetos veido.
Išspręsti šią problemą bus labai sunku. Juk sakyti, kad palaikome įvairovę ir etnokultūrinius skirtumus, ir tai daryti yra visiškai skirtingi dalykai. Kaip pasakyti, kad norime išgelbėti planetą ir sėkmingai su ja susitvarkyti.
Visi mes, nesvarbu, ar tai būtų kiekvienas individas, ar visa visuomenė, turi pasiruošti katastrofiškam scenarijui, naudodamiesi tuo laiku, kad būtume pasirengę parodyti ir įrodyti, kodėl mūsų kūryba turėtų leisti mums išlikti toliau. Arba galime tiesiog toliau aklai tikėti, kad tokia įvykių raida neįmanoma, ir tiesiog nustoti kalbėti šia tema.
Vis dėlto, nesvarbu, kokį fizinį pavojų mums gali kelti intelektas, neturėtume pamiršti, kad jis taip pat kels politinį ir ekonominį pavojų. Jei nerasime būdo, kaip pagerinti savo gyvenimo lygį, mes tiesiog paskatinsime kapitalizmą dirbtinio intelekto darbuotoju, kuris aptarnaus tik keletą išrinktų, turinčių visas gamybos priemones.
Šis straipsnis iš pradžių buvo paskelbtas theconversation.com. Arend Hintze, Mičigano universiteto Kompiuterių mokslo ir inžinerijos integracinės biologijos katedros docentas
Nikolajus Khizhnyak
