Bene vienas sunkiausių mašininio intelekto išbandymų buvo beveik prieš 20 metų vykęs šachmatų žaidimas tarp „Deep Blue“kompiuterio ir pasaulio šachmatų čempiono Gario Kasparovo. Laimėjo automobilis. Šiuo metu baigėsi loginio žaidimo „go“žaidimų serija, kurioje varžėsi „DeepMind“(„Google“savininkas) „AI AlphaGo“ir legendinis „go“čempionas iš Kinijos Li Si Dol. Keturiuose iš penkių žaidimų mašina laimėjo, parodydama savo pranašumą prieš žmogų šiame žaidime. Neįtikėtinai sudėtingas žaidimas tarp žmogaus ir dirbtinio intelekto rodo, kad per šį laiką mašininis intelektas vystėsi labai stipriai. Atrodo, kad lemtinga diena, kai mašinos iš tiesų tampa protingesnės už žmones, dabar yra arčiau nei bet kada. Tačiau panašu, kad daugelis visiškai nesupranta, o netgi klysta dėl pasekmių, kurios gali mūsų laukti ateityje.
Mes nuvertiname kai kurias labai rimtas ir net pavojingas dirbtinio intelekto vystymosi pasekmes. Praėjusiais metais „SpaceX“įkūrėjas Elonas Muskas paskelbė pareiškimą, kuriame išreiškė susirūpinimą dėl galimo pasaulio pavergimo dirbtiniu intelektu, o tai savo ruožtu paskatino didžiulį šios nuomonės šalininkų ir oponentų komentarą.
Dėl tokios iš esmės revoliucinės ateities, kuri mūsų gali laukti, stebina tai, kad šiandien yra tiek daug nesutarimų, ar tai apskritai įvyks ir kokia ji galiausiai pasirodys. Ypač keista neigti neįtikėtiną naudą, kurią galime gauti kurdami tikrai protingą dirbtinį intelektą, žinoma, atsižvelgdami į visas įmanomas rizikas. Visus šiuos klausimus yra nepaprastai sunku gauti teisingus atsakymus, nes dirbtinis intelektas, skirtingai nei kiti žmonijos išradimai, iš tikrųjų gali „atjauninti“šią žmoniją arba ją visiškai sunaikinti.
Dabar sunku suprasti, kuo tikėti ir ko tikėtis. Tačiau dėka kompiuterių mokslo pradininkų, neuromokslininkų ir intelekto intelekto kūrimo teoretikų, aiškus vaizdas pamažu pradeda aiškėti. Žemiau pateikiamas dažniausiai pasitaikančių klaidingų supratimų ir mitų, susijusių su dirbtiniu intelektu, sąrašas.
Mes niekada nesukursime dirbtinio intelekto su humanoidiniu intelektu
Realybė savo ruožtu rodo, kad jau turime kompiuterių, kurie kai kuriose srityse atitinka ir netgi viršija žmogaus galimybes. Paimkite šachmatus ar tą patį žaidimą, prekybą biržose ar virtualaus pašnekovo vaidmenį. Kompiuteriai ir juos valdantys algoritmai bėgant laikui tik gerės, ir tik laiko klausimas, kol jie taps lygūs žmogaus galimybėms.
Reklaminis vaizdo įrašas:
Niujorko universiteto tyrėjas Gary Markus kartą pasakė, kad „praktiškai visi“, dirbantys su AI, mano, kad mašinos vieną dieną pranoks mus:
„Vienintelis šalininkų ir skeptikų ginčas yra šio įvykio laikas“.
Tokie futuristai kaip Ray Kurzweilas mano, kad tai gali įvykti per ateinančius dešimtmečius, o kiti sako, kad tai užtruks kelis šimtmečius.
Dirbtinio intelekto skeptikai neįtikina savo įrodymų, kad dirbtinio intelekto sukūrimas kaip kažkas unikalaus ir technologiniu požiūriu labai panašus į tikras gyvas žmogaus smegenis yra kažkur už tikrovės ribų. Mūsų smegenys taip pat yra mašina. Biologinė mašina. Jis egzistuoja tame pačiame pasaulyje ir laikosi tų pačių fizikos dėsnių, kaip ir visa kita. Ir laikui bėgant mes visiškai išsiaiškinsime visą jo darbo principą.
AI turės sąmonę
Yra bendras sutarimas, kad mašininis intelektas bus sąmoningas. Tai yra, dirbtinis intelektas mąstys taip pat, kaip ir žmogus. Be to, kai kurie kritikai, pavyzdžiui, „Microsoft“įkūrėjas Paulas Allenas, mano, kad dėl neišsamios teorinės bazės, apibūdinančios savimonės mechanizmus ir principus, mes dar nesukūrėme net bendro dirbtinio intelekto, tai yra intelekto, galinčio atlikti bet kokias intelektines užduotis, su kuriomis žmogus gali susitvarkyti. Tačiau, pasak Londono imperatoriškojo koledžo kognityvinės robotikos katedros docento Murray Shanahano, neturėtume šių dviejų tapatinti.
„Savimonė neabejotinai yra labai įdomi ir svarbi tyrimų tema, tačiau nemanau, kad savimonė turėtų būti privalomas į žmogų panašaus dirbtinio intelekto atributas“, - sako Shanahanas.
"Apskritai mes vartojame terminą" savimonė "tik tam, kad nurodytume kelis psichologinius ir pažintinius požymius, kurie paprastai yra susiję su žmogumi."
Galima įsivaizduoti labai protingą automobilį, kuriame nėra vieno ar daugiau šių požymių. Kada nors galėsime sukurti tikrai neįtikėtinai protingą dirbtinį intelektą, tačiau tuo pačiu neturėdami galimybės suvokti save, taip pat subjektyviai ir sąmoningai suprasti mus supantį pasaulį. Shanahanas pažymi, kad intelekto ir savimonės suvienijimas mašinoje vis tiek bus įmanomas, tačiau neturime nepastebėti fakto, kad tai yra dvi visiškai atskiros sąvokos.
Ir nors vienas iš „Turingo testo“variantų, kuriame mašina parodė, kad jis niekuo nesiskiria nuo žmogaus, buvo sėkmingai išlaikytas, tai visiškai nereiškia, kad ši mašina turi sąmonę. Mūsų (žmogaus) požiūriu, pažangus dirbtinis intelektas mums gali atrodyti kaip kažkas, kas turi savimonę, tačiau pati mašina apie save žinos ne daugiau kaip tą patį akmenį ar skaičiuoklę.
Mes neturėtume bijoti PG
Šių metų sausį „Facebook“įkūrėjas Markas Zuckerbergas pasidalijo mintimis, kaip neturėtume bijoti dirbtinio intelekto, pridurdamas, kad ši technologija gali atnešti didžiulę naudą visame pasaulyje. Tiesa ta, kad jis tik iš dalies teisus. Mes iš tikrųjų galėsime pasisemti nuostabios naudos turėdami dirbtinį intelektą (pradedant savaeigiais automobiliais ir baigiant naujais medicinos atradimais), tačiau niekas negali garantuoti, kad kiekvienas dirbtinio intelekto taikymas būtinai duos naudos.
Labai intelektuali sistema, ko gero, žinos viską, kas reikalinga tam tikroms užduotims atlikti (pavyzdžiui, išspręsti sudėtingą pasaulinę finansinę situaciją ar įsilaužti į priešo kompiuterines sistemas), tačiau, nepaisant labai specializuotų užduočių, dirbtinio intelekto galimybės vis dar nėra aiškios ir todėl gali būti pavojingos. Pavyzdžiui, „DeepMind“sistema specializuojasi „go“žaidime, tačiau jai trūksta galimybių (ir priežasčių) ištirti sritis, esančias už tos srities ribų.
„Flame“kompiuterinis virusas, kurio užduotis buvo sekti Vidurio Rytų šalis
Daugelis šių sistemų gali kelti rimtą pavojų saugumui. Geras pavyzdys yra galingas ir labai gudrus „Stuxnet“virusas - militarizuotas kirminas, kurį JAV ir Izraelio kariuomenė sukūrė įsiskverbti į Irano atomines elektrines ir atakuoti. Tik ši kenkėjiška programa kažkaip (netyčia ar sąmoningai) užkrėtė vieną iš Rusijos atominių elektrinių.
Kitas pavyzdys yra „Flame“virusas, sukurtas tiksliniam kibernetiniam šnipinėjimui Artimuosiuose Rytuose. Nesunku įsivaizduoti, kaip „būsimos„ Stuxnet “ir„ Flame “virusų versijos savarankiškai peržengs jiems priskirtas užduotis ir galės užkrėsti beveik visą šalies infrastruktūrą. Ir jie tai padarys labai tyliai ir nepastebimai.
Dirbtinis intelektas bus per protingas, kad suklystų
Ričardas Luzmore'as, matematikas, dirbtinio intelekto tyrinėtojas ir robotikos kompanijos „Surfing Samurai Robots“įkūrėjas, mano, kad dauguma dirbtinio intelekto pasaulio pabaigos scenarijų atrodo mažai tikėtini, nes jie visi yra pagrįsti tuo, ką AI vieną dieną pasakys: „Aš suprantu tą sunaikinimą žmonių yra mano programos kodo klaida, bet aš vis tiek turiu vykdyti užduotį “.
Luzmore'as mano, kad jei dirbtinis intelektas elgsis pagal šį scenarijų, jis susidurs su logiškais prieštaravimais, kurie kvestionuos visą sukauptą žinių bazę ir galiausiai paskatins ją pačią suvokti savo kvailumą ir nenaudingumą.
Tyrėjas taip pat mano, kad klysta tie žmonės, kurie sako, kad „dirbtinis intelektas atliks tik tai, kas įtraukta į jo programą“, kaip ir tie, kurie kažkada sakė tuos pačius žodžius, bet link kompiuterių, skelbdamas, kad kompiuterinės sistemos niekada neturės universalumo.
Oksfordo universiteto Žmonijos ateities institute Peteris McIntyre'as ir Stuartas Armstrongas savo ruožtu nesutinka su šia nuomone, teigdami, kad dirbtinio intelekto elgesys bus privalomas ir iš esmės pateisinamas programos kodeksu. Mokslininkai nemano, kad dirbtinis intelektas niekada nepadarys klaidų arba, priešingai, bus per kvailas, kad tiksliai suprastume, ko iš jų norime.
„Pagal apibrėžimą dirbtinis intelektas (ISI) yra agentas, kurio intelektas daug kartų pranoks geriausius žmonijos protus beveik visose srityse“, - sako McIntyre.
- Jis tikrai supras, ko mes iš jo norime.
McIntyre ir Armstrongas mano, kad dirbtinis intelektas atliks tik tas užduotis, kurioms jis buvo užprogramuotas, tačiau jei jis kažkaip vystysis pats savaime, tada, greičiausiai, jis bandys išsiaiškinti, kiek jo veiksmai skirsis nuo žmogaus užduočių ir būdingi jam. įstatymai.
McIntyre palygina būsimą žmonių padėtį su tuo, su kuriuo susiduria pelės. Pelės turi galingą instinktą susirasti maistą ir pastogę, tačiau jų tikslai labai dažnai prieštarauja asmeniui, kuris nenori jų matyti savo namuose.
„Kaip ir mūsų žinios apie peles ir jų norus, superžvalgybos sistema taip pat gali viską žinoti apie mus ir žinoti, ko mes norime, tačiau tuo pačiu metu ji bus visiškai abejinga mūsų troškimams“.
Paprastas sprendimas pašalina dirbtinio intelekto valdymo problemą
Kaip parodyta filme „Iš mašinos“, bus labai sunku suvaldyti intelektą, kuris bus daug protingesnis už mus
Jei manysime, kad vieną dieną sukursime protingesnį intelektą nei žmonės, teks susidurti su rimta problema - kontrolės problema. Futuristai ir dirbtinio intelekto teoretikai dar negali paaiškinti, kaip mes galime kontroliuoti ir sulaikyti ISI po jo sukūrimo. Taip pat neaišku, kaip galime užtikrinti, kad jis bus draugiškas žmonėms. Visai neseniai Džordžijos technologijos instituto (JAV) tyrėjai naiviai teigė, kad dirbtinis intelektas gali išmokti ir įsisavinti žmogaus vertybes ir žinias apie socialines normas paprasčiausiai skaitydamas paprastas pasakas. Taip, taip, paprastos vaikiškos pasakos ir pasakojimai, kuriuos tėvai mums skaitė vaikystėje. Tačiau iš tikrųjų viskas pasirodys daug sudėtingiau nei visa tai.
„Dirbtinio intelekto kontrolės klausimui buvo pasiūlyta daugybė vadinamųjų„ sprendimų “, - sako Stuartas Armstrongas.
Vienas iš tokių sprendimų pavyzdžių gali būti ISI programavimas taip, kad jis nuolat bandytų patikti ar įtikti žmogui. Alternatyva būtų integruoti tokias sąvokas kaip meilė ar pagarba į savo šaltinio kodą. Ir norint išvengti tokio scenarijaus vystymosi, pagal kurį dirbtinis intelektas gali supaprastinti visas šias sąvokas ir suvokti šį pasaulį per šių supaprastintų sąvokų prizmę, padalydamas jį tik į juodą ir baltą, jis gali būti užprogramuotas suprasti ir priimti intelektinę, kultūrinę ir socialinę įvairovę.
Trys Isaaco Asimovo robotikos dėsniai puikiai tinka grožinės literatūros sampratai, tačiau iš tikrųjų mums reikia kažko išsamesnio, kad išspręstume valdymo klausimą
Deja, šie sprendimai yra per paprasti ir atrodo kaip bandymas sutalpinti visą žmogaus patinkančių ir nemėgstamų dalykų sudėtingumą vieno bendro apibrėžimo ar sąvokos rėmuose arba bandymas sutalpinti visą žmogaus vertybių kompleksiškumą į vieną žodį, frazę ar idėją. Pavyzdžiui, pabandykite į šią sistemą įtraukti nuoseklų ir adekvatų tokio dalyko kaip „pagarba“apibrėžimą.
„Žinoma, nereikėtų galvoti, kad tokie paprasti variantai yra visiškai nenaudingi. Daugelis jų siūlo puikią priežastį galvoti ir galbūt skatina ieškoti galutinės problemos sprendimo “, - sako Armstrongas.
- Tačiau negalime pasikliauti vien jais be sudėtingesnio darbo, be aiškių tyrimų ir ieškodami tam tikrų sprendimų naudojimo pasekmių “.
Mus sunaikins dirbtinis intelektas
Niekas negali garantuoti, kad dirbtinis intelektas vieną dieną mus sunaikins, taip pat niekas negali tiksliai pasakyti, kad mes negalėsime rasti būdų, kaip kontroliuoti ir naudoti AI savo tikslams. Kaip kažkada pasakė amerikiečių dirbtinio intelekto ekspertas Eliezeris Yudkowskis: „Dirbtinis intelektas negali tavęs mylėti ar nekęsti, bet tu esi sudarytas iš atomų, kuriuos jis galėtų naudoti kažkam kitam“.
Oksfordo filosofas Nickas Bostromas knygoje „Superžvalgyba: keliai, pavojai ir strategijos“rašo, kad tikras superžvalgybinis darbas vieną dieną galės save realizuoti, o tai padarys jį pavojingesnį nei bet koks žmogaus kada nors sukurtas išradimas. Tokie žinomi šiuolaikiniai mąstytojai kaip Elonas Muskas, Billas Gatesas ir Stephenas Hawkingas (daugelis iš jų mano, kad „dirbtinis intelektas gali būti blogiausia klaida žmonijos istorijoje“) greičiausiai sutinka su šia nuomone ir jau skambina pavojaus signalą.
Peteris McIntyeris mano, kad daugumai uždavinių, kuriuos gali išsikelti žvalgyba, žmonės atrodys kaip papildoma nuoroda.
„Dirbtinis intelektas vieną dieną galės padaryti išvadą - ir reikia pažymėti, kad tai apskaičiuos gana teisingai - kad žmonės nenori jo naudoti norėdami kuo labiau padidinti bet kurios konkrečios įmonės pelningumą, neatsižvelgdami į pasekmes vartotojams, aplinkai ir gyvoms būtybėms. Todėl jis turės didžiulę paskatą parengti planą ir strategiją, kurios dėka žmogus negalės kištis į užduoties sprendimą, ją pakeisdamas ar net išjungdamas dirbtinį intelektą “.
Pasak „MacIntyer“, jei dirbtinio intelekto užduotys yra priešingos mūsų pačių užduotims, tai suteiks jam puikių priežasčių neleisti mums jo sustabdyti. Ir jei manysime, kad jo intelekto lygis bus daug aukštesnis nei mūsų, jį sustabdyti, jei tik įmanoma, bus labai labai sunku.
Tačiau dabar nieko pasakyti užtikrintai neįmanoma ir niekas negalės pasakyti, su kokia AI forma turėsime susidurti ir kaip ji gali kelti grėsmę žmonijai. Kaip kažkada sakė Elonas Muskas, dirbtinis intelektas iš tikrųjų gali būti naudojamas valdyti, sekti ir valdyti kitus intelektinius intelektus. Ir galbūt į tai bus įvestos žmogiškos vertybės ir pradinis draugiškumas žmonėms.
Dirbtinis superžvalgyba bus draugiška
Filosofas Immanuelis Kantas manė, kad intelektas yra stipriai susijęs su moralės principais. Savo veikale „Singularity: A Philosophical Analysis“neuromokslininkas Davidas Chalmersas rėmėsi garsiąja Kanto idėja ir bandė ją pritaikyti analizuodamas dirbtinio superžvalgybos formavimąsi.
„Jei šiame straipsnyje aprašyti principai yra teisingi, kartu su staigiu intelekto intelekto vystymusi reikia tikėtis staigaus moralinių principų vystymosi. Tolesnė plėtra sukels ISI sistemas, kurios turės supermoralą ir superžvalgą. Todėl turėtume tikėtis tik geranoriškų jų savybių “.
Tiesa ta, kad pažangaus intelekto, turinčio moralinius principus ir išskirtinę dorybę, idėja nesusilaiko. Kaip pabrėžia Armstrongas, pasaulyje pilna protingų karo nusikaltėlių. Pavyzdžiui, žmoguje esantis intelektas ir moralė niekaip nesusiję, todėl mokslininkas abejoja, ar toks santykis bus ir kitomis intelekto formomis.
„Protingi žmonės, kurie elgiasi amoraliai, dažniausiai sukelia daug daugiau problemų ir skausmo nei jų mažiau protingi kolegos. Intelektas įgalina juos labiau išmanyti blogus, o ne gerus veiksmus “, - sako Armstrongas.
McIntyre paaiškina, kad agento sugebėjimas pasiekti tam tikrą užduotį neturi nieko bendro su tuo, kas yra ta užduotis.
„Mums labai pasiseks, jei mūsų intelekto intelektai taps moralesni, o ne tik protingi. Pasitikėjimas sėkme, žinoma, yra paskutinis dalykas šiuo klausimu, bet galbūt būtent sėkmė nulems mūsų poziciją ateityje “, - sako mokslininkas.
Su dirbtiniu intelektu ir robotika susijusi rizika yra ta pati
Tai yra ypač paplitusi klaidinga nuomonė, naudojama žiniasklaidoje, taip pat Holivudo populiarumuose, tokiuose kaip „The Terminator“.
Jei, pavyzdžiui, „Skynet“dirbtinis intelektas iš tikrųjų nori sunaikinti visą žmoniją, tai vargu ar ji naudos sukarintus androidus su kulkosvaidžiais kiekvienoje rankoje. Gudrus ir efektyvus mąstymas leis suprasti, kad bus daug patogiau naudoti, tarkime, naujo tipo biologinį marą ar, pavyzdžiui, kokią nors nanotechnologinę katastrofą. O gal jis tiesiog paims ir sunaikins mūsų planetos atmosferą. Dirbtinis intelektas yra potencialiai pavojingas ne tik todėl, kad jo plėtra yra glaudžiai susijusi su robotikos plėtra. Jo galimo pavojaus priežastis slypi metoduose ir priemonėse, kuriomis jis gali deklaruoti savo buvimą pasaulyje.
Mokslinėje fantastikoje rodomas intelektas atspindi mūsų ateitį
Be jokios abejonės, daugelį metų rašytojai ir mokslinės fantastikos rašytojai mokslinės fantastikos aplinką naudojo kaip atspirties tašką spėliodami apie tikrąją mūsų ateitį, tačiau tikrasis ISI sukūrimas ir realios to pasekmės vis dar yra už mūsų tikrųjų žinių horizonto. Be to, tokia dirbtinė ir aiškiai nežmoniška dirbtinio intelekto prigimtis net neleidžia visiškai užtikrintai manyti, koks iš tikrųjų bus šis intelektas.
Daugumoje mokslinės fantastikos kūrinių dirbtinis intelektas yra kuo artimesnis žmonėms.
„Prieš mus iš tikrųjų yra visas spektras pačių įvairiausių proto tipų. Net jei įgautume tik žmogaus pavidalą. Pavyzdžiui, jūsų protas toli gražu nėra tapatus kaimyno protui. Tačiau šis palyginimas yra tik lašas visos galimo protų įvairovės, kuri gali egzistuoti, jūroje “, - sako McIntyre.
Dauguma mokslinės fantastikos kūrinių, be abejo, kuriami pirmiausia tam, kad pasakotų istoriją, o ne kad būtų kuo moksliškai įtikinamesni. Jei būtų atvirkščiai (mokslas yra svarbesnis už siužetą), tada būtų neįdomu sekti tokius kūrinius.
„Įsivaizduokite, kokios nuobodžios būtų visos šios istorijos, kai dirbtinis intelektas be savęs suvokimo, gebėjimo džiaugtis, mylėti ar neapkęsti naikina visus žmones praktiškai be jokio pasipriešinimo, kad pasiektų savo tikslą, kuris, beje, irgi gali būti nelabai įdomus. skaitytojui ar žiūrovui “, - komentuoja Armstrongas.
Dirbtinis intelektas užims mūsų darbus
Dirbtinio intelekto galimybė automatizuoti procesus, kuriuos atliekame rankiniu būdu, ir jo galimybė sunaikinti visą žmoniją nėra tas pats. Tačiau, pasak knygos „Rise of the Robots: Technology and the Threat of the Jobless Future“autoriaus Martino Fordo, šias sąvokas dažnai bandoma palyginti ir sujungti į vientisą visumą. Žinoma, puiku, kad bandome numatyti dirbtinio intelekto sukūrimo pasekmes, tačiau tik tuo atveju, jei šios pastangos neatitraukia mūsų nuo problemų, su kuriomis galime susidurti po poros dešimtmečių, jei nieko nedarysime. Ir viena pagrindinių tokių problemų yra masinė automatika.
Nedaugelis tvirtina, kad vienas iš dirbtinio intelekto iššūkių bus surasti būdą, kaip automatizuoti daugybę darbų, pradedant gamyklos darbais ir baigiant keletu baltųjų apykaklių. Kai kurie ekspertai prognozuoja, kad pusė visų darbo vietų, bent jau JAV, artimiausiu metu gali būti automatizuotos.
Bet tai visiškai nereiškia, kad negalėsime priimti tokių pokyčių. Svarbu suprasti, kad noras atsikratyti nereikalingo fizinio ir psichologinio streso darbe iš tikrųjų ilgą laiką buvo mūsų žmonių svajonė.
„Po kelių dešimtmečių dirbtinis intelektas iš tikrųjų pakeis žmones daugelyje darbų. Tai iš tikrųjų labai gerai. Pavyzdžiui, savaeigiai automobiliai pakeis sunkvežimius, o tai savo ruožtu ne tik sumažins prekių gabenimo, bet ir pačių prekių savikainą. Jei dirbate sunkvežimio vairuotoju, tuomet, žinoma, išliksite kraštutinumas, tačiau visi kiti šiuo atveju labiau linkę gauti atlyginimų pakėlimą. Kuo daugiau šių pinigų galima sutaupyti, tuo daugiau šių pinigų galima išleisti kitoms prekėms ir paslaugoms, kuriomis žmonės užsiims savo darbo vietose “.
Greičiausiai dirbtinis intelektas ieškos naujų gerovės būdų ir pamaitins žmones, kol jie darys kitus dalykus. Dirbtinio intelekto plėtros pažanga lydės sėkmės kitose srityse. Ypač gamybos sektoriuose. Ateityje visa tai greičiausiai gerokai supaprastins, o ne apsunkins mūsų pagrindinių poreikių tenkinimą.