Dirbtinio intelekto baimė jau seniai yra įsivėlusi į populiariąją kultūrą. Aukščiausi žmonijos protai, nuo Stepheno Hawkingo iki Elono Musko, kalbėjo apie egzistencinę skaitmeninio proto grėsmę žmonijai.
Apie tai kalba ir Kalifornijos Berklio universiteto profesorius Stuartas Russellas, tačiau jo ateities vizijoje nėra piktų robotų, maištaujančių prieš žmonių viešpatavimą.
- „Salik.biz“
Anot Russello, tam tikru metu mašinos tiesiog taps tokios efektyvios, kad sunaikins mus, vykdydamos užduotis, kurias mums davė.
Russellas yra mašinų mokymosi ekspertas ir knygos „Human Compatible: AI and the Control Problem“autorius.
„Tradicinis Holivudo siužetas yra tas, kad mašinos spontaniškai tampa sąmoningos ir tada nusprendžia, kad nekenčia žmonių ir nori visus nužudyti“, - pažymi profesorius Russellas.
Bet tai, jo manymu, yra neteisinga roboapokalipsės vizija, nes mašinos neturi žmogaus emocijų.
„Turime jaudintis ne dėl piktų mašinų savimonės, bet dėl mašinų, kurios atlieka mūsų užduotis, kompetencijos“, - įsitikinęs mokslininkas.
Reklaminis vaizdo įrašas:
„Per daug kompetentingi“
Interviu BBC Today profesorius Russellas aprašė hipotetinę situaciją, kai dirbtiniam intelektui gali grėsti žmonijos egzistavimas.
Įsivaizduokite, kad yra nepaprastai galingas dirbtinis intelektas, galintis valdyti planetos klimatą. Jam pavesta grąžinti anglies dioksido lygį atmosferoje į ikipramoninį lygį.
„Sistema manys, kad veiksmingiausias būdas tai padaryti yra sunaikinti žmones. Jie gamina anglies dioksidą “, - sako profesorius.
„To galima išvengti, pavyzdžiui, sudarant jai sąlygas neatsikratyti žmonių. Ką tada veiks sistema? Ji pasirūpins, kad vis mažiau vaikų gimtų, kol žmonės išnyks visai “.
Tai yra pavyzdys, ką dirbtinis intelektas gali sukelti netinkamai sugalvotiems žmogaus nurodymams.
Super intelektas
Šiandien egzistuojančios PG sistemos yra siaurai pritaikytos. Jie skirti išspręsti aiškiai apibrėžtas problemas vienoje srityje, sako Kembridžo universiteto Egzistencinės rizikos tyrimo centro mokslininkai.
Triumfinis šios AI filosofijos momentas buvo „Deep Blue“kompiuterio pergalė prieš valdantį pasaulio šachmatų čempioną Garry Kasparovą 1997 m.
* „Deep Blue“pergalė prieš Kasparovą 1997 m. Buvo AI triumfas.
Tačiau „Deep Blue“buvo sukurtas išskirtinai šachmatų žaidimui. Šaškėse jis būtų praradęs penktą klasę.
Naujausi dirbtinio intelekto pasiekimai atnešė mums labai skirtingas programas.
Pavyzdžiui, „AlphaGo Zero“programa išmoko žaisti „Go“savarankiškai, nenaudodama duomenų apie praeitus žaidimus, kuriuos žaidė žmonės, ir vos per tris dienas žaisdama su savimi pasiekė tokį lygį, kokio nepasiekia paprastas žmogus.
Kuriant „AlphaGo Zero“buvo naudojami giluminiai mokymosi algoritmai. Tai reiškia, kad kuriant programą reikėjo palyginti nedaug žmogaus darbo.
Tuo pat metu „AlphaGo Zero“žino, kaip gerai žaisti tiek šachmatais, tiek ir shogi.
Prisiminkite, kad programa yra visiškai savamokslis. Kai kuriems tai gali sukelti nerimą.
„Kai AI tampa galingesnė ir įvairiapusiškesnė, kyla pavojus, kad ji taps super intelektuali, tai yra, pranoks žmones daugelyje ar visose srityse“, - teigia Egzistencinės rizikos tyrimo centras.
Mes nežinome, ko norime
Profesorius Russellas mano, kad tiesiog suteikti AI labai konkrečias užduotis nėra išeitis, nes patys žmonės nesugeba jų tinkamai suformuluoti.
„Mes nesuvokiame, kad mums kažkas nepatinka, kol tai neįvyksta“, - sako jis.
„Turime pakeisti patį pagrindinį požiūrį į PG sistemų kūrimą“, - priduria profesorius. Jis mano, kad duoti robotams užduotis, kurias jie tada atlieka, yra iš esmės neteisinga.
„Sistema turi suprasti, kad tikslas jai nėra aiškus. jis sako. - Kuriant tokias sistemas, jos tikrai priklauso nuo žmogaus. Prieš pradėdami ką nors, jie pradeda klausti leidimo, nes nėra tikri, ar norite “.
Svarbiausia, sako profesorius, kad jie nesipriešintų, jei nuspręsite juos išjungti, nes jie skirti nedaryti to, kas jums nepatinka.
Aladdino lempa
Šiandien AI yra sukurta tarsi džinas iš lempos, sako profesorius Russellas. Jūs patrinkite lempą ir sakote: „Aš noriu, kad tai ir įvyktų“.
Stanley Kubricko 2001 m. * „Kosminė odisėja“* intelektualusis kompiuteris sukiojasi prieš žmones, kurie nusprendžia jį išjungti.
Ir jei dirbtinis intelektas yra pakankamai galingas, jis padarys tiksliai tai, ko paprašysite.
"Džino problema yra ta, kad trečiasis noras visada yra atšaukti pirmuosius du, nes asmuo juos neteisingai suformulavo".
„Mašina, siekianti neteisingo tikslo, de facto tampa žmonijos priešu, ir šis priešas yra daug stipresnis už mus“, - reziumuoja mokslininkas.