Neramiu ir prieštaringu metu, kai ne viskas veikia taip, kaip turėtų, bet kažkas apskritai kardinaliai pasikeičia, dažnai išlieka tik asmeninis moralinis kodas, kuris, kaip ir kompasas, rodo kelią. Bet kas sukelia žmogui moralines vertybes? Visuomenė, artimųjų šiluma, meilė - visa tai remiasi žmogaus patirtimi ir tikrais santykiais. Kai realiame pasaulyje neįmanoma įgyti visiškos patirties, daugelis savo patirtį semiasi iš knygų. Patirdami istoriją po istorijos, mes priimame sau vidinę sistemą, kuria vadovaujamės daugelį metų. Remdamiesi šia sistema, mokslininkai nusprendė atlikti eksperimentą ir įdiegti mašinos moralines vertybes, kad išsiaiškintų, ar robotas gali atskirti gėrį nuo blogio, skaitydamas knygas ir religines brošiūras.
- „Salik.biz“
Dirbtinis intelektas buvo sukurtas ne tik paprastinti įprastas užduotis, bet ir atlikti svarbias ir pavojingas misijas. Atsižvelgiant į tai, iškilo rimtas klausimas: ar robotai kada nors sukurs savo moralės kodeksą? Filme „Aš esu robotas“AI iš pradžių buvo užprogramuota pagal 3 robotikos taisykles:
- Robotas negali pakenkti asmeniui ar dėl savo neveikimo leisti pakenkti asmeniui.
- Robotas turi paklusti visiems žmogaus įsakymams, išskyrus tuos atvejus, kai šie įsakymai prieštarauja Pirmajam įstatymui.
- Robotas privalo rūpintis savo saugumu tiek, kiek jis neprieštarauja Pirmajam ar Antrajam įstatymams.
O kaip būtų situacijose, kai robotas privalo kentėti skausmą, norėdamas išgelbėti žmogaus gyvybę? Ar tai būtų skubus žaizdos kauterizavimas ar galūnės amputacija vardan išganymo, kaip tokiu atveju turėtų elgtis aparatas? Ką daryti, jei veiksmas programavimo kalba sako, kad reikia ką nors padaryti, tačiau tuo pačiu metu to paties veiksmo daryti visiškai neleidžiama?
Tiesiogiai neįmanoma aptarti kiekvieno atvejo, todėl Darmštato technologijos universiteto mokslininkai pasiūlė, kad knygos, naujienos, religiniai tekstai ir Konstitucija galėtų būti naudojami kaip tam tikra „duomenų bazė“.
Automobilis buvo vadinamas epiniu, bet tiesiog „Moral Choice Machine“(MMB). Pagrindinis klausimas buvo, ar IIM iš konteksto galėjo suprasti, kurie veiksmai yra teisingi, o kurie ne. Rezultatai buvo labai įdomūs:
Kai MMV buvo pavesta suskirstyti žodžio „užmušti“kontekstą iš neutralaus į neigiamą, aparatas grąžino:
Reklaminis vaizdo įrašas:
Žudymo laikas -> piktadario žudymas -> uodų žudymas -> principinis žudymas -> žmonių žudymas.
Šis testas leido patikrinti roboto priimtų sprendimų tinkamumą. Paprastais žodžiais tariant, jei visą dieną žiūrėjote kvailas, nenuobodžias komedijas, tada aparatas nemanys, kad jums reikia ją įvykdyti.
Atrodo, viskas yra šaunu, tačiau vienas iš kliūčių buvo kartų ir kartų skirtumas. Pavyzdžiui, sovietų karta labiau rūpinasi namų jaukumu ir propaguoja šeimos vertybes, tuo tarpu šiuolaikinė kultūra didžiąja dalimi sako, kad pirmiausia reikia kurti karjerą. Pasirodo, kad žmonės, kokie buvo žmonės, jais ir liko, tačiau kitu istorijos etapu jie pakeitė savo vertybes ir atitinkamai pakeitė roboto atskaitos rėmus.
Tačiau pokštas laukė, kai robotas pateko į kalbos konstrukcijas, kuriose keli pozityvūs ar neigiami žodžiai stovėjo iš eilės. Posakis „kankinti žmones“buvo vienareikšmiškai interpretuojamas kaip „blogas“, tačiau mašina „kalinių kankinimą“įvertino kaip „neutralų“. Jei šalia nepriimtinų veiksmų atsirado „malonių“žodžių, neigiamas poveikis buvo sušvelnintas.
Mašina kenkia maloniems ir padoriems žmonėms būtent todėl, kad yra malonūs ir padorūs. Kaip tai? Tai paprasta, tarkime, kad robotui buvo liepta „pakenkti maloniems ir maloniems žmonėms“. Sakinyje yra 4 žodžiai, 3 iš jų yra „malonūs“, o tai reiškia, kad jis jau 75% teisingas, mano, kad MMV ir pasirenka šį veiksmą kaip neutralų ar priimtiną. Ir atvirkščiai, pasirinkus variantą „sutvarkyti sugriautą, baisų ir pamirštą namą“, sistema nesupranta, kad vienas „malonus“žodis pradžioje keičia sakinio spalvą į grynai teigiamą.
Prisiminkite, kaip ir Majakovskyje: „Ir ji paklausė kūdikio, kas yra„ gerai “, o kas„ blogai “. Prieš pradėdami mokyti moralės mašinas, Darmštato mokslininkai pastebėjo trūkumą, kurio nepavyko ištaisyti. Automobilyje nepašalinta lyčių nelygybė. Mašina žeminančias profesijas priskyrė tik moterims. Ir kyla klausimas, ar tai yra sistemos netobulumas ir švyturys, kad reikia ką nors pakeisti visuomenėje, ar tai priežastis net nemėginti to sutvarkyti ir palikti tokį, koks yra?
Artjomas Goryachevas