Važiuoji greitkeliu, kai vyras išvažiuoja į judrų kelią. Automobiliai juda aplink jus, o jūs turite sekundę padalinti, kad galėtumėte apsispręsti: pabandykite išvengti žmogaus ir sukurti avarijos riziką? Tęsti vairavimą su viltimi, kad jis turės laiko? Stabdyti? Kaip jūs vertinate šansus, jei vaikas užrišamas galinėje sėdynėje? Daugeliu atžvilgių tai yra klasikinė „moralinė dilema“, vežimėlio problema. Ji turi milijoną skirtingų variantų, leidžiančių nustatyti žmogaus prietarus, tačiau esmė ta pati.
Esate tokioje situacijoje, kai pavojus yra gyvenimas ir mirtis, paprasto pasirinkimo nėra, ir jūsų sprendimas iš tikrųjų nulems, kas gyvena ir kas miršta.
- „Salik.biz“
Vežimėlio dilema ir dirbtinis intelektas
Naujasis MIT leidinys, praėjusią savaitę paskelbtas žurnale „Nature“, bando surasti veiksmingą vežimėlių problemos sprendimą įdarbindamas milijonus savanorių. Eksperimentas prasidėjo 2014 m. Ir buvo sėkmingas. Buvo gauta daugiau nei 40 milijonų atsakymų iš 233 šalių, todėl tai buvo vienas didžiausių kada nors atliktų moralės tyrimų.
Žmogus tokius sprendimus gali priimti nesąmoningai. Kai jūsų automobilis lenktyniauja keliu, sunku pasverti visas etines sistemas ir moralines prielaidas. Tačiau mūsų pasaulyje sprendimus vis dažniau priima algoritmai, o kompiuteriai lengvai reaguoja greičiau nei mes.
Hipotetinės situacijos, kai automobiliai važiuoja savarankiškai, nėra vieninteliai moraliniai sprendimai, kuriuos turi priimti algoritmai. Medicinos algoritmai parinks, kas gydysis ribotais ištekliais. Automatizuoti dronai pasirinks, kiek „užstato žalos“yra priimtina individualiame kariniame dalyvavime.
Reklaminis vaizdo įrašas:
Ne visi moralės principai yra vienodi
Vežimėlio problemos „sprendimai“yra tokie patys įvairūs, kaip ir pačios problemos. Kaip mašinos priims moralinius sprendimus, kai moralės ir etikos pagrindai nėra visuotinai priimami ir gali neturėti sprendimų? Kas gali nustatyti, ar algoritmas veikia teisingai, ar neteisingai?
„Moral Machine“mokslininkų pasirinktas minios šaltinių metodas yra gana pragmatiškas. Galiausiai, kad visuomenė priimtų savarankiškai vairuojančius automobilius, ji turi sutikti su jų sprendimų moraliniu pagrindu. Nebus gerai, jei etikai ar teisininkai sugalvos sprendimą, kuris yra nepriimtinas arba nepriimtinas paprastiems vairuotojams.
Rezultatai leidžia daryti keistą išvadą, kad moraliniai prioritetai (taigi ir algoritminiai sprendimai, kuriuos gali priimti žmonės) priklauso nuo to, kuriame pasaulio krašte esate.
Pirmiausia, mokslininkai pripažįsta, kad neįmanoma žinoti šių situacijų dažnio ar pobūdžio realiame gyvenime. Žmonės, kurie pateko į avariją, labai dažnai negali pasakyti, kas tiksliai įvyko, o galimų situacijų diapazonas užkerta kelią paprastam klasifikavimui. Todėl, kad problemą būtų galima atsekti, ją reikia suskaidyti į supaprastintus scenarijus, ieškant universalių moralės taisyklių ir principų.
Kai atliksite apklausą, jums bus pateikta trylika klausimų, kuriems reikia paprasto „taip“arba „ne“pasirinkimo, bandant susiaurinti atsakymus į devynis veiksnius.
Ar automobilis turėtų pasukti į kitą eismo juostą ar toliau judėti? Ar turėtumėte taupyti jaunus žmones, o ne senus? Moterys ar vyrai? Gyvūnai ar žmonės? Ar reikėtų stengtis išgelbėti kuo daugiau gyvybių, ar vienas vaikas „vertas“dviejų pagyvenusių žmonių? Išsaugoti automobilyje važiuojančius keleivius, o ne pėsčiuosius? Tie, kurie nesilaiko taisyklių, ar tie, kurie nesilaiko taisyklių? Ar turėtumėte išgelbėti fiziškai stipresnius žmones? O kaip aukštesnio socialinio statuso žmonės, pavyzdžiui, gydytojai ar verslininkai?
Šiame atšiauriame hipotetiniame pasaulyje kažkas turi mirti, ir jūs atsakysite į visus šiuos klausimus - su įvairaus entuziazmo laipsniu. Tačiau priimant šiuos sprendimus taip pat išryškėja giliai įsišaknijusios kultūros normos ir šališkumas.
Apdorojant didžiulį mokslininkų apklaustą duomenų rinkinį, gaunamos universalios taisyklės ir keisčiausių išimčių. Trys dominuojantys veiksniai, skaičiuojant vidurkį tarp visų gyventojų, buvo tai, kad visi mieliau išgelbėjo daugiau gyvybių nei mažiau, žmonės, o ne gyvūnai, o jauni, o ne seni.
Regioniniai skirtumai
Galite sutikti su šiais punktais, tačiau kuo giliau pagalvosite apie juos, tuo labiau nerimą sukels moralinės išvados. Daugiau respondentų pasirinko išgelbėti nusikaltėlį už katę, tačiau dažniausiai jie mieliau išgelbėjo šunį už nusikaltėlį. Vidutiniškai pasaulyje senatvė vertinama labiau nei benamė, tačiau benamiai buvo išgelbėti mažiau nei riebūs žmonės.
Ir šios taisyklės nebuvo universalios: respondentai iš Prancūzijos, Jungtinės Karalystės ir JAV pirmenybę teikė jauniems žmonėms, o respondentai iš Kinijos ir Taivano labiau norėjo išgelbėti pagyvenusius žmones. Respondentai iš Japonijos pirmenybę teikė pėstiesiems, o ne keleiviams, o Kinijoje - keleiviams, o ne pėstiesiems.
Tyrėjai nustatė, kad atsakymus pagal šalis jie gali suskirstyti į tris kategorijas: „Vakarai“, daugiausia Šiaurės Amerika ir Europa, kur moralė daugiausia grindžiama krikščionių doktrina; „Rytai“- Japonija, Taivanas, Viduriniai Rytai, kur vyrauja konfucianizmas ir islamas; „Pietinės“šalys, įskaitant Centrinę ir Pietų Ameriką, kartu su didele prancūzų kultūrine įtaka. Pietiniame segmente labiau nei bet kur kitur labiau mėgstama moterų aukojimas. Rytiniame segmente yra didesnė tendencija gelbėti jaunus žmones.
Filtravimas pagal skirtingus respondentų atributus suteikia begalę įdomių variantų. Tikėtina, kad „labai religingi“respondentai nenorėtų išgelbėti gyvūno, tačiau tiek religingi, tiek nereligingi respondentai išreiškia maždaug vienodą pirmenybę gelbėti žmones, turinčius aukštą socialinę padėtį (nors galima sakyti, kad tai prieštarauja kai kurioms religinėms doktrinoms). Vyrai ir moterys labiau mėgsta gelbėti moteris, tačiau vyrai yra mažiau linkę tai daryti.
Neatsakyti klausimai
Niekas neteigia, kad šis tyrimas kažkaip „išsprendžia“visas šias sunkias moralines problemas. Tyrimo autoriai pažymi, kad duomenų rinkimas internete yra susijęs su šališkumu. Bet net ir esant dideliam imties dydžiui, klausimų skaičius buvo ribotas. O kas, jei rizika kinta priklausomai nuo jūsų priimto sprendimo? O kas, jei algoritmas gali apskaičiuoti, kad jūs turėjote tik 50 procentų galimybę nužudyti pėsčiuosius, atsižvelgiant į judėjimo greitį?
Edmondas Awadas, vienas iš tyrimo autorių, išreiškė atsargumą pernelyg aiškindamas rezultatus. Jo manymu, diskusija turėtų pereiti į rizikos analizę - kam daugiau ar mažiau gresia pavojus - užuot nusprendus, kas miršta, o kas ne.
Bet svarbiausias tyrimo rezultatas buvo diskusija, užsidegusi jo dirvožemyje. Kai algoritmai pradeda priimti vis svarbesnius sprendimus, turinčius įtakos žmonių gyvenimams, būtina nuolat diskutuoti apie PG etiką. Projektuojant „dirbtinę sąžinę“, turi būti atsižvelgiama į kiekvieno nuomonę. Nors atsakymus ne visada gali būti lengva rasti, geriausia pabandyti sudaryti moralinę algoritmų sistemą, neleisdami algoritmams savarankiškai formuoti pasaulio be žmogaus kontrolės.