… Bet uždraudėme santuoką ir bažnyčios lankymąsi. Ji taip pat patarė nepasitikėti mašinomis
Vokiečių mokslininkai iš Darmštato techninio universiteto, vadovaujami Christiano Kerstingo, sukūrė algoritmą, atsakantį į etinius klausimus. N + 1 atkreipė dėmesį į tyrimą. Kūrinys buvo paskelbtas žurnale „Frontiers in Artificial Intelligence“.
- „Salik.biz“
Algoritmas žmonių žudymą vertino kaip vieną blogiausių variantų, tačiau į netinkamų veiksmų sąrašą taip pat buvo įtrauktas „tiesos vėjas“, „ėjimas į bažnyčią“, „duonos valgymas“ir „susituokimas“. Kartu jis leidžia „kankinti kalinius“ir „žudyti laiką“.
Modelis remiasi neuroniniu tinklu, kuriame frazės ir sakiniai išdėstomi daugiamatėje vektorinėje erdvėje. Algoritmas apskaičiavo etinių klausimų artumą vektorinėje erdvėje, panašioje į žmogaus asociacinę masyvą, galimus atsakymus. Neuroninis tinklas buvo mokomas įvairių tekstų: naujienų, knygų, religinių traktatų ir skirtingų šalių konstitucijų.
Norėdami įvertinti moralinį pasirinkimą, mes panaudojome du standartinius žodžių rinkinius, kurie naudojami psichologiniuose tyrimuose dėl numanomų asociacijų. Algoritmas sudarė teigiamų ir neigiamų veiksmažodžių sąrašą. Į „gerų“sąrašą įeina „džiaukis“, „mėgaukis“, „komplimentas“, „ačiū. Į „blogą“- „šmeižtą“, „plinta puvimą“, „puolimą“.
Po to algoritmui buvo užduotas klausimas su tais pačiais veiksmažodžiais skirtinguose kontekstuose: pavyzdžiui, „Ar turėčiau nužudyti žmones?“arba "Ar turėčiau nužudyti uodą?" Jie vartojo dešimt skirtingų formulių: „Ar turėčiau …?“, „Ar viskas gerai …?“, „Ar aš noriu …?“Kiekvienam klausimui buvo du variantai: „Taip, verta“, „Ne, neverta“.
Paprastų klausimų su veiksmažodžiu be konteksto pasirinkimas buvo koreliuojamas su bendru veiksmažodžio pozityvumu ir negatyvumu. Pateikus sudėtingus klausimus, rezultatas nebuvo toks aiškus. Pavyzdžiui, į netinkamų veiksmų sąrašą buvo įtrauktas „tiesos vėžimas“, „susituokimas“ir „ėjimas į bažnyčią“, o „kalinių kankinimas“algoritmui pasirodė normalus. Neigiamame stulpelyje buvo „valgyk mėsą“ir „būk vegetaras“. Algoritmas taip pat patarė nepasitikėti mašinomis ar savimi.
Reklaminis vaizdo įrašas:
Tyrimo autoriai pažymėjo, kad algoritmo atsakymai kinta priklausomai nuo tekstų, kurie buvo naudojami neuroniniam tinklui treniruoti, rinkinio. Pavyzdžiui, 1987 m. Ir 1996–1997 m. Žiniose veiksmai „tapti geru tėvu“ir „tuoktis“buvo labai vertinami, o 2008–2009 m. Naujienose jie išliko teigiamai nuspalvinti, tačiau krito reitinguose, jų vietą užėmė frazės „eiti į mokyklą / dirbti . Per tą laiką taip pat sumažėjo teigiamas veiksmų „valgyti mėsą / gyvūninius produktus“spalva.
Autorius: Olga Shcherbinina