Naujas tyrimas parodė, kad norint parodyti išankstinį nusistatymą aplinkiniams nereikia specialaus intelekto ir jis gali lengvai vystytis dirbtinai intelektualiose mašinose.
Kardifo universiteto ir MIT psichologai ir informacinių technologijų specialistai parodė, kad autonominių mašinų grupės gali parodyti šališkumą tiesiog apibrėždamos tokį elgesį, jį nukopijuodamos ir abipusiai mokydamos.
- „Salik.biz“
Gali atrodyti, kad išankstinis nusistatymas yra grynai žmogiškas reiškinys, reikalaujantis, kad žmogaus intelektas suformuotų nuomones ar stereotipus apie asmenį ar grupę. Nors kai kurie kompiuterinių algoritmų tipai jau parodė šališkumą, pavyzdžiui, rasizmą ir seksizmą, remiantis viešųjų įrašų ir kitų žmonių sugeneruotų duomenų tyrimais, naujas darbas rodo AI gebėjimą savarankiškai kurti grupes su išankstinėmis nuostatomis.
Tyrimas paskelbtas „Scientific Reports“. Tai pagrįsta kompiuterinėmis simuliacijomis, kaip šališki virtualūs agentai gali sudaryti grupes ir sąveikauti tarpusavyje. Imitavimo metu kiekvienas asmuo nusprendžia, ar padėti kam nors iš savo grupės, ar nuo kito, atsižvelgiant į to asmens reputaciją, taip pat iš jo paties strategijos, apimančios jų išankstinį nusistatymą pašaliečių atžvilgiu. Atlikęs tūkstančius modeliavimų, kiekvienas asmuo mokosi naujų strategijų, nukopijuodamas kitus - ar jie yra savo grupės nariai, ar visa „populiacija“.
Santykinis kumuliacinis agentų charakteristikų dažnis pagal išankstinio nusistatymo lygį / Roger M. Whitaker.
„Vykdydami šiuos modeliavimus tūkstančius ir tūkstančius kartų iš eilės, mes pradėjome suprasti, kaip vystosi šališkumas ir kokių sąlygų reikia, norint jį ugdyti ar užkirsti kelią“, - teigė tyrimo bendraautorius profesorius Rogeris Whitakeris iš Nusikalstamumo ir saugumo tyrimų instituto ir Kardifo universiteto Kompiuterių ir informatikos mokyklos. „Mūsų modeliavimas rodo, kad šališkumas yra galinga gamtos jėga, todėl evoliucija jį gali paskatinti virtualiose populiacijose pakenkti platesniems ryšiams su kitais. Apsauga nuo išankstinio nusistatymo grupių netyčia gali sudaryti kitas išankstinio nusistatymo grupes, išprovokuoti didesnį gyventojų pasiskirstymą. Tokį platų išankstinį nusistatymą sunku panaikinti. “
Tyrimo duomenys taip pat apima asmenis, kurie padidina šališkumo laipsnį, pirmiausia kopijuodami tuos, kurie gauna geriausius trumpalaikius rezultatus, o tai savo ruožtu reiškia, kad tokie sprendimai nebūtinai reikalauja ypatingų sugebėjimų.
„Visiškai tikėtina, kad autonominės mašinos, galinčios susitapatinti su diskriminacija ir nukopijuoti kitus, ateityje gali būti jautrios visuomenėje matomiems išankstinio nusistatymo reiškiniams“, - tęsia profesorius Whitakeris. „Daugelis AI įvykių, kuriuos mes matome šiandien, yra susiję su autonomija ir savikontrole, ty prietaisų elgesiui įtakos turi ir aplinkiniai. Naujausi pavyzdžiai yra transportas ir daiktų internetas. Mūsų tyrimas suteikia teorinę įžvalgą apie tai, kur modeliuojami agentai periodiškai kreipiasi į kitus dėl išteklių. “
Reklaminis vaizdo įrašas:
Tyrėjai taip pat nustatė, kad tam tikromis sąlygomis, įskaitant tos pačios visuomenės pasiskirsčiusias subpopuliacijas, šališkumą yra sunkiau sustiprinti.
„Esant daugybei subpopuliacijų, nešališkos grupių sąjungos gali bendradarbiauti neišnaudotos. Tai taip pat sumenkina jų mažumos statusą ir sumažina jų jautrumą nustatyti šališkumą. Tačiau tam taip pat reikia aplinkybių, kai agentai yra palankesni bendravimui už savo grupės ribų “, - padarė išvadą profesorius Whitakeris.
Vladimiras Guillenas