„Amazon“dirbtinis intelektas, skirtas rūšiuoti ieškančių asmenų gyvenimo aprašymus, vyrai užėmė aukštesnę vietą nei moterys. Visų pirma, jis atmetė CV su žodžiu „moteriškas“ir pasiūlė pasamdyti kandidatus, kurie kalboje vartojo tipinius vyriškus veiksmažodžius, net jei šie žmonės neturėjo reikiamų įgūdžių. Dėl to įmonė turėjo uždaryti projektą.
- „Salik.biz“
Dirbtinis HR intelektas
„Amazon“mašinų mokymosi ekspertai nustatė, kad dirbtinis intelektas, kuris apdoroja kandidatų į pareigas įmonėje atnaujinimą, diskriminuoja moteris, ieškančias darbo, praneša „Reuters“. Ši funkcija nebuvo sąmoningai įtraukta į sistemą - tai buvo mašininio mokymosi rezultatas.
Dirbtinio intelekto pagrindu sukurtą rūšiavimo variklį „Amazon“nuo 2014 m. Kuria 12 žmonių komanda Edinburge. Jau 2015 m. Įmonė pastebėjo, kad vertinant kandidatus į programinės įrangos kūrimo pozicijas ir kitas laisvas darbo vietas, naujoji sistema nesilaikė lyčių neutralumo principo.
Netrukus jie suprato priežastį: faktas yra tas, kad sistema buvo apmokyta atnaujinti įmonės įvestus duomenis per pastaruosius 10 metų. Didžiąją dalį šių apžvalgų rengė vyrai, o tai dažniausiai atspindi IT pramonės būklę. Todėl „Amazon“dirbtinis intelektas sužinojo, kad ieškantiems darbo vyrai yra teikiama pirmenybė prieš moteris.
Kalbinis atmetimas
Reklaminis vaizdo įrašas:
Dėl to dirbtinis intelektas pradėjo atsisakyti atnaujinimo, kuriame yra žodis „moteris“tokiomis išraiškomis kaip „moterų šachmatų klubo kapitonas“. Šis mechanizmas taip pat pažemino dviejų moterų kolegijų absolventų pažymius, tačiau „Reuters“šaltiniai nenurodė jų vardų. Vertindamas gyvenimo aprašymus, dirbtinis intelektas joms suteikė nuo vienos iki penkių žvaigždučių - labai panašias į tai, kaip pirkėjai vertina produktus „Amazon“.
Sistema atkreipė dėmesį ir į kitus žodžius. Kūrėjai sukūrė 500 kompiuterinių modelių, skirtų skirtingoms darbo pareigoms ir geografinėms vietovėms. Kiekvienas modelis buvo išmokytas atpažinti apie 50 tūkstančių signalinių žodžių, esančių pareiškėjo gyvenimo aprašyme.
Pažymėtina, kad šis mechanizmas nepaisė žodžių, apibūdinančių įgūdžius, kurie dažnai rašomi IT specialistų gyvenimo aprašymuose, pavyzdžiui, gebėjimas rašyti įvairius kodus ir tt Vietoj to, sistema stebėjo, pavyzdžiui, tipinius vyrų kalbos veiksmažodžius kandidatų savęs aprašyme, pavyzdžiui, „įvykdyta“. (įvykdytas) arba „užfiksuotas“, nes jie buvo reguliariai matomi senuose gyvenimo aprašymuose, iš kurių mašina išmoko. Taikant šį požiūrį, diskriminacija dėl lyties nebuvo vienintelė problema - šis mechanizmas dažnai rekomendavo žmones, kurie neturėjo reikiamų įgūdžių užimti šias pareigas.
Tolesnis projekto likimas
„Amazon“pakoregavo sistemą taip, kad ji nebereaguotų į signalinius žodžius. Tačiau tai nebuvo garantija, kad mechanizmas neras kito būdo, kaip atpažinti moterims priklausančius gyvenimo aprašymus. Iki 2017 m. Pradžios bendrovė nusivylė projektu ir išformino komandą. „Reuters“šaltiniai teigia, kad personalo specialistai atsižvelgė į sistemos rekomendacijas, bet niekada nepasikliavo jomis.
Vienas iš šaltinių teigia, kad projektas baigtas. Kitas teigia, kad Edinburge buvo suformuota nauja komanda, kuri toliau plėtos mechanizmą, tačiau šį kartą pagrindinis dėmesys buvo skiriamas teisingumui ir įtraukčiai. Kitas šaltinis praneša, kad labai modifikuota variklio versija dabar naudojama įprastiems darbams atlikti, pavyzdžiui, pašalinti pakartotinius atnaujinimus iš duomenų bazės.