Dirbtinis intelektas perskaitė agresyvius „Reddit“vartotojų komentarus ir suprato, kaip kiti žmonės nekenčia žmonių. Jį apgauti yra sunkiau nei įprastą boto moderatorių.
Internete gyvena riebūs ir ploni troliai ir tiesiog grubūs žmonės, kurie nesikiša į kišenę žodžių. Internetinis valdymas rankiniu būdu yra sunkus ir dėkingas darbas. Botai, užprogramuoti ieškoti žodžių iš „draudžiamo sąrašo“, daro geriau, tačiau jie negali žinoti, kada priežastinis komentaras su kodiniais žodžiais yra nekenksmingas pokštas, o kada - blogis žodinis išpuolis.
- „Salik.biz“
Kanados tyrėjai išmokė dirbtinio intelekto atskirti grubius anekdotus nuo skaudžių pokštų ir tai, ką sociologai vadina „neapykantos kalba“.
Dana Wormsley, viena iš AI kūrėjų, pažymi, kad „neapykantos kalbą“sunku formalizuoti. Iš tikrųjų formaliai įžeidžiantys žodžiai gali būti naudojami tiek su ironija, tiek ir švelnesne jų reikšme; tik kai kurie tekstai, kuriuose yra tokių žodžių, rimtai kursto ir žemina. Mes nepateiksime pavyzdžių, nes Rusijoje internetą reguliuojančios vyriausybinės organizacijos dar neturi dirbtinio intelekto).
Neuroninis tinklas buvo mokomas imtis bendruomenės narių, žinomų dėl jų priešiškumo skirtingoms gyventojų grupėms, teiginių pavyzdžių. Neuroninis tinklas išmoktas iš „Reddit“svetainės įrašų - platformos, kurioje galite rasti įvairiausių interesų grupių, pradedant pilietinių teisių aktyvistais ir baigiant radikaliais misogynais. Į sistemą įkelti tekstai dažniausiai įžeidė afroamerikiečius, antsvorio turinčius žmones ir moteris.
Tokiu būdu treniruotas nervų tinklas pateikė mažiau klaidingų teiginių nei programos, pagal kurias raktiniai žodžiai nustato „neapykantos kalbą“. Sistema užklupo rasizmą ten, kur iš viso nebuvo rodiklių. Tačiau nepaisant gero pasirodymo, AI moderatoriaus kūrėjai nėra tikri, kad jų plėtra bus plačiai naudojama. Kol kas ji sėkmingai rado neapykantos kalbų „Reddit“, tačiau ar ji galės tą patį padaryti „Facebook“ir kitose platformose, nežinoma. Be to, sistema yra netobula, kartais praleidžiama daugelyje akivaizdžiai grubių rasistinių teiginių, kurių nepraleistų raktinių žodžių paieškos varikliai. Vienintelis, kuris sugeba atskirti įžeidimą nuo nekalto pokšto, kol žmogus lieka.