Masačusetso technologijos instituto (MIT) tyrėjai sukūrė dirbtinio intelekto (AI) analizuojančio teksto analizės apgaulės metodą, pranešė „Wired“23 vasario mėn.
Tyrėjai pastebėjo, kad nežymus asmeniui suprantamos frazės pakeitimas gali apgauti AI. Jie sukūrė algoritmą, kuris pakeistų žodžius sinonimais ir apgautų AI atpažinimo tekstą. Niuansas yra tas, kad pats puolantis algoritmas naudoja AI sinonimams pasirinkti.
- „Salik.biz“
Kaip pavyzdį galima pasakyti frazę: „Personažai, įvardyti neįmanomai sugalvotose situacijose, yra visiškai atsiriboję nuo tikrovės“. („Veikėjai, vaidinami neįtikėtinai įsivaizduojamose situacijose, visiškai nesusiję su tikrove“), tai yra neigiama filmo peržiūra.
Jei jame esančius žodžius pakeisime sinonimais, tada frazė „Veikėjai, iškalti neįmanomai inžinerinėmis aplinkybėmis, yra visiškai atsiriboję nuo tikrovės“(„Nepaprastai meistriškomis aplinkybėmis suvaidinti personažai yra visiškai atskirti nuo realybės“), tada AI mano, kad apžvalga yra teigiama.
Taip pat galima apgauti ir kitų tipų PG sistemas; šiuo atveju pažeidžiamumas daugiausia buvo parodytas vaizdo ir kalbos atpažinimo sistemose.
Tyrėjai pažymėjo, kad tokie subtilūs duomenų iškraipymai gali apgauti AI ir būti naudojami pulti sistemas, o tai tampa reikšminga, kai AI plinta finansų, sveikatos priežiūros ir kitose srityse.