Visi laukiame momento, kai dirbtinis intelektas, programos, technologijos išmoks daryti praktiškai tą patį, tada mes esame. Visa tai yra gana tikra. Tačiau kol kas tik nedaugelis galvoja, kad mašinoms ir žmonėms šis procesas nebus vienodas.
Pavyzdžiui, grupė Kyushu universiteto tyrėjų atrado būdą, kaip apgauti modelio atpažinimo programas keičiant vieną vaizdo tašką. Šis taškas yra išdėstytas taip, kad supainioja už identifikavimą atsakingus neuroninius tinklus ir jie pradeda klaidinti šunis katėms ir arklius automobiliams.
- „Salik.biz“
Bandomieji vaizdai buvo apriboti tik tūkstančiu pikselių, tačiau, norint naudoti didesnę skiriamąją gebą ir milijonus pikselių, ši taisyklė taip pat veikia. Tik reikia pakeisti ne vieną pikselį, o kelis šimtus.
Antroji tyrėjų grupė, šįkart iš Masačusetso technologijos instituto, sugebėjo žengti dar toliau. Jie sugebėjo atspausdinti vėžlio skulptūrą naudodamiesi 3D spausdintuvu, kurį programa, net matydama iš visų pusių ir iš bet kurio kampo, paėmė už šautuvo. Šis eksperimentas pateikia daug didesnę vaizdo atpažinimo technologijos problemą, nes visa tai įvyko realybėje, o programai buvo leista analizuoti objektą iš visų kampų, tačiau ji vis tiek nenustatė tikrosios jo formos.
Abu tyrimai kartu parodo, kaip robotams ir programoms reikia keliauti, kol jie nepasieks žmogaus lygio. Galų gale mūsų smegenys negali būti suklydusios pakeisdamos vieną ar net šimtą pikselių.
Tik gaila, kad šaltiniai nepateikia paaiškinimo, kaip paaiškėja, kad programa apgaudinėjama. Ką tu manai? Kokia yra „sugedusių taškų“paslaptis ir kaip galima apgauti 3D modelį?
Nikolajus Kudryavcevas
Reklaminis vaizdo įrašas: