Už lango yra 2022 m. Važiuojate savarankiškai vairuojamu automobiliu, kaip įprasta, per miestą. Automobilis artėja prie stop ženklo, kurį jis praleido daugybę kartų, tačiau šį kartą nesustoja priešais jį. Jums šis stop ženklas yra toks, kaip kiti. Tačiau automobiliui jis yra visiškai kitoks. Kelios minutės anksčiau, niekam neįspėjęs, užpuolikas buvo užklijavęs mažą plokštelę ant ženklo, nematomą žmogaus akiai, tačiau kurios technologijos nepastebėti. T. y., Mažas lipdukas ant ženklo pavertė stop ženklą kažkuo visiškai kitokiu nei stop ženklas.
Visa tai gali pasirodyti neįtikėtina. Tačiau auganti tyrimų sritis įrodo, kad dirbtinis intelektas gali būti apgautas kažko panašaus, jei jame matoma mažytė detalė, visiškai nematoma žmonėms. Kadangi mašinų mokymosi algoritmai vis dažniau pasirodo mūsų keliuose, mūsų finansai, sveikatos priežiūros sistema, kompiuterių mokslininkai tikisi sužinoti daugiau apie tai, kaip apsaugoti juos nuo tokių išpuolių - prieš tai, kai kas nors iš tikrųjų bando juos apgauti.
- „Salik.biz“
„Tai kelia vis didesnį susirūpinimą mašinų mokymuisi ir AI bendruomenei, ypač todėl, kad šie algoritmai naudojami vis daugiau ir daugiau“, - sako Oregono universiteto Kompiuterių ir informacijos mokslų katedros docentas Danielis Lode. „Jei šlamštas praeina arba jį blokuoja keli el. Laiškai, tai dar nėra pasaulio pabaiga. Bet jei pasikliaujate vairavimo sistema, kuri automobilyje nurodo, kaip vairuoti, nieko nesudaužant, statymai yra kur kas didesni. “
Nepaisant to, ar mašina sugenda, ar ji nulaužta, nukentės mašinų mokymosi algoritmai, kurie „mato“pasaulį. Taigi prie automobilio panda atrodo kaip gibonas, o mokyklinis autobusas - kaip stručio.
Viename eksperimente mokslininkai iš Prancūzijos ir Šveicarijos parodė, kaip tokie sutrikimai gali priversti kompiuterį suklaidinti pilkosios lapės voverę ir papūgos kavos puodą.
Kaip tai įmanoma? Pagalvokite apie tai, kaip jūsų vaikas mokosi atpažinti skaičius. Pažvelgęs į simbolius po vieną, vaikas pradeda pastebėti kai kurias bendras savybes: kai kurie yra aukštesni ir plonesni, šešiose ir devyniose yra viena didelė kilpa, o aštuoniukėse yra dvi ir pan. Pamatę pakankamai pavyzdžių, jie greitai atpažįsta naujus numerius kaip keturkojus, aštuonerius ar trejetukus - net jei šrifto ar rašysenos dėka jie neatrodo taip, kaip kiti keturkojai, aštuoni ar trejetai, kuriuos jie kada nors turi. matyta anksčiau.
Mašinų mokymosi algoritmai išmoksta skaityti pasaulį per šiek tiek panašų procesą. Mokslininkai pateikia kompiuteriui šimtus ar tūkstančius (paprastai pažymėtų) pavyzdžių, ką jie norėtų rasti kompiuteryje. Kai mašina peržiūri duomenis - tai yra skaičius, tai nėra, tai yra skaičius, tai nėra - jis pradeda pastebėti savybes, kurios lemia atsakymą. Netrukus ji gali pažvelgti į nuotrauką ir pasakyti: „Štai penki!“labai tiksliai.
Reklaminis vaizdo įrašas:
Taigi tiek vaikai, tiek kompiuteriai gali išmokti atpažinti daugybę objektų - nuo skaičių iki kačių, nuo valčių iki atskirų žmonių veidų.
Tačiau, skirtingai nei žmogaus vaikas, kompiuteris nekreipia dėmesio į aukšto lygio detales - kaip į pūkuotas kačių ausis ar skiriamąją keturių formų kampinę formą. Jis nemato viso paveikslo.
Vietoje to žiūrima į atskirus vaizdo taškus - ir greičiausias būdas atskirti objektus. Jei didžioji dauguma vienetų tam tikrame taške turi juodą tašką, o kituose taškuose - keletą baltų taškų, mašina labai greitai išmoks juos nustatyti keliais taškais.
Dabar vėl prie stotelės ženklo. Nepriimtinai taisydami vaizdo taškus - ekspertai šį trikdymą vadina „pasipiktinimu“- galite apgauti kompiuterį galvodami, kad iš tikrųjų nėra stop ženklo.
Panašūs Vajomingo universiteto ir Kornelio universiteto Evoliucinio dirbtinio intelekto laboratorijos tyrimai sukūrė nemažai dirbtinio intelekto optinių iliuzijų. Šie psichodeliniai abstrakčių modelių ir spalvų vaizdai žmonėms niekuo nepanašūs, tačiau kompiuteris juos greitai atpažįsta kaip gyvates ar šautuvus. Tai rodo, kaip PG gali į ką nors pažvelgti ir nematyti objekto arba vietoj jo pamatyti ką nors kita.
Šis trūkumas būdingas visų tipų mašininio mokymosi algoritmams. „Galima tikėtis, kad kiekviename algoritme yra skylė šarvo“, - sako Jevgenijus Vorobeichikas, Vanderbilto universiteto informatikos ir informatikos profesorius. „Mes gyvename labai sudėtingame daugialypiame pasaulyje ir algoritmai iš prigimties turi įtakos tik mažai jo daliai“.
Žvirblis yra „nepaprastai įsitikinęs“, kad jei šie pažeidžiamumai egzistuos, kažkas sugalvos, kaip juos išnaudoti. Tikriausiai kažkas tai jau padarė.
Apsvarstykite šlamšto filtrus, automatines programas, kurios filtruoja nepatogius el. Laiškus. Šlamšto platintojai gali pabandyti apeiti šią kliūtį pakeisdami žodžių rašybą (vietoj „Viagra - vi @ gra“) arba pridėdami „gerų žodžių“, kurie paprastai būna įprastomis raidėmis, sąrašą: kaip „aha“, „aš“, „džiaugiuosi“. Tuo tarpu šlamšto platintojai gali pabandyti pašalinti žodžius, kurie dažnai rodomi šlamštuose, pvz., „Mobilusis“arba „laimėti“.
Kur sukčiai gali patekti į vieną dieną? Savarankiškas automobilis, apgautas stop ženklo lipduku, yra klasikinis scenarijus, kurį sumanė šios srities ekspertai. Dėl papildomų duomenų pornografija gali praslysti per saugius filtrus. Kiti gali bandyti padidinti patikrinimų skaičių. Piratai gali pakeisti kenksmingos programinės įrangos kodą, kad išvengtų teisėsaugos.
Užpuolikai gali išsiaiškinti, kaip sukurti trūkstamus duomenis, jei jie gauna mašinų mokymosi algoritmo, kurį jie nori apgauti, kopiją. Bet tai nebūtinai turi būti per algoritmą. Jį galima tiesiog sugriauti žiauriomis jėgomis, įmesdami į jį šiek tiek skirtingų el. Pašto adresų ar vaizdų versijų, kol jie praeis. Laikui bėgant, jis netgi galėjo būti naudojamas visiškai naujam modeliui, kuris žino, ko nori geri vaikinai ir kokius duomenis turi pateikti, kad juos apgautų.
„Žmonės manipuliuoja mašininio mokymosi sistemomis nuo tada, kai buvo pirmą kartą pristatyti“, - sako Pensilvanijos universiteto informatikos ir inžinerijos profesorius Patrick McDaniel. "Jei žmonės naudojasi šiais metodais, mes apie tai net negalime žinoti".
Šiuos metodus gali naudoti ne tik sukčiai - žmonės gali pasislėpti nuo šiuolaikinių technologijų rentgeno akių.
„Jei esate kažkoks politinis disidentas, kuriam taikomas represinis režimas, ir norite renginius vesti be žvalgybos agentūrų žinios, jums gali tekti vengti automatinių stebėjimo metodų, pagrįstų mašinų mokymu“, - sako Lode.
Viename spalį paskelbtame projekte Carnegie Mellon universiteto tyrėjai sukūrė pora akinių, kurie gali subtiliai klaidinti veido atpažinimo sistemą, priversdami kompiuterį suklysti nuo aktorės Reese Witherspoon dėl Russello Crowe. Tai skamba juokingai, tačiau tokia technologija gali būti naudinga visiems, norintiems išvengti valdančiųjų cenzūros.
Ką su visa tai daryti? „Vienintelis būdas to visiškai išvengti yra sukurti tobulą modelį, kuris visada bus teisingas“, - sako Lode. Net jei galėtume sukurti dirbtinį intelektą, kuris visais būdais pranoksta žmones, pasaulis vis tiek gali paslysti kiaulę netikėtoje vietoje.
Mašinų mokymosi algoritmai paprastai vertinami pagal jų tikslumą. Programa, atpažįstanti kėdes 99% laiko, bus aiškiai geresnė nei ta, kuri atpažįsta 6 kėdes iš 10. Tačiau kai kurie ekspertai siūlo kitą būdą įvertinti algoritmo sugebėjimą susidoroti su išpuoliu: kuo sunkesnis, tuo geriau.
Kitas sprendimas galėtų būti ekspertų sugebėjimas nustatyti programų tempą. Remdamiesi, jūsų manymu, nusikaltėlių galimybėmis, sukurkite savo išpuolių laboratorijoje pavyzdžius ir parodykite jiems mašininio mokymosi algoritmą. Tai gali padėti laikui bėgant tapti atsparesnėms - su sąlyga, kad, žinoma, jei bandomosios atakos bus tokio tipo, kuris bus išbandomas realiame pasaulyje.
„Mašinų mokymosi sistemos yra mąstymo įrankis. Mes turime būti protingi ir racionalūs dėl to, ką jiems suteikiame ir ką jie mums sako “, - teigė McDaniel. "Mes neturėtume jų vertinti kaip tobulų tiesos žodžių."
ILYA KHEL
