Mokslininkai ir programuotojai nustojo suprasti, kaip dirbtinis intelektas priima sprendimus. Šią problemą keli specialistai paskelbė pagrindinėje AI konferencijoje - neuronų informacijos apdorojimo sistemose -, vykusioje Long Byče (Kalifornija).
„Quartz“apklausti ekspertai sako, kad reikia veikti prieš tai, kai sistema pasidaro per sudėtinga.
- „Salik.biz“
„Mes nenorime priimti AI sprendimų savaime suprantamai, nesuvokdami jų logikos“, - sako Jasonas Yosinski iš „Uber“. "Kad visuomenė priimtų mašininio mokymosi modelius, mes turime žinoti, kaip PG daro tam tikras išvadas".
Problema, kurią daugelis ekspertų vadina „juoda dėžute“, yra išties rimta. Ankstesnė patirtis parodė, kad PG yra linkusi priimti šališkus sprendimus ir rengti analogijas ten, kur neturėtų. Neuroniniai tinklai pamažu įsiskverbia į teisėsaugą, sveikatos priežiūros sistemą, mokslinius tyrimus ir algoritmus, kurie nustato tai, ką matote „Facebook“naujienų kanale šiandien, AI klaida gali būti labai brangi.
Kaip pavyzdį Kiri Wagstaffas, AE ekspertas iš „Jet Propolusion Lab“(NASA), nurodo misiją į Marsą. Įrenginiai yra nutolę 200 milijonų mylių nuo Žemės ir kainuoja šimtus milijonų dolerių, todėl bet kokios AI darbo klaidos yra tiesiog nepriimtinos.
„Žmonės turi žinoti, ką daro AI ir kodėl. Priešingu atveju, kaip jie gali patikėti jam valdyti brangią įrangą? “- sako Wagstaffas.
Šiuo metu mokslininkas dirba pagal algoritmą, kuris rūšiuoja įvairius NASA erdvėlaivius darytus vaizdus. Kadangi vaizdų yra milijonais, kompiuteris suteikia galimybę rūšiuoti ir išryškinti įdomiausius, šiam procesui nepagailint daug laiko. Tačiau problema slypi tame, kad dažnai tik PG žino, kodėl tam tikri jos pasirinkti vaizdai yra neįprasti.
Taigi, daro išvadą „Wagstaff“, jei šiame algoritme yra klaida, vieną dieną jis gali praleisti labai svarbią informaciją.
Reklaminis vaizdo įrašas:
„Iš esmės kompiuteris suteikia jums vaizdą ir sako:„ Žiūrėk, tai įdomu “. Bet jūs ne visada galite suprasti, kodėl tai įdomu: dėl daiktų spalvos, formos ar jų vietos erdvėje - ko gero, to nežinote “, - sako mokslininkas.
Hannah Wallach, „Microsoft“vyresnioji tyrėja, sutinka su savo kolegų išvadomis.
„Kadangi mašinų mokymasis tampa vis labiau paplitęs ir didėja statymai, mes nebegalime žiūrėti į šias sistemas kaip į juodąsias dėžutes. Turime suprasti, kas vyksta jų viduje ir ką jie daro “, - teigė tyrėjas.
Laimei, mokslininkai bando rasti metodus, kaip suprasti dirbtinio intelekto logiką. Taigi „Google“tyrėja Mitra Raghu pateikė pranešimą, kuriame aprašomas atskirų nervinio tinklo „neuronų“veiksmų sekimo procesas. Analizuodama milijonus operacijų, ji sugebėjo išsiaiškinti, kuris iš dirbtinių „neuronų“sutelkė dėmesį į klaidingas nuomones, ir jas išjungti. Tai įrodo, kad neuroninių tinklų darbo išvertimas į žmogaus supratimui prieinamą formą nėra tokia neįmanoma užduotis.
Kitas problemos sprendimo variantas - reguliariai tikrinti dirbtinio intelekto lavintus įgūdžius.
„Tai panašu į tai, kad mokyklos mokytojai prašo vaikų savo žodžiais pasakyti, ką jie suprato iš mokytojo paaiškinimo“, - sako Wagstaffas.
Nepaisant to, svarbu suprasti vidinius algoritmo tikslus ne tik užkirsti kelią hipotetiniam roveriui nukristi nuo Marso uolos; suprasdami, kas yra gedimas, galite dar patobulinti esamas sistemas.
„Jei jūsų sistema neveikia ir nežinote kodėl, tada labai sunku ką nors padaryti su ja“, - sako Yosinski. "Jei žinote, kas nutiko, tada situaciją visada galima ištaisyti".
Naudotos svetainės „hightech.fm“medžiagos