2016 m. Kovo mėn. „DeepMind“kompiuterio „AlphaGo“algoritmas sugebėjo nugalėti Lee Sedol, tuometinį geriausią pasaulyje dėlionės žaidėją. Šis įvykis tapo vienu iš svarbiausių momentų technologijų pramonės istorijoje, kurie vienu metu buvo „IBM“„Deep Blue“pergalė prieš pasaulio šachmatų čempioną Garry Kasparovą ir „Watson“superkompiuterio iš to paties IBM pergalė „Jeopardy“viktorinoje 2011 m.
Nepaisant šių pergalių, kad ir kokios įspūdingos jos būtų, tai labiau susiję su treniruočių algoritmais ir neapdorotos skaičiavimo galios naudojimu, o ne su tikru dirbtiniu intelektu. Buvęs MIT robotikos profesorius Rodney Brooksas, kuris įkūrė „iRobot“ir vėliau „Rethink Robotics“, sako, kad algoritmo mokymasis žaisti sudėtingą strateginį galvosūkį nėra intelektas. Bent jau ne taip, kaip mes tai įsivaizduojame žmogui.
- „Salik.biz“
Ekspertas aiškina, kad ir koks stiprus „AlphaGo“gali pasirodyti atlikdamas jam paskirtą užduotį, iš tikrųjų jis nieko nesugeba. Dar daugiau, jis yra pasirengęs žaisti tik „Go“standartinėje aikštėje 19 x 19. Interviu „TechCrunch“Brooksas pasakojo apie tai, kaip neseniai turėjo galimybę pabendrauti su „DeepMind“komanda ir sužinoti įdomią detalę. Paklaustas, kas nutiks, jei organizatoriai pakeis ėjimo lentos dydį ir padidins ją iki 29 x 29 kvadratų, „AlphaGo“komanda jam prisipažino, kad net nedidelis žaidimo lauko pakeitimas lems tai, kad „mes esame baigti“.
„Manau, kad žmonės mato, kaip gerai algoritmas daro vieną dalyką, ir atrodo, kad jie iškart pagalvoja, kad tą patį veiksmingai gali padaryti ir kiti. Bet esmė ta, kad jis negali “, - komentavo Brooksas.
Bendras intelektas
Šių metų gegužę, interviu su Davinu Coldway'u „TechCrunch Disrupt“, Kasparovas pažymėjo, kad kompiuterio, galinčio žaisti šachmatais, sukūrimas pasauliniu lygiu yra vienas dalykas, tačiau visiškai kas kita yra vadinti tokį kompiuterį grynu dirbtiniu intelektu, nes taip nėra. Tai tiesiog mašina, kuri visą savo skaičiavimo galią panaudoja problemos, kurią ji įpratusi daryti geriausiai, sprendimui.
„Šachmatuose mašinos laimi dėl gilaus skaičiavimo galios. Jie gali tapti visiškai nenugalimi naudojant didžiulę duomenų bazę, labai greitą aparatinę įrangą ir logiškesnius algoritmus. Tačiau jiems trūksta supratimo. Jie nepripažįsta strateginių modelių. Mašinos neturi tikslo “, - teigė Kasparovas.
Reklaminis vaizdo įrašas:
„Robotics“sesijoje „TechCrunch“taip pat kalbėjo „Toyota Institute“generalinis direktorius, „Toyota“AI ir AI padalinimas namų robotuose ir savarankiškai važiuojančiuose automobiliuose. Jo nuomone, baimė, kurią girdime iš daugybės žmonių, tarp jų ir Elono Musko, kuris neseniai dirbtinį intelektą pavadino „egzistencine grėsme žmonijai“, gali kilti ne dėl nieko kito, kaip tik tie distopiniai pasaulio aprašymai, kuriuos mums siūlo mokslinė fantastika.
„Mūsų dabartinės gilaus mokymosi sistemos tik gerai atlieka jiems paskirtas užduotis, kaip mes jas sukonstravome. Tačiau iš tikrųjų jie yra gana specializuoti ir nedidelio masto. Todėl manau, kad kiekvieną kartą šios temos kontekste svarbu paminėti ir tai, kokie jie geri, ir kokie jie yra neveiksmingi. Be to, kiek mes esame nutolę nuo taško, kuriame šios sistemos gali pradėti kelti grėsmę, apie kurią kalba Elonas Muskas ir kiti “, - komentavo Pratt.
Brooksas, savo ruožtu, „TechCrunch“robotikos sesijoje pažymėjo, kad žmonės apskritai linkę manyti, kad jei algoritmas sugeba susidoroti su „X“užduotimi, tada jis, matyt, yra toks pat protingas, kaip ir žmogus.
„Manau, kad priežastis, dėl kurios žmonės, įskaitant Eloną Muską, daro šią klaidą. Kai matome žmogų, atliekantį labai gerą darbą su jam paskirta užduotimi, suprantame, kad jis turi didelę kompetenciją šiuo klausimu. Man atrodo, kad žmonės bando tą patį modelį pritaikyti mašininiam mokymuisi. Štai ir slypi didžiausia klaida “, - sako Brooksas.
„Facebook“vadovas Markas Zuckerbergas praėjusį sekmadienį surengė tiesioginę transliaciją, kurios metu jis taip pat kritikavo Elono Musko komentarus, vadindamas juos „gana neatsakingais“. Anot Zuckerbergo, AI galės žymiai pagerinti mūsų gyvenimą. Muskas, savo ruožtu, nusprendė netylėti ir atsakė Zuckerbergui, kad turi „ribotą supratimą“apie AI. Tema dar nebuvo uždaryta, o Muskas pažadėjo šiek tiek vėliau išsamiau atsakyti į IT pramonės kolegų išpuolius.
Beje, Muskas nėra vienintelis, kuris mano, kad PG gali kelti potencialią grėsmę. Fizikas Stephenas Hawkingas ir filosofas Nickas Bostromas taip pat išreiškia susirūpinimą dėl dirbtinio intelekto galimybių įsiskverbti į žmonijos gyvenimo kelią. Bet greičiausiai jie kalba apie labiau apibendrintą dirbtinį intelektą. Apie tai, kas tiriama tokiose laboratorijose kaip „Facebook AI Research“, „DeepMind“ir „Maluuba“, o ne apie labiau specializuotą AI, kurios pradžią galime pamatyti šiandien.
Brooksas taip pat pažymi, kad daugelis AI kritikų net neveikia šioje srityje, ir pasiūlė šiems žmonėms paprasčiausiai nesuprasti, kaip gali būti sunku rasti sprendimą kiekvienai atskirai šios srities problemai.
„Tiesą sakant, nėra daug žmonių, kurie mano, kad AI yra egzistencinė grėsmė. Stephenas Hawkingas, britų astrofizikas ir astronomas Martinas Reesas … ir dar keli. Ironija ta, kad dauguma jų turi vieną bendrą bruožą - jie net nedirba dirbtinio intelekto srityje “, - sakė Brooksas.
"Tiems iš mūsų, kurie dirba su AI, yra visiškai akivaizdu, kaip sunku gali būti kažkas, kad veiktų gatavo produkto lygiu."
AI klaidingas pateikimas
Dalis problemos kyla ir dėl to, kad mes visa tai vadiname „dirbtiniu intelektu“. Tiesa ta, kad šis „intelektas“visiškai nepanašus į žmogaus intelektą, kuris dažniausiai aprašomas žinynuose ir žodyne kaip „gebėjimas mokytis, suprasti ir prisitaikyti prie naujų situacijų“.
Paskalis Kaufmanas, „Starmind“, startuolio, padedančio kitoms įmonėms panaudoti kolektyvinį žmogaus intelektą, ieškant verslo problemų sprendimų, generalinis direktorius, pastaruosius 15 metų studijavo neuromokslą. Žmogaus smegenys ir kompiuteris, pažymi Kaufmanas, veikia labai skirtingai, ir juos palyginus būtų akivaizdi klaida.
„Analogija - smegenys veikia kaip kompiuteris - yra labai pavojinga ir kliudo AI progresui“, - sako Kaufmanas.
Ekspertas taip pat mano, kad mes nepapulsime į žmogaus intelekto supratimą, jei atsižvelgsime į tai technologine prasme.
Klaidinga nuomonė, kad algoritmai veikia kaip žmogaus smegenys. Žmonės tiesiog mėgsta algoritmus ir todėl mano, kad smegenys gali būti apibūdintos jų pagalba. Manau, kad tai iš esmės neteisinga “, - priduria Kaufmanas.
Jei kažkas negerai
Yra daug pavyzdžių, kai PG algoritmai nėra beveik tokie protingi, kaip mes įpratome juos galvoti. Ir vienas galbūt liūdniausių yra AI algoritmas „Tay“, kurį praėjusiais metais sukūrė „Microsoft“AI sistemų kūrimo komanda ir kurio nekontroliavo. Boto pavertimas tikru rasistu užtruko mažiau nei dieną. Ekspertai sako, kad taip gali nutikti bet kuriai AI sistemai, kai pateikiami blogi vaidmenų modeliai. Tay atveju ji pateko į rasistinių ir kitų įžeidžiančių žodyno formų įtaką. Ir kadangi buvo užprogramuota „mokytis“ir „veidrodinis elgesys“, tai netrukus pasitraukė iš tyrėjų kontrolės.
Plačiai paplitę Kornelio ir Vajomingo tyrimai nustatė, kad labai lengva apgauti algoritmus, apmokytus atpažinti skaitmeninius vaizdus. Jie nustatė, kad vaizdas, kuris žmonėms atrodė „užmaskuotas nesąmonė“, algoritmu buvo atpažįstamas kaip kurio nors kasdienio objekto, pavyzdžiui, „mokyklinio autobuso“, vaizdas.
Remiantis „MIT Tech Review“publikuotu straipsniu, kuriame aprašomas šis projektas, nėra visiškai aišku, kodėl algoritmą galima apgauti taip, kaip tai padarė tyrėjai. Tai, kas buvo išsiaiškinta, yra tai, kad žmonės išmoko atpažinti tai, kas jų akivaizdoje - arba savarankišką vaizdą, arba kažkokį nesuprantamą vaizdą. Algoritmai, savo ruožtu, analizuojant pikselius, yra lengviau manipuliuojami ir apgaudinėjami.
Kalbant apie savarankiškai važiuojančius automobilius, viskas pasirodo daug sudėtingiau. Yra keletas dalykų, kuriuos žmogus supranta ruošdamasis susidurti su tam tikromis situacijomis. Tai išmokyti mašiną bus labai sunku. Dideliame šių metų sausio mėn. Viename iš automobilių tinklaraščių paskelbtame Rodney Brookso straipsnyje pateikiami keli tokių situacijų pavyzdžiai, įskaitant vieną, kuriame aprašomas savarankiškai važiuojantis automobilis, artėjantis prie sustojimo ženklo, esančio šalia pėsčiųjų perėjos mieste. kurio pradžioje suaugęs ir vaikas stovi ir bendrauja.
Algoritmas greičiausiai bus suderintas laukti pėsčiųjų perėjus kelią. O kas, jei šie pėstieji net negalvojo kirsti kelio, nes jie stovi ir laukia, tarkime, mokyklinio autobuso? Žmogus vairuotojas tokiu atveju galėjo surakinti pėsčiuosius, kurie, reaguodami į jį, galėjo banguoti, pranešdami, kad jis gali praeiti. Nepilotuojamas automobilis tokioje situacijoje gali tiesiog įstrigti sandariai, be galo laukdamas, kol žmonės kirs kelią, nes algoritmas neturi supratimo apie tokius unikalius žmogaus signalus, rašo Brooksas.
Kiekvienas iš šių pavyzdžių parodo, kiek dar turime žengti kurdami dirbtinio intelekto algoritmus. Vis dar kyla klausimas, ar pavyks sėkmingai apibendrinti AI kūrėjus. Yra dalykų, su kuriais žmogus gali lengvai susitvarkyti, tačiau išmokti algoritmą tai bus tikras kankinimas. Kodėl? Kadangi mes, žmonės, mokydamiesi neapsiribojame konkrečių užduočių rinkiniu.
Nikolajus Khizhnyak