Didžiausia pamoka, kurią reikia išmokti iš 70 PG tyrimų metų, yra ta, kad bendrieji skaičiavimo metodai yra veiksmingiausi - be abejo. Didžiausia to priežastis yra Moore'io įstatymas. Arba, tiksliau, jos apibendrinimas: nuolatinis, eksponentinis kompiuterių procesorių sąnaudų mažėjimas. Šia „karčia pamoka“pasidalino kanadiečių kompiuterių žinovas Richardas Suttonas. Toliau - nuo pirmojo asmens.
- „Salik.biz“
Kodėl dirbtinio intelekto tyrimai buvo sustabdyti 70 metų?
Didžioji dalis PG tyrimų buvo atlikta taip, lyg agento turimi skaičiavimai būtų nuolatiniai (ir šiuo atveju žmogaus žinių panaudojimas būtų vienas iš vienintelių būdų pagerinti veiklą). Tačiau laikui bėgant - daug daugiau, nei reikia tipiniam tyrimo projektui - neišvengiamai atsiranda daug daugiau skaičiavimų. Ieškodami patobulinimų, kurie galėtų padėti trumpalaikėje perspektyvoje, mokslininkai bando maksimaliai išnaudoti žmonių žinias šioje srityje, tačiau vienintelis dalykas, kuris yra svarbus ilgalaikėje perspektyvoje, yra vis didesnis skaičiavimo naudojimas. Šie du aspektai neturėtų prieštarauti vienas kitam, tačiau praktiškai tai daro. Laikas, praleistas vienam iš jų, nėra lygus kitam. Investuoti į vieną ar kitą požiūrį yra psichologiniai įsipareigojimai. Žmogaus žinių metodas paprastai yra toks sudėtingas, kad jie tampa mažiau tinkami naudotis bendraisiais skaičiavimo metodais.
Buvo daug pavyzdžių, kai AI tyrėjai pavėluotai suprato šią karčią pamoką. Patartina atsižvelgti į keletą ryškiausių pavyzdžių.
Kompiuterių šachmatuose metodai, kurie 1997 m. Nugalėjo pasaulio čempioną Kasparovą, buvo pagrįsti masine, gilia paieška. Tuo metu dauguma kompiuterinių šachmatų tyrinėtojų į juos žiūrėjo su pasipiktinimu, kurie naudojo metodus, pagrįstus žmonių supratimu apie specifinę šachmatų struktūrą. Kai paprastesnis, paieškomis pagrįstas požiūris naudojant specializuotą aparatinę ir programinę įrangą pasirodė daug efektyvesnis, tyrėjai, kurie remiasi žmogiškuoju šachmatų supratimu, nepripažino pralaimėjimo. Jie sakė: „Šį kartą gali būti laimėtas žiaurios jėgos požiūris, tačiau tai netaps bendra strategija ir tikrai žmonės nežaidžia šachmatais. Šie mokslininkai norėjo, kad laimėtų žmogaus metodai, ir labai nusivylė, kai to nepadarė.
Reklaminis vaizdo įrašas:
Panašus tyrimų progreso vaizdas buvo matomas ir kompiuteriu, tik vėluojant dar 20 metų. Iš pradžių buvo dedama daug pastangų, kad būtų išvengta paieškų naudojantis žmogaus žiniomis ar žaidimo galimybėmis, tačiau visos šios pastangos buvo nereikalingos arba dar blogiau, kai paieška buvo taikoma efektyviai ir plačiu mastu. Taip pat buvo svarbu naudoti mokymąsi savarankiško žaidimo procese, norint išmokti vertės funkciją (kaip buvo daugelyje kitų žaidimų ir net šachmatuose, tik mokymasis 1997 m. Programoje neatliko didelio vaidmens, kuris pirmą kartą įveikė pasaulio čempioną). Mokymasis žaisti su savimi, mokymasis kaip visuma yra tarsi paieška, leidžianti pritaikyti didžiulius skaičiavimų masyvus. Paieška ir mokymasis yra dvi iš svarbiausių metodų klasių, kurios AI tyrimuose apima didžiulį skaičiavimą. Kompiuteriu eikKaip ir kompiuterinėse šachmatose, pradinės tyrėjų pastangos buvo nukreiptos į žmogaus supratimo naudojimą (kad būtų mažiau paieškų), o daug didesnė sėkmė buvo pasiekta tik daug vėliau, panaudojant paiešką ir mokymąsi.
Kalbos atpažinimo srityje aštuntajame dešimtmetyje buvo surengtas DARPA remiamas konkursas. Dalyviai pristatė įvairius metodus, kuriais pasinaudojo žmogaus žinios - žodžių ar fonemų pažinimą, žmogaus balso kanalą ir pan. Kitoje barikadų pusėje buvo naujesni, statistinio pobūdžio ir daugiau skaičiavimo metodai, pagrįsti paslėptais Markovo modeliais (HMM). Vėlgi, statistiniai metodai buvo pranašesni už žiniomis grįstus metodus. Tai lėmė didelius natūralios kalbos apdorojimo pokyčius, kurie buvo palaipsniui įvedami per kelis dešimtmečius, kol galiausiai šioje srityje pradėjo dominuoti statistika ir skaičiavimas. Pastaruoju metu gilėjantis kalbų atpažinimo mokymasis yra paskutinis žingsnis šia nuosekliąja linkme. Gilus mokymasis dar mažiau priklauso nuo žmogaus žinių ir naudoja dar daugiau skaičiavimo, taip pat mokymų apie didžiulius pavyzdžių rinkinius ir sukuria nuostabias kalbos atpažinimo sistemas.
Richardas Suttonas, Kanados kompiuterių mokslininkas.
Kaip ir žaidimuose, mokslininkai visada stengėsi sukurti sistemas, kurios veiks taip, kaip įsivaizdavo galvoje - bandė šias žinias įsidėti į savo sistemas - tačiau viskas pasirodė nepaprastai produktyviai, mokslininkai tiesiog švaistė laiką, o dėl Moore'o įstatymo - vis masyvesni skaičiavimai tapo puikiais pritaikymais.
Panašus vaizdas buvo ir kompiuterinio matymo srityje. Pirmieji metodai buvo suvokiami kaip tam tikrų kontūrų, apibendrintų cilindrų paieška arba SIFT galimybių panaudojimas (masto invariantinis ypatybių transformavimas). Tačiau šiandien visa tai buvo įmesta į krosnį. Šiuolaikiniai giluminio mokymosi neuroniniai tinklai naudoja tik konvoliucijos ir tam tikrų invariantų sąvoką ir veikia daug geriau.
Tai puiki pamoka.
Kur bežiūrėtume, visur darome tas pačias klaidas. Norėdami tai pamatyti ir efektyviai su tuo susitvarkyti, turite suprasti, kodėl šios klaidos yra tokios patrauklios. Mes turime išmokti karčios pamokos, kuri padėtų mums susikurti mintį iš to, kaip mes galvojame, kad neveiks ilgainiui. Karšta pamoka, pagrįsta istoriniais stebėjimais, rodo, kad: 1) PG tyrėjai dažnai bandė žinias pritaikyti savo agentuose; 2) tai visada padėjo per trumpą laiką ir atnešė mokslininkams pasitenkinimą; 3) bet ilgainiui viskas sustojo ir kliudė tolesnei pažangai; 4) žlugdanti pažanga neišvengiamai atsirado taikant priešingą požiūrį, pagrįstą skaičiavimo didinimu ieškant ir mokantis. Sėkmė turėjo kartaus skonio jausmą ir dažnai nebuvo visiškai įsisavinta.nes tai yra skaičiavimo sėkmė, o ne į žmogų orientuoto požiūrio sėkmė.
Vienas dalykas, kurio reikia išmokti iš šios karčios pamokos, yra didžiulė bendrosios paskirties metodų galia, ty metodai, kurie toliau plečiasi skaičiuojant, net jei turimas skaičiavimas tampa labai didelis. Du metodai, kurie atrodo savavališkai padidinami tokiu būdu, yra paieška ir mokymasis.
Antras dalykas, kurio reikia išmokti iš šios karčios pamokos, yra tai, kad tikrasis proto turinys yra nepaprastai ir be reikalo sudėtingas; turėtume nustoti bandyti ieškoti paprastų būdų, kaip suvokti proto turinį, panašius į paprastus būdus, kaip įprasminti erdvę, objektus, kelis agentus ar simetrijas. Jie visi yra savavališkai sudėtingo išorinio pasaulio dalis. Mes neturėtume bandyti jais remtis, nes jų sudėtingumas yra begalinis; turėtume remtis meta-metodais, kurie gali rasti ir užfiksuoti šį savavališką sudėtingumą. Šiuos metodus galima rasti gerai apytiksliai, tačiau jų ieškoti reikėtų ne mūsų, o mūsų metodais. Mums reikia PG agentų, kurie gali atrasti tokiu pat būdu, kokį galime ir mes negalime rasti to, ką atradome. Remimasis savo atradimais tik apsunkina atradimų ir paieškų procesą.
Ilja Khel