Maskvos fizikos ir technologijos instituto nervų sistemų ir giluminio mokymosi laboratorijos vadovas Michailas Burtsevas kalba apie tai, ar įmanoma sukurti visavertį žmogaus proto kompiuterinį analogą, ir paaiškina, kodėl mokslininkai jį kuria ir kaip jį galima apsaugoti nuo trolių atakų.
Liepos pabaigoje MIPT mokslininkai paskelbė tarptautinį „sakytinių“dirbtinio intelekto sistemų, galinčių imituoti gyvą žmogų, konkursą ir pakvietė visus norinčius su jais bendrauti ir įvertinti kilusius dialogus. Naudodamiesi savanorių pagalba, mokslininkai tikisi per ateinančius trejus metus sukurti balso padėjėją, kuris galėtų bendrauti su žmogumi beveik taip pat gerai, kaip ir gyvu pašnekovu.
Konkursą organizavo Monrealio, McGillo ir Carnegie Mellon universitetų mokslininkai. Dalyvaudami dialogo sistemų testavime galite spustelėdami nuorodą.
Tiesą sakant, šios idėjos nebuvo sugalvotos šiandien - šiuolaikiniai „Google“, „Apple“, „Amazon“ir kitų IT kompanijų balso padėjėjai yra įsišakniję gilumoje, pačioje kompiuterių eros pradžioje. Pirmoji tokia kalbėjimo mašina, pavadinta ELIZA, buvo sukurta 1966 m. Ir iš tikrųjų buvo pokštas, psichoterapeuto parodija, teikianti nenaudingus patarimus pacientui.
Vėlesniais metais ir dešimtmečiais programuotojai sukūrė vis sudėtingesnes ir „gyvesnes“bendravimo su kompiuteriu sistemas. Pažangiausia iš šių sistemų gali atpažinti savininko nuotaiką, prisiminti senus jo norus ir pageidavimus bei išspręsti kai kurias jam įprastas ir buitines užduotis, užsisakyti maisto ar prekių parduotuvėje ar atlikti operatoriaus vaidmenį skambučių centruose.
Michailai, praėjo beveik 50 metų nuo ELIZA sukūrimo. Kas apskritai pasikeitė per šį laiką ir iš esmės gali tikėtis, kad ateityje mokslininkai sugebės sukurti tokią sistemą, kurios žmonės negalėtų atskirti nuo gyvo pašnekovo?
- Manau, kad artimiausiu metu bus galima sukurti sakytinės intelekto technologiją, kuri leis mašinai priartėti prie žmogaus dialogo lygio. Šią užduotį vykdome įgyvendindami „iPavlov“projektą, kuris yra Nacionalinės technologijų iniciatyvos dalis.
Vartotojui turėtų būti patogu bendrauti su automatine dialogo sistema kaip su gyvu žmogumi. Tai leis sukurti informacines sistemas, kurios galėtų geriau suprasti, ko žmogus nori iš jų, ir atsakyti jam natūralia kalba.
Reklaminis vaizdo įrašas:
Pokalbio žvalgyba gali būti naudojama daugelio balso ir teksto sąsajų, įskaitant tokius pasiuntinius kaip „Telegram“, automatizavimui. Pasiuntiniai, kaip rodo statistika, šiandien naudojami aktyviau nei socialiniai tinklai, o labai daug informacijos praeina teksto komunikacijos kanalais.
Pavyzdžiui, juos patogu naudoti transporto priemonėse, o pridėjus interaktyvų asistentą - pokalbių robotą, vartotojai galės ne tik bendrauti tarpusavyje, bet ir gauti reikiamą informaciją, pirkti ir atlikti daug kitų dalykų. Tai paskatins tai, kad tiesioginiai pasiuntiniai ir balso padėjėjai palaipsniui pakeis įprastus tinklalapius ir programas, taip pat atliks internetinių konsultantų ir skambučių centro specialistų vaidmenį.
Ar Rusija gali konkuruoti čia, turint omenyje „Apple“, „Google“ir „Amazon“šioje rinkoje? Ar yra kokia nors rusų kalbos specifika, galinti sutrukdyti potencialiems Rusijos kompanijų konkurentams ir mokslininkams?
- Žinoma, rusų kalba yra sudėtingesnė ir kai kurie metodai, kurie šiandien naudojami kuriant dialogo sistemas ir balso padėjėjus pasaulyje, negali būti taikomi be tobulinimo ir reikšmingų pakeitimų, kurie leistų jiems dirbti su turtingesne gramatika.
Kita vertus, pagrindinių algoritmų, kurie naudojami „Siri“, „Cortana“, „Google“ir kitų skaitmeninių padėjėjų darbe, niekas neslepia - jie mums prieinami bent jau tyrimų ir koncepcijų lygiu. Tyrimų darbai ir programos kodas dažnai yra viešai prieinami - iš esmės juos galima pritaikyti rusų kalbai.
Michailas Burtsevas, MIPT nervų sistemų ir gilaus mokymosi laboratorijos vadovas
Be to, nėra daug bandymų tai įgyvendinti „pramoniniu“lygmeniu. Vienintelį svarbų projektą vykdo „Yandex“, kurianti „Alice“projekto asistentą.
Savo projekte stengiamės sukurti įrankius, kurie supaprastintų ir pagreitintų tokių „pramoninių“dialogo sistemų, skirtų įvairiems tikslams, kūrimą. Tačiau sukurti universalų balso asistentą, galintį išspręsti bet kokias problemas, yra nepaprastai sunki užduotis net didelėms įmonėms.
Kita vertus, daug lengviau automatizuoti smulkųjį verslą, kuris naudos specializuotą dialogo sistemą. Tikimės, kad priemonės, kurias sukursime, padės verslininkams ir programuotojams pakankamai greitai išspręsti tokias problemas, neturint gilių žinių ir nepadėjus tam ypatingų pastangų.
Daugelis mokslininkų, pavyzdžiui, Rogeris Penrose'as ar Stuartas Hameroffas, mano, kad žmogaus protas yra kvantinio pobūdžio ir iš principo neįmanoma sukurti mašinos analogo. Sutinkate su jais ar ne?
- Mano nuomone, jei pažvelgtumėte į tai, ką šiandien žinome apie smegenų struktūrą ir žmogaus sąmonės prigimtį, tai kol kas neturime jokių esminių kliūčių atkurti jų kūrinius kompiuteriu.
Penrose'as ir Hameroffas turi daugybę hipotezių, kurios, jų manymu, paaiškina, kodėl to negalima padaryti. Iki šiol neurofiziologai nerado jokių eksperimentinių įrodymų, kad šios hipotezės yra teisingos, o dabartinė mūsų žinių bazė byloja priešingai.
Kitas dalykas yra tai, kad laiko tarpas, kada tokia mašina bus sukurta, lieka ne iki galo apibrėžtas. Man atrodo, kad tai gali atsitikti mažiausiai po 50 ar net 100 metų.
Ar tam reikės iš esmės naujų technologijų ir kompiuterių, kurie veikimo principais yra artimesni neuronams nei skaitmeninei logikai?
- Jei manome, kad žmogaus intelektas yra pagrįstas tam tikra skaičiavimo forma, tai bet kuri universali skaičiavimo sistema, prilygstanti Tiuringo mašinai, teoriškai gali mėgdžioti žmogaus smegenų darbą.
Kitas dalykas yra tai, kad ši mašina gali veikti labai lėtai, todėl praktiškai ji nenaudinga. Šiandien sunku atspėti, kokių kompiuterių kūrimo technologijų mums čia reikia.
Kokias dar užduotis skaitmeniniai padėjėjai gali išspręsti be tų dalykų, kuriuos jie daro šiandien? Ar jie gali būti naudojami iššifruoti tekstus negyvomis kalbomis ar šifravimus, pavyzdžiui, Voynicho rankraštį?
- Šiuo metu, kiek žinau, niekas nebandė naudoti neuroninių tinklų, kad atskleistų mirusių kalbų paslaptis ir iššifruotų tekstus, tačiau man atrodo, kad kažkas bandys tai padaryti artimiausiu metu. Mes, savo ruožtu, dar nesidomėjome tokiais dalykais.
„Pagalbininkas“iš tikrųjų yra labai plati sąvoka, apimanti daug skirtingų dalykų. Pavyzdžiui, paėmus tą pačią ELIZA, virtualią „psichoterapeutą“, kyla klausimas: ar ji asistentė, ar ne?
Pokalbių sistemos gali būti naudojamos ne tik sprendžiant praktines problemas, bet ir norint linksminti žmones ar palaikyti jų nuotaiką. Iš tikrųjų čia kyla klausimas, ką mes turime omenyje turėdami asmeninio padėjėjo sąvoką ir kiek ji plati ar siaura. Plačiąja prasme tokios sistemos gali išspręsti visus su komunikacija susijusius klausimus, nors ir skirtingai.
Pokalbių sąsajos, be tiesioginio bendravimo su žmonėmis, taip pat gali būti naudojamos mokyti mašinas greitai rasti bendrą kalbą ir perkelti informaciją iš vienos sistemos į kitą.
Tai apeis ryšio užmezgimo ir duomenų perdavimo tarp esamų ir sukurtų paslaugų problemą, nes norint bendrauti nereikės žinoti vienas kito API specifikacijų. Jie galės keistis duomenimis naudodamiesi natūraliomis arba savo dirbtine kalba, kurią tokiems tikslams sugalvos mašinos ar žmonės.
Apytiksliai tariant, net viena kitai „nepažįstamos“sistemos galės susitarti naudodamos joms bendrą bendravimo kalbą, o ne fiksuotas keitimosi informacija taisykles. Jei jie kažko nesupranta, jie gali vienas kito paklausti apie nežinomus dalykus, kurie padarys visą paslaugų ir paslaugų teikimo internete infrastruktūrą nepaprastai lanksčią ir leis greitai integruoti naujas paslaugas be žmonių pagalbos.
Šiuo klausimu kyla klausimas - kas turėtų būti atsakingas už „psichoterapeuto“ELIZA, kompiuterių gydytojų ir kitų balso padėjėjų rekomendacijas, kurių patarimai gali labai paveikti žmogaus savijautą ir sveikatą?
- Tai labai sunkus klausimas, nes šiandien nėra aiškių kriterijų, kurie padėtų suprasti, kaip elgtis tokiais atvejais. Daugelis interneto paslaugų ir paslaugų, teikiančių rekomendacijas vartotojams, pradeda veikti tik tada, kai vartotojas sutinka su paslaugų teikimo sąlygomis ir pasekmėmis, kurios gali atsirasti dėl darbo su ja.
Man atrodo, kad pokalbių robotų ir padėjėjų balsu darbas - bent jau ankstyvoje jų egzistavimo stadijoje - galėtų būti reguliuojamas panašiai. Pavyzdžiui, jei robotas paprasčiausiai ieško ir analizuoja informaciją, veikdamas panašiai kaip paieškos variklis, tada jam gali būti taikomos tos pačios taisyklės. Tuo atveju, jei jis suteiks medicininę ar teisinę konsultaciją, atsakomybės forma turėtų būti kitokia.
Pavyzdžiui, tokios sistemos turėtų aiškiai pranešti vartotojui apie pasirinkimo tarp dirbtinio intelekto ir paprasto gydytojo pasekmes. Žmogus turės pasirinkimą - pasitikėti gydytoju, kuris, pavyzdžiui, suklys 10% atvejų, arba lažintis už mašiną, kuri neteisingą atsakymą pateikia 3% atvejų. Pirmuoju atveju už klaidą bus atsakingas gydytojas, o antruoju - pats vartotojas.
Praėjusiais metais „Microsoft“išleido pokalbių robotą „Tay. AI“, kurį tiesiog po dienos turėjo išjungti, nes internautai paauglę pavertė tikra rasiste. Ar įmanoma apsaugoti tokias dialogo sistemas nuo trolių ir išdaigininkų?
- Man atrodo, kad galite apsiginti, bet ar verta tai daryti, priklauso nuo sistemos paskirties. Akivaizdu, kad jei sistema neturėtų pateikti jokių konkrečių pastabų - nemandagių ar ekstremistų, tada mes galime filtruoti jos atsakymus. Šis filtravimas gali įvykti arba sistemos mokymo etape, arba jau generuojant atsakymus.
Beje, panašią dialogo kokybės vertinimo užduotį komandos išsprendė prieš kelias savaites MIPT vykusios mokslinės mokyklos-hakatono „DeepHack Turing“metu. Jo dalyviai sukūrė algoritmus, kurie iš dialogo ženklų galėjo numatyti, kokį vertinimą žmogus suteiks dialogo sistemai.
Kitas šio požiūrio kūrimo žingsnis yra programos, kuri įvertintų frazių priimtinumą ar šaltinių, naudojamų atsakymams į vartotojų užklausas generuoti, patikimumas. Man atrodo, kad tai padėtų išspręsti šią problemą.