„Mašinų kilimas“, „Terminatorius grįžta“… Daug mokslinės fantastikos pastatyta į tai, kad kompiuteriai tampa tokie išmanūs, kad supranta, kad jiems geriau seksis be žmogaus. Pasakos? Kaip atrodo. Iki 2050 m. Įprastas namų kompiuteris galės apdoroti tiek informacijos, kiek sudėjo visi žmonės žemėje.
Tačiau 2050 m. Yra su sąlyga, kad mašinos vystysis palaipsniui. Tai neveikia taip. Mūsų santykiai su elektroniniu pasauliu sparčiai gerėja. Kartą - pelė buvo pritvirtinta prie automobilio. Kartą - atsirado internetas. Kartą - buvo išmanieji telefonai su planšetėmis.
- „Salik.biz“
Kitas lūžis įvyks, kai kompiuteris gali suprasti žmones. Išmanieji telefonai jau turi tokias programas kaip „Siri“ir „Cortana“, kuriomis galima paprasčiausiai kalbėtis su mumis. Tačiau problema yra ta, kad kompiuteris supranta ne tai, ką sakome, o tai, ką turime omenyje! Paprasčiausias pavyzdys: frazė „Jis paliko mane“, pasakyta ašarotos moters ir vyro viršininko, turi visiškai skirtingas reikšmes.
Taigi: kai tik mašinos išmoks atpažinti žmogaus kalbos niuansus, viena vertus, mūsų rankos bus atsietos tiesiogine ir perkeltine prasme. Aš kalbėjau su kompiuteriu ir jis padarė viską. Kita vertus, ar mes nesiartiname prie pavojingos linijos, pašalindami paskutinę kliūtį bendrauti tarp žmonių ir nejausdami geležies?
Aš seniai norėjau apie tai pakalbėti su žinomu mokslininku, ABBYY kalbinių tyrimų direktoriumi, Rusijos valstybinio humanitarinio universiteto ir Maskvos fizikos ir technologijos instituto skaičiavimo kalbotyros katedros vedėju Vladimiru Selegey. Bet kai aš jam papasakojau savo apokaliptines baimes, jis susigraudino.
Taip, mokslinėje fantastikoje gausu tamsių spėjimų, kaip žmogaus treniruojamos mašinos išsivers be jo. Bet man neaišku, kodėl padidėjęs programose įterptų žinių kiekis paskatins kompiuterį priimti sprendimus neprašant žmogaus leidimo?
Tiesą sakant, problema yra ne tame, kad kompiuteris išmoks išsiversti be žmonių, bet tai, kad spręsdami tam tikras problemas žmonės norės išsiversti be savęs. Čia yra Černobylis …
Reklaminis vaizdo įrašas:
O ką su tuo turi Černobylis?
- Branduolinis reaktorius yra labai sudėtingas fizinis modelis. Atrodo, kad visi reaktoriaus valdymo parametrai yra žinomi, viskas atitinka griežtus fizinius įstatymus, o sprendimų priėmimą galima visiškai patikėti kompiuteriui. Bet …
1986 m., Praėjus savaitei po avarijos, dalyvavau dirbtinio intelekto naudojimo pramonėje seminare. Net tada buvo aišku, kad patikėdami sprendimų priėmimą kompiuteriu, mes rizikuojame rimtai. Paprastai programose yra klaidų. Net palydovai turi programinės įrangos trūkumų.
Tai yra, žmogus yra patikimesnis nei kompiuteris, nors jis „mąsto“daug greičiau?
- Žmogus, be viso kito, turi motyvaciją. Jis sprendžia savo problemas - išsilavinimą, dauginimąsi, karjerą, žino, kaip jaustis …
Bet ar gali koks nors gudrus programuotojas parašyti programą, kuri išmokytų agresijos mašinos …
- Galite pabandyti padaryti, pavyzdžiui, karinį robotą, kuris pats priims sprendimus, analizuodamas tai, ką mato ir girdi. Ir tai bus labai pavojinga. Bet ne todėl, kad robotas staiga norės sunaikinti, kaip rašė mokslinės fantastikos rašytojai. Bet kadangi programuotojo klaida, kai kurių veiksnių nepaisymas gali lemti nenuspėjamą roboto elgesį.
Tačiau kol kas mes labai toli nuo galimybės kurti savarankiško mokymosi programas, gebančias generuoti visiškai naujas žinias. Grubiai tariant, savarankiškai pereikite iš daugybos lentelės prie galimybės išspręsti sudėtingas lygtis.
Dvidešimtojo amžiaus antroje pusėje futuristinės prognozės mokslo srityje buvo labai populiarios. Viskas apie kompiuterio intelektą pateko į pieną. Niekas neprognozavo interneto, neįtikėtinos prieigos prie informacijos, mobiliųjų telefonų laisvės. Bet visi kalbėjo apie mąstančius kompiuterius.
Pavyzdžiui, 60-ųjų pabaigoje mūsų pirmoji šachmatų sistema KAISA sėkmingai pasirodė pasaulio čempionate tarp kompiuterių. Buvo manoma, kad tam, kad mašina įveiktų žmogų, reikia imituoti žmogaus žaidimo algoritmus. Norėdami paguldyti protą, intelektą, pati paslaptinga intuicija, verčianti šachmatininką priimti teisingus sprendimus.
Šiandien kompiuteris muša žmogų. Bet jis niekada nebuvo mokomas intuicijos. Į jo atmintį buvo įkeltas milijardas žaidžiamų žaidimų, visa žaidimo patirtis, visi sprendimai, kuriuos kada nors priėmė šachmatininkai. Ir išmokė juos tuo naudotis renkantis optimalų žaidimo planą, suteikiantį didžiulį greitį išvardyti ir įvertinti galimybes. Kompiuteris įveikia pasaulio čempionus, tačiau negauna iš jo jokio malonumo. Viskas yra visiškai kitaip nei žmonės.
Bet jūs esate iš tų, kurie tiesiog moko kompiuterį „sukti galvą“
- Mes tik stengiamės išmokyti programas „suprasti“tekstus, kad jie galėtų iš jų išgauti informaciją, kaupti ir apibendrinti. Kad žmonės gautų žinių, išfiltruotų iš milijardų šaltinių. Tai labai sunku, nes žmogus pats nelabai žino, kaip išdėstytos jo kalbos galimybės, kuriomis grindžiamas jo supratimas apie kitus žmones.
Dabar populiarus statistinis mašininis vertimas. Kompiuteris išvis nesupranta, apie ką yra išverstas tekstas, jis tiesiog žino, kaip rasti labiausiai tikėtinus mažų fragmentų (keliais žodžiais) vertimo variantus, išanalizavus didžiulį kiekį žmogaus vertimų, saugomų jo atmintyje. Apskritai tekstas yra aiškus. Bet būtų atsakinga priimti sprendimą remiantis tokiu vertimu būtų nemandagu.
Gerai, ar kompiuteris gali man išversti instrukcijas?
- Instrukcijos? Ar tai pavojinga.
- Taip, paprastam šaldytuvui!
- Net į šaldytuvą! Norėčiau, kad mūsų programos būtų išverstos, bandant suprasti tekstą, pasirenkant variantus, pagrįstus žiniomis, ir ne tik todėl, kad dažniausiai ši atitiktis randama mūsų duomenų bazėje.
Gerai, tarkime, kad jūs išsprendėte problemą ir sukūrėte sistemą, kurios dėka kompiuteriai išmoks suprasti mūsų kalbos niuansus ir net tiksliai išversti į kitą kalbą. Ir tada žmonėms kyla naujas pavojus - nereikės galvoti. Nereikės lavinti atminties, smegenų. Reikia informacijos - prašome, Vikipedija. Reikia pasikalbėti su užsieniečiu - vertėju …
- Kuo aukštesnis žmogaus intelektas ir žinios, tuo jam naudingesnis yra kitas „protingas asistentas“. Ir kuo žemiau, tuo daugiau galimybių visai negalvoti. Kompiuterinės technologijos lemia visuomenės poliarizaciją. Grubiai tariant, skaičiuotuvo atsiradimas nesukėlė matematikų išsigimimo. Bet akivaizdu, kad kai kurie moksleiviai sumažino savo jau dabar žemus gebėjimų lygius.
- Jūs žinote, kad man rimtas išsilavinimo lygio kritimo rodiklis yra skaičius žmonių, kurie rašo neraštingai arba nesugeba išreikšti savo minčių ir jausmų nenaudodami mate
- Taip, žmonės pradėjo rašyti ne taip kompetentingai. Paprasčiausiai todėl, kad mažiau yra taisomų tekstų skaitymo ir daug daugiau tokių šaltinių, kur rašyba labai neryški. Ar tai žmones pribloškė? Tikriausiai ne.
Ar matote ryšį tarp to, kad žmogus neraštingai išreiškia savo mintis gimtąja kalba, ir to, kad tapo kvailu?
„Aš neinau taip toli. Nors akivaizdu: kadangi vaikai pradėjo skaityti mažiau, kilo problemų, susijusių su žinių ir kultūros perdavimu iš kartos į kartą. Tai yra problema. Šiandien matome, kad šiuolaikinis moksleivis, turintis tokio paties lygio pažymius kaip prieš 30 metų, literatūrą žino prasčiau.
Čia! …
„… Bet, kita vertus, jis daug geriau žino daugelį kitų dalykų, kurių niekas nemanė galįs žinoti.
Ar tai natūralus procesas?
- Taip. Be to, pirmą kartą žmonijos istorijoje žinios gali būti perduodamos ne iš vyresniųjų, o į jaunesnes, kaip tai vyko šimtmečius. Vyko žinių perdavimas iš jaunesniųjų į vyresniuosius, o tai anksčiau nebuvo būdinga žmogaus kultūrai. Vaikas moko tėtį ar mamą dirbti kompiuteriu, mobiliuoju telefonu, tėvams yra įvairių žinių šaltinis. Ir dar daugiau vaikų keliauja po pasaulį. Labai dažnai jie yra geografinių ir kultūrinių žinių šaltinis.
Klausyk, bet čia viskas prasidėjo nuo kompiuterių. Jie išlaisvino žmones net nuo būtinybės įsiminti elementarias gramatikos taisykles
- Tik 90-ųjų pradžioje dirbau komandoje, kuri sukūrė vieną iš pirmųjų rusų kalbos rašybos tikrinimo sistemų. Ar tai buvo naudinga ar žalinga? Mano požiūriu, labai naudinga. Ši sistema leido greičiau sukurti dokumentus. Ir tada viskas priklauso nuo žmogaus atsakomybės lygio. Kas sakė, kad po automobiliu visai nereikia atlikti patikrinimo? Sistema tik padeda ją padaryti daug efektyvesnę.
Bet mes pasitikime kompiuteriu
- Tai reiškia tik tai, kad programą sukūręs asmuo jums neinformavo, kad yra daugybė reiškinių, kurių aparatas negali patikrinti. Pavyzdžiui, derybos.
Deja, dėl naujųjų technologijų dažnai prarandami tradiciniai įgūdžiai. Aš dariau remontą bute. Norėjau sumontuoti medinius langus, kurie buvo montuojami anksčiau. Bet tai pasirodė neįmanoma. Visi montuoja dvigubo stiklo langus. Žmonės, deja, nustoja daryti daugybę dalykų rankomis. Ką daryti, taip ir veikia gyvenimas. Deja.
Taigi jūs esate konformistas?
- Ne. Manau, kad daryti absoliučiai kenksmingus dalykus nėra gerai. Bet kai turite tiek naudos, tiek praradimų, turite įvertinti riziką … Jei gaminate narkotikus, negalvojate, kad dėl jo vartojimo išgyvens ne tik geri, bet ir blogi žmonės.
Mūsų atveju, kartu su technologijų plėtra, būtina mokyti tuos, kurie jomis naudojasi. Neigiamos naujųjų technologijų pasekmės visų pirma atsispindi tiems, kurie jokiais technologiniais lygmenimis nelabai gerai atlieka savo darbą.
Pavyzdžiui, vartokite vaistą. Norime padėti gydytojui priimti sprendimą, sudarome kompiuterinę ekspertų sistemą, pagrįstą daugybės patikimų diagnozių, atliktų geriausių gydytojų, analize. Tai suteikia profesionalui galimybę kreiptis į didesnį žinių kiekį, nei jis pats turi. Bet galutinis sprendimas yra jo, o ne kompiuterio! Blogam gydytojui viskas yra kitaip - jis pasitikės tuo, ko negali patikimai patikrinti. Bet vidutiniškai, atsiradus tokioms technologijoms, man atrodo, kad medicina vis dar tobulėja, o ne blogėja.
Na, mes buvome įsitikinę, kad intelektualinė sistema, suprantanti žmogų kompiuteriu, duos daugiau naudos nei žalos. Bet kada ji pasirodys?
- Tai labai sunki užduotis, kurios negalima išspręsti nedelsiant. Būtina išmokyti kompiuterio žinių apie kalbą ir žinias apie pasaulį, išvadų metodus ir vertybių palyginimą. Kažkas, ką mes žinome, kaip tai padaryti dabar, kažkas užtruks metus. Pavyzdžiui, mums reikia patikimų duomenų apie kalbos vartojimą, atsižvelgiant į individualius ir socialinius skirtumus. Ir šie skirtumai yra labai reikšmingi. Pavyzdžiui, mes sukūrėme specialų projektą, skirtą rusų kalbos regioniniams skirtumams. Surinko žodyną, kuriame yra beveik 10 tūkstančių žodžių, kurie yra norma tik tam tikrų mūsų šalies regionų gyventojams
Kas mes esame?
„Tai yra bendras projektas„ Rusijos miestų kalbos “, kuriame dalyvauja„ ABBYY “specialistai, kalbotyros žinovai, entuziastai iš įvairių Rusijos dalių ir rusakalbių šalių. Išanalizavome regioninės žiniasklaidos, socialinių tinklų, nutarimų ir vietos valdžios institucijų kalbą. Ir tai tik nedidelė žinių dalis, kurią reikia išmokti prie kompiuterio!
Koks yra pagrindinis skirtumas tarp jūsų požiūrio į vertimą ir, pavyzdžiui, „Google“naudojamų sistemų?
- Statistinės sistemos nesudaro kalbinių struktūrų. Jie ieško mažų 5–7 žodžių fragmentų vertimo atitikmenų. Bet kalba išdėstyta taip, kad labai dažnai giminingi žodžiai yra kur kas toliau, o jei neatsižvelgiama į šį ryšį, atsiranda klaidų. Tačiau labai dažnai tokios detalės yra svarbios vertimui, kurių nepaisymas gali visiškai pakeisti reikšmę. Norint atsižvelgti į viską, analizės metu reikia nustatyti visą kalbinių jungčių tarp žodžių sistemą, vadinamą sakinio struktūra. Mes neperrašome sakinių fragmentų iš kalbos į kalbą, bandome nustatyti semantinę sakinio struktūrą, o paskui šią struktūrą susintetinti kitos kalbos pagalba.
Bet šios semantinės struktūros yra naudojamos ne tik ir ne tiek mašininio vertimo tikslais. Jie taip pat reikalingi veiksmingai išspręsti intelektualios paieškos ir informacijos analizės problemas, kurios šiandien yra svarbesnės „ABBYY“kaip komercinei įmonei. Pavyzdžiui, neseniai išleisti pirmieji sprendimai įmonių rinkai yra pagrįsti šiomis technologijomis: jie tiesiog leidžia jums ieškoti ir analizuoti duomenis didžiuliame informacijos sraute, kuris yra saugomas organizacijose.
O kurią kalbą, jūsų požiūriu, sunkiau suprasti?
- Visuotinai pripažįstama, kad sunkiau yra toms kalboms, kuriomis reikia išmokti daugiau taisyklių. Bet kompiuterio supratimo atveju taip nėra.
Tai, kas žmogui sudėtinga, pavyzdžiui, turtinga įrėžių sistema rusų ar lietuvių kalbomis, tam tikromis analizės stadijomis supaprastina užduotį kompiuteriui.
Pavyzdžiui, kinų kalba yra labai sunki, nes joje nėra morfologijos, taigi ir daug neaiškumų, su kuriais susiduria kompiuteris. Todėl kompiuterinei kinų kalbos analizei labai svarbu naudoti žinias apie pasaulį, svarbiau, nei, pavyzdžiui, analizuojant kalbas su išsivysčiusia morfologija.
Mums pavyko dirbti su rusų, vokiečių, anglų, prancūzų, ispanų, kinų kalbomis. Kalbos analizė yra padalinta į etapus. Kai kurie etapai turi specifiškumą, sunkumai - vienai kalbai, kiti - kitai. Tačiau iš esmės technologijos, su kuriomis mes dirbame, yra pritaikomos visoms kalboms.
Jūsų nuomone, kada ateis diena, kai kartu su mūsų pokalbiu galėsime gauti greitą ir suprantamą vertimą kompiuteryje. Tarkime, kad mes dabar kalbamės, ir iškart gaukite mūsų pokalbio nuorašą ispanų kalba?
- Tai bus gana greitai. Nemanau, kad per dvejus metus. Bet … ko reikia norint išspręsti šią problemą? Turime patobulinti savo kalbų analizės sistemas. Dar negalime užmegzti spontaniško pokalbio, atskirti jį nuo triukšmo ir gauti norimą tekstą. Ir šia linkme kiekvienais metais daroma pažanga.
Tačiau vis tiek bus tokių dalykų, kurių mašina negali vienareikšmiškai suprasti. Čia supratimo ir vertimo tikslumas priklausys nuo to, ar yra žinių apie pasaulį sistema, nuo loginių išvadų mechanizmų.
Bet kokiu atveju visiškas pasitikėjimas tokia programa išliks. Klaidinga manyti, kad, tarkime, per penkerius metus galite padiktuoti laišką kompiuteriui, jis jį išvers, nusiųs verslo partneriui ir viskas bus gerai. Niekas negarantuoja, kad mašina kažkur nepraleis „ne“ar nepadarys kitų klaidų, po kurių jūsų verslo santykiai gali būti laikomi baigtais.
Tai yra, žmogus kaip kontrolierius vis tiek turėtų būti?
- Be abejo. Pasitikėti technologijomis aklai yra pavojinga.