Įsivaizduokite, kad vieną dieną vunderkindas sugalvotų technologiją, leidžiančią žmonėms ar materialiems daiktams prasiskverbti pro sienas, ir internete paskelbtų instrukcijas, kaip pigiai sukonstruoti tokią stebuklingą mašiną iš įprastų namų apyvokos medžiagų. Kaip pasikeistų pasaulis?
Tikėtina, kad daugelis pramonės šakų taps žymiai produktyvesnės. Galimybė vaikščioti per sienas, o ne naudoti duris, žmonėms palengvintų judėjimą biuruose, prekių judėjimą sandėliuose ir nesuskaičiuojamų kasdienių namų darbų atlikimą. Tačiau neigiamos pasekmės gali nusverti teigiamas. Vertingų daiktų laikymas užraktu prarastų prasmę. Kiekvienas galėjo lengvai patekti į sandėlį, patekti į banko seifą ar namą.
Dauguma metodų, kuriuos naudojame privačiai nuosavybei apsaugoti, vienaip ar kitaip yra susiję su sienomis, todėl visi jie būtų nenaudingi per naktį. Vagys elgėsi nebaudžiamai, kol visuomenė nesugalvojo alternatyvių būdų užkirsti kelią tokiems nusikaltimams. Ekonominis žlugimas ar socialinis chaosas galėjo būti tokios įvykių raidos rezultatas.
Tai, kas išdėstyta pirmiau, iliustruoja bendrą principą: technologinės naujovės ne visada yra naudingos visuomenei, bent jau trumpuoju laikotarpiu. Technologijos sugeba sukurti neigiamą išorinį poveikį, išorinį poveikį. Šis ekonominis terminas reiškia žalą, padarytą trečiosioms šalims ar šalims. Jei šie neigiami išoriniai efektai nusveria pačios technologijos naudingumą, išradimas iš tikrųjų bent kurį laiką blogina, o ne gerina pasaulį.
Mašininis mokymasis, ypač variantas, žinomas kaip gilus mokymasis, neabejotinai yra pats karščiausias technologinis proveržis planetoje. Tai suteikia kompiuteriams galimybę atlikti daugybę užduočių, kurias anksčiau galėjo atlikti tik žmonės: atpažinti vaizdus, vairuoti automobilius, prekiauti vertybinių popierių rinka ir kt. Kai kuriems žmonėms tai sukėlė nerimą, kad mašininis mokymasis gali padaryti žmones nereikalingus ir nenaudingus darbo vietoje. Ir tai iš tikrųjų įmanoma, tačiau mašininis mokymasis kelia daug rimtesnį pavojų, kuriam iki šiol nebuvo skiriama pakankamai dėmesio. Esmė ta, kad jei mašinos gali mokytis, tada jos gali išmokti meluoti.
Šiandien žmonės gali klastoti tokius vaizdus kaip nuotraukos, tačiau tai yra sunkus ir sudėtingas procesas. O balso ar vaizdo vaizdo klastojimas paprastai viršija paprasto žmogaus galimybes. Tačiau netrukus, mašininio mokymosi dėka, greičiausiai bus galima lengvai sukurti patikimus netikrus kažkieno veido vaizdo vaizdus ir susidaryti įspūdį, kad asmuo kalba savo balsu. Jau yra lūpų judesių sinchronizavimo technologija, kuri tiesiogine to žodžio prasme gali įsidėti bet kuriuos žodžius į žmogaus burną. Tai tik ledkalnio viršūnė. Netrukus 12-mečiai galės sukurti fotorealistinius ir patikimai skambančius netikrus politikų, verslo lyderių, jų artimųjų ar draugų vaizdus savo miegamuosiuose savo miegamuosiuose, sakydami viską, ką tik gali įsivaizduoti.
Tai savaime sukelia akivaizdų piktnaudžiavimą. Politiniai apgaulės, vadinamosios „netikros naujienos“ar „informacijos įdaras“, plis kaip gaisrai. Žinoma, apgavystė bus nustatyta kuo greičiau - jokia skaitmeninė technologija negali būti tokia gera, kad kita technologija negalėtų aptikti padirbinio. Bet tai įvyks tik po to, kai kenksminga idėja jau bus prasiskverbusi į ja tikinčių žmonių mintis. Įsivaizduokite puikiai suklastotą netikrą vaizdo įrašą, kuriame kandidatai į prezidentus šaukia rasinius įžeidimus ar prisipažįsta padarę smurtinius nusikaltimus.
Tačiau tai tik pradžia. Įsivaizduokite potencialą manipuliuoti akcijų rinka. Tarkime, kažkas išplatino netikrą vaizdo įrašą, kuriame „Tesla“generalinis direktorius Elonas Muskas pripažįsta, kad „Tesla“automobiliai nėra saugūs. Vaizdo įrašas pasklis po internetą, o įmonės akcijos kris. Netrukus po klastotės atradimo jų kaina atsigaus, tačiau per šį laiką manipuliatoriai galės uždirbti didžiulius pinigus, žaisdami sumažinti „Tesla“akcijų.
Reklaminis vaizdo įrašas:
Ir tai toli gražu nėra pats ekstremaliausias scenarijus. Įsivaizduokite, kad toks pokštininkas sukuria tikrovišką padirbtą prezidento Donaldo Trumpo vaizdo įrašą, kuriame teigiama, kad netrukus bus smogta Šiaurės Korėjos taikiniams, ir paskelbkite tą vaizdo įrašą ten, kur jį gali pamatyti Šiaurės Korėjos gyventojai. Kokia tikimybė, kad Šiaurės Korėjos vadovybė supras, kad tai netikras, kol jiems teks nuspręsti pradėti karą?
Tie, kurie linkę tokius ekstremalius scenarijus vertinti kaip aliarmą, pagrįstai pažymės, kad galima aptikti bet kokį klastotę, nes jiems aptikti bus naudojamos tos pačios mašininio mokymosi technologijos, kaip kuriant. Bet tai nereiškia, kad mums negresia atsidurti pasaulyje, kuriame gausu visur esančių padirbinių. Kai klastotės taps pakankamai patikimos, kad žmonės patys jų negalės aptikti, mes amžinai prarasime pasitikėjimą tuo, ką matome ir girdime. Užuot pasitikėję savo pojūčiais, būsime priversti pasikliauti algoritmais, naudojamais klastotėms aptikti ir informacijai patvirtinti. Evoliucijos metu mes išmokome pasitikėti savo jausmais,ir šių funkcijų perkėlimas į mašininį intelektą daugumai žmonių gali būti per staigus.
Tai gali būti bloga žinia ekonomikai. Verslo ir prekybos tinklai grindžiami pasitikėjimu ir bendravimu. Jei mašininis mokymasis vieną dieną išmes begalę iliuzijų ir klastočių audros į viešąją informacinę sferą, evoliucijos sukurtos sienos realybei atskirti nuo fikcijos sugrius. Tokiu atveju pasitikėjimo visuomene lygis gali greitai kristi, o tai nesumažins neigiamos įtakos pasaulinei žmonijos gerovei.
Dėl šios priežasties vyriausybė tikriausiai turėtų imtis tam tikrų veiksmų, siekdama užtikrinti, kad už skaitmeninį klastojimą būtų baudžiama griežtai. Deja, vargu ar dabartinė administracija žengs tokį žingsnį iš meilės siauros partijos naujienoms. Ir tokios vyriausybės kaip Rusija greičiausiai bus dar mažiau linkusios pažaboti tokią praktiką. Galų gale prasto valdymo derinimas su galingomis naujomis technologijomis kelia daug didesnę grėsmę žmonių visuomenei nei pačios technologijos.
Autorius Noahas Smithas - „Bloomberg News“apžvalgininkas
Igoris Abramovas