Oficialiai prasidėjo JAV prezidento rinkimų kampanija, o tai savo ruožtu reiškia daugybę keistų ir klastingų būdų, kuriais technologijos iškraipo politiką. Viena didžiausių grėsmių yra dirbtinės asmenybės, aistringai įsitraukiančios į politinius ginčus. Viena vertus, teksto generavimo, paremto dirbtiniu intelektu, technologija vystosi greičiau nei bet kada, kita vertus, pokalbiai socialiniuose tinkluose beveik pasiekė tobulumą. Šie kompiuterio sukurti „žmonės“netrukus užgesins tikras žmonių diskusijas internete.
Teksto generavimo programinė įranga yra pakankamai gerai išvystyta, kad būtų galima apgauti beveik bet ką. Kompiuteris puikiai tinka rašyti naujienas, ypač apie sportą ir finansus, konsultuoti klientus investicinėse svetainėse, rašyti įtikinamus straipsnius kitomis naujienų temomis (nors yra ir apribojimų).
- „Salik.biz“
Tuo pat metu jau egzistuoja algoritmai, galintys generuoti turinį, kurio negalima atskirti nuo paprastų vartotojų įrašų. 2017 m. FCC surengė viešas diskusijas apie savo planus panaikinti tinklo neutralumą. Šia tema buvo gauta stulbinamų 22 milijonų komentarų. Daugelis jų - galbūt pusė - buvo suklastoti, užpuolikai panaudojo pavogtus asmens duomenis. Kai kurie komentarai buvo grubūs, 1,3 mln. Buvo sugeneruota iš to paties šablono - juose buvo pakeisti keli žodžiai, kad žinutės būtų unikalios.
Ir šios srities technologijos aktyviai vystomos. Savo eksperimente Harvardo tyrinėtojas Maxas Weissas, naudodamas tekstą kuriančią programinę įrangą, sukūrė 1 000 komentarų, reaguodamas į vyriausybės Medicaido iniciatyvą. Visi šie komentarai buvo unikalūs ir atrodė, kad juos parašė realūs žmonės, palaikantys tam tikrą politinę poziciją. Jie sugebėjo apgauti „Medicaid.gov“administratorius manydami, kad tai tikra realių žmonių baimė. Tyrimo metu Weissas atskleidė, kad komentarai buvo suklastoti, ir paprašė juos pašalinti. Bet kitas asmuo ar įsibrovėlių grupė, einantys šiuo keliu, greičiausiai nebus tokie moralūs.
„Chatbots“daugelį metų buvo rodomi socialinės žiniasklaidos diskusijose. Remiantis vienu vertinimu, maždaug penktadalis visų tviterių apie 2016 metų prezidento rinkimus buvo paskelbti robotais, o maždaug trečdalis tų pačių metų balsavimo už „Brexit“. Praėjusių metų Oksfordo universiteto ataskaitoje tyrėjai rado įrodymų, kad robotai yra naudojami propagandai skleisti 50 šalių. Paprastai tai buvo paprastos programos, neapgalvotai kartojantys šūkius: pavyzdžiui, ketvirtadalis milijono pro Saudo Arabiją atsiųstų tviterių „Mes visi tikime Mohammedu bin Salmanu“po Jamalo Khashoggi nužudymo 2018 m. Surasti geresnius robotus yra daug sunkiau. Išmatuoti šių robotų efektyvumą yra sunku. Jie visi iškreipia visuomenės nuomonę ir tikėjimą pagrįstai argumentuotomis politinėmis diskusijomis. Iš tiesų,mes visi esame naujo socialinio eksperimento viduryje.
Metams bėgant, algoritminiai robotai sukūrė ištisas asmenybes. Jie turi netikrus vardus, netikrą biografiją ir padirbtas nuotraukas, kartais sukurtas kompiuteriu. Užuot kalbėję apie propagandą be galo, jie siunčia žinutes tik retkarčiais. Tyrinėtojai gali sužinoti, kad jie yra robotai, o ne žmonės, remiantis skelbimo modeliais, tačiau robotų technologija visą laiką tobulėja, pranoksta bandymus juos sekti. Ateities botai bus geriau užmaskuoti kaip socialinės žmonių grupės, propaganda subtiliai įsilies į tviterius su tomis socialinėmis grupėmis susijusiomis temomis.
Netrukus programos kontroliuojami „Sims“galės rašyti personalizuotus laiškus laikraščiams, premjeruose išrinktiems pareigūnams, teikti asmeniniams poreikiams pritaikytus komentarus viešųjų taisyklių priėmimo procesams ir protingai kalbėti politinėmis temomis socialinėje žiniasklaidoje. Jie galės komentuoti įrašus socialiniuose tinkluose, naujienų svetainėse ir pan. Bus sukurti nuolatiniai personažai, kurie atrodys realūs net ir juos tyrinėjantiems žmonėms. Jie galės prisistatyti socialinėje žiniasklaidoje ir siųsti personalizuotus tekstus. Jie atkartos milijonus ir visą parą siųs milijardus ilgų ir trumpų pranešimų. Kartu jie gali užgniaužti bet kokias tikras diskusijas internete. Ne tik socialinėje žiniasklaidoje, bet ir visur, kur yra komentarų.
Galbūt šiuos personažus kontroliuos užsienio įsibrovėliai. Galbūt tai bus vidaus politinės grupės. Gal tai bus patys kandidatai. Greičiausiai visi tuo pasinaudos. Svarbiausia 2016 m. Rinkimų pamoka apie dezinformaciją nėra ta, kad dezinformacija buvo paskelbta; tačiau dezinfekuoti žmones yra pigu ir lengva. Dėl būsimos technologinės pažangos visa tai taps dar prieinamesnė.
Reklaminis vaizdo įrašas:
Mūsų ateitis bus arši politinė diskusija, kurios metu robotai daugiausia ginčysis su kitais robotais. To negalime įsivaizduoti, kai giriame idėjų rinką ar bet kokį demokratinį politinį procesą. Kad demokratija tinkamai veiktų, reikalingi du dalykai: informacija ir atstovavimas. Dirbtiniai personažai paveikė abu dalykus.
Problemos sprendimas dar nėra akivaizdus. Mes galime pabandyti sureguliuoti robotų naudojimą - siūlomame Kalifornijos įstatyme reikalaujama, kad robotai identifikuotų save, tačiau tai veiksminga tik prieš teisėtas įtakotojų kampanijas, pvz., Reklamas. Paslėptą įtaką bus daug sunkiau nustatyti. Akivaizdžiausia gynyba yra geresnių autentifikavimo metodų kūrimas ir standartizavimas. Jei socialiniai tinklai įsitikins, kad už kiekvienos sąskaitos yra tikras asmuo, jie galės geriau išnaikinti padirbtus asmenis. Tačiau netikros sąskaitos jau yra reguliariai kuriamos naudojant realių žmonių duomenis be jų žinios ar sutikimo. Neturime autentifikavimo sistemos, saugančios privatumą ir galinčią pasiekti milijardus vartotojų.
Galime tik tikėtis, kad sugebėjimas identifikuoti dirbtines asmenybes pasivys mūsų sugebėjimas jas užmaskuoti. Tačiau kol kas užpuolikai visada yra vienu žingsniu priekyje.
Dienos pabaigoje visi sprendimai turi būti netechniniai. Turime pripažinti politinių diskusijų internete ribotumą ir dar kartą pabrėžti tiesioginį bendravimą. Sunkiau automatizuoti ir mes žinome, kad žmonės, su kuriais kalbamės, yra tikri žmonės. Tačiau kol kas šis kultūrinis poslinkis atrodo kaip visiškai nerealus sprendimas, o bandymai dezinfekuoti yra plačiai paplitę visame pasaulyje ir vykdomi daugiau nei 70 šalių. Tai yra normalus autoritarinio režimo šalių propagandos būdas ir tampa politinės kampanijos vykdymo būdu.
Dirbtiniai personažai yra propagandos ateitis. Ir nors jie gali būti neveiksmingi perkeliant diskusiją į tam tikrą vardiklį, jie gali lengvai paskęsti diskusijoje.
BRUCE SCHNEIER yra mokslo darbuotoja ir dėstytoja Harvardo Kennedy mokykloje.