Idėja, kad dirbtinis intelektas neišvengiamai mus nuves į scenarijų, kai mašinos prieš žmones maištauja, yra gana populiari. Dirbtinis superintelligencija, atrodo, kelia didžiausią įmanomą grėsmę, ir fantastinės istorijos, pagal kurias būsime nereikalingi pasaulyje, kuriam priklauso technologijos, niekada neprarado populiarumo.
- „Salik.biz“
Ar tai neišvengiama?
Septintojo dešimtmečio literatūrinis ir kinematografinis intelektualiųjų kompiuterinių sistemų vaizdavimas padėjo formuoti ir apibendrinti mūsų ateities lūkesčius, kai mes pradedame kurti mašininę intelektą, pralenkiantį žmogaus intelektą. PG akivaizdžiai jau pranoko žmones atlikdama tam tikras užduotis, reikalaujančias sudėtingo skaičiavimo, tačiau vis dar atsilieka nuo daugelio kitų galimybių. Kaip tuo pat metu padidinti šio griežto įrankio galią ir išsaugoti mūsų ekonominę padėtį dėl jo.
Kadangi dirbtinis intelektas jau vaidina ir ateityje vaidins svarbų vaidmenį, būtina ištirti mūsų galimybes egzistuoti kartu su šiomis sudėtingomis technologijomis.
Kevinas Aboschas, duomenų apdorojimo ir dirbtinio intelekto įmonės „Kwikdesk“įkūrėjas, pasidalino savo mintimis apie tai. Jis mano, kad dirbtinis intelektas turėtų būti greitas, nepastebimas, patikimas, raštingas ir etiškas. Taip, etiška.
Etinė sistema
Reklaminis vaizdo įrašas:
Dirbtinio neuroninio tinklo, modeliuoto pagal biologinį neuroninį tinklą, koncepcija nėra nieko naujo. Skaičiavimo galios vienetai, vadinami neuronais, jungiasi vienas su kitu ir sudaro tinklą. Kiekvienas neuronas įvestyje taiko sudėtingą mokymosi algoritmą, prieš perduodamas duomenis kitiems neuronams, kol išvesties neuronas suaktyvinamas ir atveriama galimybė skaityti. Ekspertų sistemos pasikliauja žmonėmis, kad „išmokytų“sistemą, pasodindamos žinių sėklas. Loginiai varikliai ieško atitikmenų, daro pasirinkimus, nustato žinių bazės taisykles, jei tai-tada-tada. Šiame procese naujos žinios pridedamos prie žinių bazės. Grynas nervų tinklas mokosi įgydamas netiesinę patirtį, neturi problemų pasėti eksperto. Hibridiniai tinklai pasitvirtinokurios pagerina mašinų mokymosi galimybes.
Dabar pažvelkime į tokių sistemų etinius klausimus. Toliau nuo pirmojo asmens.
„Blogas kodas“palyginti su „geras kodas“
Autorius naudoja žodžius, norėdamas pakerėti skaitytoją išgalvotame pasaulyje, ir daro tai skirtingai, tačiau didieji autoriai tai daro labai grakščiai. Programinės įrangos inžinierius rašo kodo eilutes, kurios palengvina duomenų apdorojimą ir judėjimą. Jis taip pat gali pasirinkti iš daugybės variantų skirtingais būdais, tačiau grakščios programinės įrangos žinovai yra kompiuterių mokslo specialistai. Progresuojantis koderis orientuojasi į tai, kaip kuo daugiau ir geriau kapsuliuoti trumpuoju ir tvarkinguoju kodu. Nereikalingas kodas yra kuo mažesnis. Puikus kodas taip pat neleidžia atidaryti lango būsimiems papildymams. Kiti inžinieriai gali pridėti kodą su jiems būdinga elegancija, o produktas tobulėja sklandžiai.
Bet koks žmogaus sukurtas produktas yra pagrįstas ketinimu. Žmonių sukurti daiktai yra prisotinti ketinimų ir vienaip ar kitaip yra pačios kūrėjo prigimties nešėjai. Kai kuriems žmonėms sunku įsivaizduoti negyvą tokio pobūdžio objektą. Tačiau daugelis su tuo sutiktų. Ketinimų energija egzistuoja tūkstančius metų, suvienija, skaido, vienija, pertvarko visuomenę. Taip pat negalima nuvertinti kalbos galios. Nepamirškite, kad kodo eilutės yra parašytos tam tikra programavimo kalba. Taigi esu įsitikinęs, kad kodas, kuris tampa programine įranga, naudojama kompiuteriuose ar mobiliuosiuose įrenginiuose, yra labai „gyvas“.
Negalvodami apie išmintį ir dvasingumą kompiuterių mokslo kontekste ir apie galimas dirbtinio intelekto pasekmes, mes vis tiek galime į statinį kodą žiūrėti kaip į vieną vienetą, turintį potencialą „daryti gera“arba „daryti blogis“. Šie išėjimai atsiranda tik tada, kai žmonės naudojasi programomis. Tai, ką žmonės pasirenka, daro įtaką programos pobūdžiui. Juos galima peržiūrėti vietinėje sistemoje, nustatant teigiamą ar neigiamą poveikį tai sistemai, arba remiantis iš anksto nustatytų standartų rinkiniu. Tačiau žurnalistas negali būti 100% nešališkas straipsnio rašymo procese, todėl inžinierius noriai ar nesąmoningai prideda savo kodo pobūdį. Kai kas gali teigti, kad kodo rašymas yra logiškas procesas, o tikroji logika nepalieka vietos gamtai.
Bet esu tikras, kad kai sukuriate taisyklę, kodo bloką ar visą kodą, visa tai yra prigimtinė žmogaus prigimties dalis. Su kiekviena papildoma taisykle rūšių skverbtis gilėja. Kuo sudėtingesnis kodas, tuo daugiau tokio pobūdžio. Taigi kyla klausimas: "Ar kodo prigimtis gali būti gera ar bloga?"
Akivaizdu, kad viruso, kurį sukūrė įsilaužėlis, piktybiškai įsilaužiantis į jūsų kompiuterio gynybą ir sukeliantis sumaištį jūsų gyvenime, yra prisotintas blogos prigimties. Bet kaip dėl gerų vyrukų sukurto viruso, kad būtų galima įsiskverbti į teroristinės organizacijos kompiuterius, kad būtų užkirstas kelias teroro išpuoliams? Kokia jo prigimtis? Techniškai jis gali būti identiškas blogiajam kolegai, tiesiog naudojamas „geriems“tikslams. Taigi jo prigimtis yra maloni? Tai yra visas etinis kenkėjiškų programų paradoksas. Bet mes negalėjome to ignoruoti, galvodami apie „blogio“kodą.
Mano nuomone, yra kodas, kuris iš prigimties patraukia link „blogio“, ir yra kodas, kuris iš prigimties yra linkęs į geranoriškumą. Tai yra svarbiau, kai kompiuteriai neprisijungę.
„Kwikdesk“mes kuriame AI sistemą ir protokolą, pagrįstą mano ekspertinės sistemos / neuroninio tinklo hibridiniu dizainu, kuris labiausiai primena biologinį modelį. Neuronai pasireiškia kaip įvesties / išvesties moduliai ir virtualūs įrenginiai (tam tikra prasme - autonominiai agentai), sujungti „aksonų“, saugiais, atskirtais šifruotų duomenų kanalais. Šie duomenys iššifruojami, kai patenka į neuroną, o tam tikri procesai užšifruojami prieš siunčiant į kitą neuroną. Kad neuronai galėtų susisiekti vienas su kitu per aksoną, turi būti keičiamasi raktu tarp dalyvio ir kanalo.
Manau, kad saugumas ir atskyrimas turėtų būti integruoti į tokius tinklus nuo žemiausio lygio. Antstatai atspindi mažiausių jų komponentų savybes, todėl kas nors mažesnis nei saugūs statybiniai blokai, visos linijos eksploatavimas bus nesaugus. Dėl šios priežasties duomenys turi būti apsaugoti vietoje ir iššifruoti, kai perduodami vietoje.
Įgyvendinimas ir garantijos
Suprantama, kad nerimą kelia mūsų gyvenimo kokybė kartu su vis protingesnėmis ir protingesnėmis mašinomis, todėl esu visiškai įsitikinusi, kad turime imtis veiksmų, kad ateinančioms kartoms būtų užtikrinta sveika ateitis. Išmaniųjų mašinų grėsmė gali būti įvairi, tačiau jas galima suskirstyti į šias kategorijas:
Išlyga. Darbo vietose žmones pakeis mašinos. Šis poslinkis tęsėsi dešimtmečius ir tik įsibėgės. Norint paruošti žmones ateičiai, kurioje šimtai milijonų tradicinių darbo vietų tiesiog nustos egzistuoti, reikia tinkamo išsilavinimo. Tai sudėtinga.
Saugumas. Mes visiškai pasikliaujame mašinomis ir toliau pasitikime. Kai vis labiau pasitikime mašinomis, kai judame iš saugios zonos į galimą pavojaus zoną, galime susidurti su mašinų klaidų ar kenksmingo kodo rizika. Pavyzdžiui, pagalvokite apie transportavimą.
Sveikata. Asmeniniai diagnostikos prietaisai ir tinklo medicinos duomenys. PG toliau vystysis prevencinėje medicinoje ir tiriant genetinius duomenų šaltinius. Vėlgi, mes turime būti tikri, kad šios mašinos neužsidarys piktybiškai ir niekaip nepažeis mūsų.
Likimas. AI vis tiksliau prognozuoja, kur eisi ir ką padarysi. Tobulėjant šiai sričiai, jis žinos, kokius sprendimus priimame, kur eisime kitą savaitę, kokius produktus pirksime ar net mirsime. Ar norime, kad kiti turėtų prieigą prie šių duomenų?
Žinios. Mašinos de facto kaupia žinias. Bet jei mes įgyjame žinių greičiau, nei žmonės gali jas išbandyti, kaip mes galime pasitikėti jų vientisumu?
Baigdamas noriu pažymėti, kad budrus ir atsakingas požiūris į AI, siekiant sušvelninti galimas technologinio supernovos sprogimo problemas, yra mūsų būdas. Mes arba sutramdysime PG potencialą ir melsimės, kad jis žmonijai duotų tik geriausio, arba išdegsime jo potencialą, kuris atspindės blogiausią mumyse.
Ilja Khel