Stephenas Hawkingas tęsia „kryžiaus žygį“prieš dirbtinį intelektą (AI).
Labai lauktoje kampanijos „Klausk manęs visose“„Reddit“metu jis parašė, kad AI saugumo protokolo kūrimo darbai turėtų būti atliekami dabar, o ne tolimoje ateityje.
- „Salik.biz“
„Mūsų tikslas turėtų būti ne abstraktaus dirbtinio intelekto sukūrimas, o naudingo intelekto sukūrimas“, - rašė garsus fizikas. pažengusioji AI “.
Hawkingas šlovę naudoja AI saugos judėjimui remti nuo 2014 m., Kai kartu su kitais tyrėjais rašė redakcijai, perspėdamas apie egzistencinę grėsmę, kurią žmonijai kelia pažengusios mašinos.
Prie „Hawkingo“prisijungė ir kitos žinomos technikos asmenybės: Elonas Muskas ir Steve'as Wozniakas. Anksčiau visi trys pasirašė atvirą laišką, kuriame ragino uždrausti autonominius ginklus ar kovos robotus.
Laukimai, kad žmonija greitai sukurs dirbtinį intelektą, egzistavo nuo 50-ųjų ir dar nepateisino savęs. Tačiau dauguma AI mokslininkų mano, kad mašinos, kurių intelektas yra lygus žmonėms, pasirodys šiame amžiuje.
Nuotrauka: ANDREW COWIE / AFP / „Getty Images“
Reklaminis vaizdo įrašas:
Hawkingas perspėja, kad dirbtinio intelekto vaizdavimas mokslinės fantastikos filmuose iškreipia tikrąjį mašinų pavojų. Tokiuose filmuose kaip „The Terminator“vaizduojami demoniški žudikų robotai, siekiantys sunaikinti žmoniją dėl priežasčių, kurių neturėjo tikrasis dirbtinis intelektas. Jie taip pat leidžia lengviau sušvelninti galimą PG riziką (pavyzdžiui, nekurti kiborgų).
„Tikroji AI grėsmė yra ne tai, kad ji yra blogis, bet kad ji yra labai pajėgi. Dirbtinis super intelektas labai gerai atlieka savo užduotis.
Jei jo užduotys nesutampa su mūsų, turėsime problemų, - rašė Hawkingas, - vargu ar jūs nekenčiate skruzdėlių, tačiau jei jūs esate atsakingi už žaliosios energijos projektą, o teritoriją, kurioje yra skruzdėlynas, reikia užtvindyti, skruzdėms pasiseka. Neleiskime žmonijai atsidurti šių skruzdėlių padėtyje “.
Nickas Bostromas, AI filosofas, fantazuoja apie pasaulio pabaigos scenarijus, kai programa pradeda veikti neteisinga linkme. Pavyzdžiui, dirbtiniam intelektui suteikiama užduotis parengti aplinkos apsaugos planą, o siekdamas išspręsti ekologijos problemą, jis nusprendžia sunaikinti žmoniją.
Elonas Muskas jau paskyrė 10 milijonų dolerių AI saugumo tyrimams, kad būtų užkirstas kelias destruktyviam dirbtiniam intelektui, tokiam kaip „Skynet“, pasirodyti „Terminatoriuje“. Tačiau Hawkingas nori, kad žmonės pakeistų savo bendrą supratimą apie PG.
„Prašau, pasakykite savo studentams, kad jie galvotų ne tik apie tai, kaip sukurti AI, bet ir kaip užtikrinti, kad jis būtų naudojamas naudingais tikslais“, - pasakojo Hawkingas dirbtinio intelekto paskaitas skaitančiam dėstytojui. „AI, kuris peržengia žmones, atsiradimas taps arba geriausias, arba blogiausias įvykis žmonijos istorijoje. Todėl svarbu, kad viskas vyktų taip, kaip turėtų “.