Klausimuose ir diskusijose apie dirbtinio intelekto ateitį yra dvi pagrindinės priešingos pusės. Viename kampe yra tokios bendrovės kaip „Google“, „Facebook“, „Amazon“ir „Microsoft“, agresyviai investuojančios į technologijas, kad AI sistemos taptų intelektualesnės, kitame - didieji šių laikų mąstytojai, tokie kaip Elonas Muskas ir Stephenas Hawkingas, kurie tiki kad AI vystymasis yra panašus į „demono burtą“.
Viena pažangiausių AI kompanijų „DeepMind“, priklausanti „Google“, sukūrė saugumo priemones tuo atveju, jei žmogui reikia „perimti roboto, kurio gedimas gali sukelti nepataisomas pasekmes, kontrolę“. Mes galime manyti, kad mes kalbame apie … „nužudyk visus žmones“. Žinoma, iš tikrųjų imtasi priemonės nėra užuomina į galimą apokalipsę, tai greičiau saugumo priemonės, susijusios su išmaniaisiais robotais, kurie veikia ir ateityje veiks įvairiose gamyklose ir gamyklose.
- „Salik.biz“
Paskelbtas dokumentas su receptais yra bendras „DeepMind“ir Oksfordo žmonijos ateities instituto darbas, kuriame, kaip rodo pavadinimas, nagrinėjami klausimai, kurie leis pačiai žmonijai patekti į ateitį. Dešimtmečius instituto įkūrėjas Nickas Bostromas labai vaizdžiai kalbėjo apie galimus dirbtinio intelekto vystymosi pavojus ir šia tema parašė ne vieną knygą, kurioje aptarė superintelektualiųjų robotų kūrimo pasekmes.
Vadovas, apie kurį šiandien kalbame, pavadintas „Saugiai neįgalūs agentai“, nagrinėja, kaip išjungti AI, jei jis pradeda daryti dalykus, kurių nenori daryti žmogus. Darbą sudaro įvairūs skaičiavimai ir formulės, kurių 99 procentai mūsų greičiausiai nesupras. Todėl, paprasčiau tariant, mes kalbame apie „raudoną mygtuką“, kuris gali išjungti AI.
Galite juoktis ir stebėtis, bet robotikos ir AI pradininkai žiūri tuos pačius sci-fi filmus, kuriuos ir mes. Tie, kuriuose robotai kažkada sugalvojo, kaip nepaisyti išjungimo komandos. Taigi dabar būsime tam pasirengę. Paskelbtame dokumente aprašomi metodai ir sprendimai, užtikrinantys, kad „traukiamas agentas“(skaitykite AI) negalėtų išmokti ignoruoti ar užkirsti kelią išorinės aplinkos ar žmogaus veikėjui.
Tai gali atrodyti kaip perdėtas užmušimas, ypač kai manote, kad šiuo metu pažangiausias AI iš tikrųjų tik geras stalo žaidimuose. Tačiau „Bostrom“mano, kad prieš pradedant kurti žmogaus smegenų lygio AI, reikia imtis tinkamų priemonių:
Kai tik dirbtinis intelektas pasieks žmogaus lygį, daugelyje sričių tikimasi staigaus vystymosi šuolio. Taip pat netrukus patys AI kurs naujas AI. Tiesiog įvertinkite šias perspektyvas ir kartu galimus pavojus. Todėl geriau nepersistengti, nei praleisti “.
NIKOLAY KHIZHNYAK
Reklaminis vaizdo įrašas: