Vakarinėje Amerikos pakrantėje vertingiausios pasaulio įmonės stengiasi padaryti dirbtinį intelektą protingesniu. „Google“ir „Facebook“gąsdina eksperimentais, kuriuose naudojama milijardai nuotraukų ir tūkstančiai našių procesorių. Tačiau praėjusių metų pabaigoje rytiniame Tenesyje vykstantis projektas tyliai pranoko bet kurios korporacijos AI laboratoriją. Jai vadovavo JAV vyriausybė.
- „Salik.biz“
JAV vyriausybės superkompiuteris sulaužė rekordus
Rekordiniame projekte dalyvavo galingiausias pasaulyje superkompiuteris „Summit“, esantis Oak Ridge nacionalinėje laboratorijoje. Šis automobilis vainiką iškovojo praėjusių metų birželį, po penkerių metų grąžindamas titulą JAV, kai Kinija pateko į sąrašą. Vykdydamas klimato tyrimų projektą milžiniškas kompiuteris pradėjo mašinų mokymosi eksperimentą, kuris buvo greitesnis nei bet kada anksčiau.
Aukščiausiojo lygio susitikime, apimančiame plotą, lygų dviem teniso kortams, šiame projekte buvo panaudota daugiau nei 27 000 galingų GPU. Jis panaudojo jų jėgą mokydamas giluminio mokymosi algoritmus - pačią technologiją, kuria grindžiamas pažangusis dirbtinis intelektas. Giluminio mokymosi metu algoritmai atlieka pratimus milijardu milijardo operacijų per sekundę, superkompiuterių sluoksniuose vadinamu pranašumu.
„Gilus mokymasis niekada anksčiau nebuvo pasiekęs tokio lygio rezultatų“, - sako Prabhatas, Lawrence Berkeley Nacionalinės laboratorijos Nacionalinio energijos tyrimų centro tyrimų grupės vadovas. Jo komanda bendradarbiavo su tyrėjais viršūnių susitikime, Oak Ridge nacionalinėje laboratorijoje.
Kaip jau galima spėti, galingiausio pasaulyje kompiuterio AI mokymai buvo sutelkti į vieną didžiausių pasaulio iššūkių - klimato pokyčius. Technikos kompanijos rengia algoritmus, pagal kuriuos būtų galima atpažinti veidus ar kelio ženklus; vyriausybės mokslininkai išmokė juos atpažinti oro klimatą, pavyzdžiui, ciklonus iš klimato modelių, kurie sutelkia šimto metų Žemės atmosferos prognozes į tris valandas. (Vis dėlto neaišku, kiek energijos prireikė projektui ir kiek anglies šio proceso metu išleido į orą).
Reklaminis vaizdo įrašas:
Aukščiausiojo lygio susitikimo eksperimentas daro įtaką dirbtinio intelekto ir klimatologijos ateičiai. Projektas parodo mokslinio potencialo pritaikymą giliam mokymuisi su superkompiuteriais, kurie tradiciškai imituoja fizinius ir cheminius procesus, tokius kaip branduoliniai sprogimai, juodosios skylės ar naujos medžiagos. Tai taip pat rodo, kad mašinų mokymuisi gali būti naudinga didesnė skaičiavimo galia - jei galite ją rasti - ir ateityje bus galima laimėti.
„Mes nežinojome, kad tai gali būti padaryta tokiu mastu, kol to nepadarėme“, - sako Rajat Monga, „Google“technikos direktorius. Jis ir kiti „Google“darbuotojai padėjo įgyvendinti projektą pritaikydami bendrovės atvirojo kodo „TensorFlow“mašinų mokymosi programinę įrangą milžiniškam „Summit“susitikimui.
Didelė dalis giluminio mokymosi mastelio didinimo darbo nuveikta interneto bendrovių duomenų centruose, kur serveriai dirba kartu spręsdami problemas, atskyrdami jas, nes yra santykinai atsiskyrę, o ne sujungti į vieną milžinišką kompiuterį. Superkompiuteriai, tokie kaip „Summit“, turi skirtingą architektūrą, turėdami specialius spartiuosius ryšius, sujungiančius tūkstančius procesorių į vieną sistemą, galinčią veikti kaip visuma. Iki šiol buvo palyginti nedaug darbo, pritaikant mašinų mokymąsi dirbti su tokio tipo aparatūra.
Monga sako, kad darbas pritaikyti „TensorFlow“prie „Summit“masto taip pat rems „Google“pastangas plėsti savo vidines dirbtinio intelekto sistemas. „Nvidia“inžinieriai taip pat dalyvavo šiame projekte ir užtikrino, kad dešimtys tūkstančių „Nvidia“GPU šiame įrenginyje veikia be kliūčių.
Dabartiniame technologijos tobulinime buvo naudinga rasti būdų, kaip panaudoti daugiau skaičiavimo galios giluminio mokymosi algoritmuose. Ta pati technologija, kurią „Siri“naudoja balso atpažinimui, ir „Waymo“automobiliai kelio ženklams skaityti tapo naudinga 2012 m., Po to, kai mokslininkai pritaikė ją važiuoti „Nvidia“GPU.
Praėjusį gegužę paskelbtoje analizėje Elono Musko įsteigto San Francisko tyrimų instituto „OpenAI“mokslininkai apskaičiavo, kad skaičiavimo galios dydis didžiuosiuose viešuose kompiuterių mokymosi eksperimentuose nuo 2012 m. Padidėjo maždaug kas 3,43 mėnesio; tai reikštų 11 kartų padidėjimą per metus. Šis progresas padėjo abėcėlės botui įveikti čempionus, keliančius iššūkius stalo ir vaizdo žaidimuose, taip pat žymiai pagerino „Google“vertėjo tikslumą.
Norėdami tęsti šią tendenciją, „Google“ir kitos įmonės šiuo metu kuria naujų rūšių AI palaikančius lustus. „Google“sako, kad ankštys su tūkstančiais jos AI lustų, esančių arti tarpo - dubliuotuose tensoriniuose procesoriuose arba TPU - gali suteikti 100 petaflops duomenų apdorojimo galios, ty dešimtadalį greičio, kurį pasiekė viršūnių susitikimas.
Aukščiausiojo lygio susitikimo indėlis į klimato mokslą rodo, kaip gigantiškas PG gali pagerinti mūsų supratimą apie būsimas oro sąlygas. Kai tyrėjai generuoja šimtmečio orų prognozes, perskaityti gautą prognozę tampa sudėtinga. Įsivaizduokite, kad turite „YouTube“filmą, rodomą 100 metų. Šiame filme nėra galimybės rankiniu būdu surasti visų kačių ir šunų “, - sako Prabhatas. Paprastai šiam procesui automatizuoti naudojama programinė įranga, tačiau ji nėra tobula. Aukščiausiojo lygio susitikimo rezultatai parodė, kad mašinų mokymasis gali tai padaryti daug geriau, o tai turėtų padėti numatyti tokias audras kaip potvyniai.
Anot Kalifornijos universiteto Irvine'o profesoriaus Michaelio Pritchardo, pradėti gilų mokymąsi superkompiuteriuose yra palyginti nauja idėja, kilusi klimato tyrinėtojams patogiu metu. Dėl sulėtėjusio tradicinių procesorių vystymosi inžinieriai turėjo aprūpinti superkompiuterius vis daugiau grafikos lustų, kad nuosekliau pagerintų našumą. „Atėjo laikas, kai nebegalite padidinti perdirbimo galios įprastu būdu“, - sako Pritchard.
Šis pokytis sustabdė tradicinį modeliavimą, todėl turėjo prisitaikyti. Tai taip pat atveria galimybes panaudoti gilaus mokymosi jėgą, kuri, savaime suprantama, yra grafikos lustai. Galbūt susidarysime aiškesnį savo klimato ateities vaizdą.
Ilja Khel