Bendrovė „OpenAI“, kurios vienas iš įkūrėjų yra Elonas Muskas, paskelbė, kad kuria pažangų dirbtinį intelektą, skirtą rašyti originalius tekstus tam tikra tema. Jis turėjo išversti tekstus į kitas kalbas, atsakyti į klausimus ir atlikti kitas naudingas užduotis, tačiau tyrimai parodė, kad jis gali būti ypač pavojingas ir gali būti naudojamas elektroninių nusikaltėlių masiškai apgaudinėjant žmones. Šiuo atžvilgiu bendrovė nusprendė parodyti visuomenei tik ribotą versiją ir išlaikyti originalą kuo griežčiau.
Kompiuterio modelis buvo pavadintas GPT-2 ir buvo apmokytas iš 8 milijonų tinklalapių. Ant jų parašyti tekstai sudaro pagrindą naujai medžiagai žmogaus pasirinkta tema: pavyzdžiui, dirbtinis intelektas gali sudaryti visą esė apie teigiamus šiukšlių perdirbimo aspektus arba fantastinę istoriją „Žiedų valdovo“stiliaus. Tačiau tyrėjai taip pat nustatė, kad sistema atlieka puikų darbą rašydama melagingas naujienas apie įžymybes, nelaimes ir net karus.
- „Salik.biz“
Šiuo metu visa teksto generavimo įrankio versija prieinama tik kūrėjams ir kai kuriems „MIT Technology Review“bendradarbiams. Dėl to, kad jis gali būti naudojamas nekontroliuojamai suklastotų naujienų ir publikacijų kūrimui socialiniuose tinkluose, buvo nuspręsta jos neskelbti viešai ir nelaikyti paslaptyje.
„ScienceAlert“pasidalijo melagingų naujienų pavyzdžiu:
Trumpą esė apie šiukšlių perdirbimo minusus galite perskaityti „OpenAI“tinklaraštyje.
Kūrėjai pripažįsta, kad kalbos modelis šiuo metu nėra idealus: sistema kartais leidžia kartoti tam tikrus teksto fragmentus, nenatūralų temos perjungimą ir pasaulio modeliavimo nesėkmes. Pavyzdžiui, viename iš bandymų etapų sistema rašė apie gaisrą, kuris kilo po vandeniu.
Reklaminis vaizdo įrašas:
Anot „Open AI Policy“direktoriaus Jacko Clarke'o, po poros metų toks algoritmas gali virsti pavojingu masinio žmonių klaidinimo ginklu. Kai kurie kritikai įsitikinę, kad technologija jokiu būdu nėra pavojinga, o įmonė tiesiog atkreipia į save dėmesį.