Nuo 1998 metų Amerikos policijoje dirbantis algoritmas „Compas“išanalizavo kaltinamųjų duomenis, o tada, remdamasis gauta informacija, padėjo nuspręsti, pavyzdžiui, ar nusikaltėlis turėtų būti paleistas už užstatą, ar turėtų būti laikomas areštinėje. Renkantis suvaržymo priemonę, sistema atsižvelgė į amžių, lytį ir patirtį nusikalstamoje arenoje. Per 20 „tarnybos“metų algoritmą vertino daugiau nei milijonas žmonių, tačiau neseniai jis buvo paskelbtas neveiksniu, o po to iškart buvo primintas.
Mokslininkai iš Dartmuto koledžo išbandė sistemos tikslumą ir ar ja galima pasitikėti. Norėdami tai padaryti, jie samdė laisvai samdomus darbuotojus, paprastus žmones, neturinčius teisinio išsilavinimo, kad jie patys priimtų sprendimus remdamiesi trumpa informacija apie žmones, pateikdami tiriamiesiems informaciją apie lytį, amžių, kriminalinę istoriją ir keletą kitų parametrų.
Mažą dokumentaciją turėjusių laisvai samdomų vertėjų prognozės tikslumas buvo beveik 70 proc., Tuo tarpu programa atsiliko nuo žmonių penkiais procentais, tuo tarpu pasikliaudama 137 biografijos taškais. Analizuojant algoritmo sprendimus paaiškėjo, kad juodaodžio kalinius labiau linkusi įtarti programa.
„Klaidos tokiais atvejais gali būti labai brangios, todėl verta pagalvoti, ar apskritai šis algoritmas turėtų būti naudojamas teismų nuosprendžiams priimti“, - sako vienas iš tyrimo autorių.
Ištyrę algoritmo principą, mokslininkai priėjo prie išvados, kad kuo jaunesnis kaltinamasis ir kuo daugiau areštų jis turi, tuo didesnė tikimybė, kad pasikartos, todėl AI specialistai pripažino technologiją nepatikima.
Viačeslavas Larionovas