AI poate prezice ce criminali pot încălca din nou legile mai bine decât oamenii

Algoritmii computerizati pot depasi oamenii in a prezice ce criminali vor fi arestati din nou, arata un nou studiu.

Algoritmii de evaluare a riscurilor care prognozează infracțiunile viitoare ajută adesea judecătorii și comisiile de eliberare condiționată să decidă cine stă după gratii (SN: 9/6/17). Dar aceste sisteme au fost criticate pentru că prezintă părtiniri rasiale (SN: 3/8/17), iar unele cercetări au dat motive de îndoială că algoritmii sunt mai buni la prezicerea arestărilor decât oamenii. Un studiu din 2018 care a înfruntat voluntari umani cu instrumentul de evaluare a riscurilor COMPAS a constatat că oamenii au prezis recidiva criminală la fel de bine ca software-ul (SN: 20/2/18).

Noul set de experimente confirmă faptul că oamenii prezic infracțiunile recidivante, precum și algoritmi, atunci când oamenilor li se oferă feedback imediat cu privire la acuratețea predicțiilor lor și când li se arată informații limitate despre fiecare infractor. Dar oamenii sunt mai răi decât computerele atunci când indivizii nu primesc feedback sau dacă li se arată profiluri criminale mai detaliate.

În realitate, nici judecătorii și comisiile de eliberare condiționată nu primesc feedback instantaneu și, de obicei, au o mulțime de informații cu care să lucreze în luarea deciziilor. Așadar, descoperirile studiului sugerează că, în condiții de predicție realiste, algoritmii depășesc oamenii la prognoza recidivei, raportează cercetătorii online pe 14 februarie în Progresele științei.

Omul de științe sociale computaționale Sharad Goel de la Universitatea Stanford și colegii săi au început prin a imita configurația studiului din 2018. Voluntarii online au citit scurte descrieri ale a 50 de criminali – inclusiv caracteristici precum sexul, vârsta și numărul de arestări anterioare – și au ghicit dacă fiecare persoană ar fi probabil să fie arestată pentru o altă crimă în termen de doi ani. După fiecare rundă, voluntarilor li s-a spus dacă au ghicit corect. După cum sa văzut în 2018, oamenii au rivalizat cu performanța COMPAS: exacte aproximativ 65 la sută din timp.

Dar într-o versiune ușor diferită a acestei competiții uman vs. computer, echipa lui Goel a descoperit că COMPAS avea un avantaj față de oamenii care nu au primit feedback. În acest experiment, participanții au trebuit să prezică care dintre cei 50 de criminali vor fi arestați pentru crime violente, mai degrabă decât pentru orice infracțiune.

Cu feedback, oamenii au îndeplinit această sarcină cu o precizie de 83 la sută – aproape de 89 la sută a COMPAS. Dar fără feedback, precizia umană a scăzut la aproximativ 60 la sută. Acest lucru se datorează faptului că oamenii au supraestimat riscul ca infractorii să comită crime violente, în ciuda faptului că li s-a spus că doar 11% dintre criminalii din setul de date au căzut în această tabără, spun cercetătorii. Studiul nu a investigat dacă factori precum părtinirile rasiale sau economice au contribuit la această tendință.

Într-o a treia variantă a experimentului, algoritmii de evaluare a riscurilor au arătat avantaje atunci când au primit profiluri criminale mai detaliate. De data aceasta, voluntarii s-au confruntat cu un instrument de evaluare a riscurilor numit LSI-R. Acest software ar putea lua în considerare cu 10 mai mulți factori de risc decât COMPAS, inclusiv abuzul de substanțe, nivelul de educație și statutul de angajare. LSI-R și voluntarii umani au evaluat infractorii pe o scară de la foarte puțin probabil la foarte probabil să recidică.

Când au fost prezentate profiluri criminale care includeau doar câțiva factori de risc, voluntarii au avut rezultate similare cu LSI-R. Dar atunci când sunt prezentate descrieri criminale mai detaliate, LSI-R a câștigat. Infractorii cu cel mai mare risc de a fi arestați din nou, clasificați în funcție de oameni, au inclus 57 la sută dintre recidivitorii efectivi, în timp ce lista LSI-R a celor mai probabili arestați conținea aproximativ 62 la sută din recidivenții efectivi din grup. Într-o sarcină similară care a implicat prezicerea criminalilor nu numai că vor fi arestați, dar vor fi reînchiși, lista cu cel mai mare risc a oamenilor conținea 58 la sută din recidivenții efectivi, în comparație cu 74 la sută a LSI-R.

Informaticianul Hany Farid de la Universitatea din California, Berkeley, care a lucrat la studiul din 2018, nu este surprins de faptul că algoritmii au avut un avantaj atunci când voluntarii nu au primit feedback și au avut mai multe informații de jonglat. Dar doar pentru că algoritmii îi depășesc pe voluntarii neantrenați nu înseamnă că previziunile lor ar trebui să fie automat de încredere pentru a lua decizii penale, spune el.

Precizia de optzeci la sută ar putea suna bine, spune Farid, dar „trebuie să te întrebi dacă greșești 20 la sută din timp, ești dispus să tolerați asta?”

Deoarece nici oamenii, nici algoritmii nu arată o acuratețe uimitoare în a prezice dacă cineva va comite o crimă doi ani mai târziu, „ar trebui să folosim [those
forecasts] ca o măsură pentru a determina dacă cineva este liber?” spune Farid. „Argumentul meu este nu”.

Poate că alte întrebări, cum ar fi cât de probabil este cineva să obțină un loc de muncă sau să renunțe la cauțiune, ar trebui să aibă în vedere mai mult în deciziile de justiție penală, sugerează el.