O algoritmo Compas, que funciona para a polícia americana desde 1998, analisou os dados dos réus e, a partir das informações recebidas, ajudou a decidir, por exemplo, se o criminoso deveria ser libertado sob fiança ou mantido sob custódia. Ao escolher uma medida de contenção, o sistema levou em consideração a idade, o gênero e o histórico na arena criminal. Durante 20 anos de "serviço", o algoritmo foi avaliado por mais de um milhão de pessoas, mas recentemente foi declarado incompetente, após o que foi imediatamente recuperado.
Cientistas do Dartmouth College testaram a precisão do sistema e se ele é confiável. Para isso, recrutaram freelancers, pessoas comuns sem formação jurídica, para tomarem suas próprias decisões com base em breves informações sobre as pessoas, dando aos sujeitos informações sobre sexo, idade, antecedentes criminais e diversos outros parâmetros.
A precisão da previsão dos freelancers que tinham um pequeno dossiê era de quase 70%, enquanto o programa ficava atrás das pessoas em 5%, enquanto confiava em 137 pontos de biografia. A análise dos julgamentos do algoritmo mostrou que os prisioneiros negros têm maior probabilidade de serem suspeitos pelo programa.
“Erros nesses casos podem ser muito caros, então vale a pena considerar se esse algoritmo deve ser usado para entregar veredictos do tribunal”, disse um dos autores do estudo.
Tendo estudado o princípio do algoritmo, os pesquisadores chegaram à conclusão de que quanto mais jovem o réu e quanto mais prisões ele tiver, maior a probabilidade de uma recaída, portanto, os especialistas em IA reconheceram a tecnologia como não confiável.
Viacheslav Larionov
