A equidade do sistema criminal: Uma análise do viés racial no sistema compas com modelos de inteligência artificial

Abstract

O trabalho presente tem como objetivo investigar o sistema Compas que é utilizado para avaliar a periculosidade de indivíduos decidindo se são elegíveis para receber liberdade provisória. O estudo parte da hipótese de que o sistema possui viés racial entrelaçado entre suas decisões e utiliza dois modelos de inteligência artificial — KNN K-Nearest Neighbors e Decision Tree — para avaliar os resultados do sistema Compas. Em seguida a pesquisa realiza uma classificação com a entrada de novos dados para comparar as decisões dos sistemas que foram treinados a partir da base de dados original com o objetivo de verificar se existem possíveis disparidade entre os resultados de pessoas afro-americanas e caucasianas, quando são colocadas com o mesmo histórico. Dessa forma, o trabalho foca na análise de três critérios presentes na base de dados que são os riscos de violência, de não comparecimento no tribunal e de reincidência. Assim, a pesquisa aborda a falta de transparência e opacidade dos modelos que mesmo possuindo grande potencial de utilização podem perpetuar vieses raciais ao classificar indivíduos de diferentes étnicas de maneiras distintas.