Inteligência artificial explicável e decisões judiciais: experimentações com o método SHAP

Abstract

Segundo o relatório \"Justiça em Números\" do Conselho Nacional de Justiça (CNJ), houve um acréscimo de 10% no número de novas ações judiciais em 2022, chegando a um total impressionante de 31,5 milhões. Diante desse cenário, este trabalho tem como objetivo principal examinar como os conhecimentos técnico-simbólicos podem ser empregados para proporcionar explicabilidade à Inteligência Artificial (IA) no contexto do Direito, especificamente através do método SHAP. Para isso, realizou-se uma revisão bibliográfica sobre o potencial da IA e da Inteligência Artificial Explicável (XAI), uma revisão sistemática de IA e XAI em fontes acadêmicas (Scopus, Web of Science, SciELO, IEEE Xplore, ACM Digital Library e Google Scholar), experimentos para entender a interação de modelos preditivos com o conhecimento jurídico estruturado, experimentos com o modelo explicativo SHAP para prever decisões de IA em relação a decisões judiciais envolvendo ações de companhias aéreas, e uma validação da abordagem proposta com especialistas da área e operadores do direito. Os resultados indicaram que o método SHAP é capaz de gerar rotas explicativas de decisões algorítmicas na representação de conhecimento jurídico, contribuindo para a transparência e a compreensão da IA jurídica.

Abstract: According to the ?Justice in Numbers? report by the National Council of Justice (CNJ), there was a 10% increase in the number of new lawsuits in 2022, reaching an impressive total of 31.5 million. In light of this scenario, this study aims to examine how technicalsymbolic knowledge can be employed to provide explainability to Artificial Intelligence (AI) in the context of Law, specifically through the SHAP method. To this end, a bibliographic review was conducted on the potential of AI and Explainable Artificial Intelligence (XAI), a systematic review of AI and XAI in academic sources (Scopus, Web of Science, SciELO, IEEE Xplore, ACM Digital Library, and Google Scholar), experiments to understand the interaction of predictive models with structured legal knowledge, experiments with the SHAP explanatory model to predict AI decisions regarding judicial decisions involving airline companies? lawsuits, and a validation of the proposed approach with experts in the field and legal practitioners. The results indicated that the SHAP method is capable of generating explanatory pathways for algorithmic decisions in the representation of legal knowledge, contributing to the transparency and understanding of legal AI.