Decisão algorítmica no âmbito da Previdência Social Brasileira: parâmetros mínimos de compatibilização do uso da inteligência artificial pelo INSS a partir do Robô Isaac

Abstract

A pesquisa explora os parâmetros mínimos para compatibilizar as decisões algorítmicas no contexto da Previdência Social brasileira, com os princípios constitucionais atinentes à tomada de decisão administrativa. Nesse sentido, a partir do estudo de caso do Robô Isaac, ferramenta de automatização desenvolvida pela Dataprev e implementada pelo INSS para a análise de processos administrativos de concessão de benefícios previdenciários, busca-se compreender os desafios e limitações dessa tecnologia em relação ao devido processo legal, contraditório e transparência. A pesquisa parte do seguinte problema de pesquisa: Como compatibilizar a aplicação de ferramentas de automatização no âmbito da Previdência Social, sobretudo nos processos de concessão de benefícios previdenciários, com os princípios processuais do devido processo legal, contraditório e da transparência? A hipótese básica formulada indica que a aplicação, no âmbito do INSS, da inteligência artificial para analisar requerimentos administrativos previdenciários e proferir decisões administrativas, da forma como foi implementada (Robô Isaac), não se afigura compatível com os princípios processuais do devido processo legal, do contraditório e da transparência. A compatibilização da decisão algorítmica com as balizas do regime jurídico administrativo-constitucional depende da implementação de soluções técnicas e regulatórias que viabilizem a explicabilidade das ferramentas, a rastreabilidade e a robustez das bases de dados e a supervisão humana. Como objetivo geral da tese, pretende-se investigar e discutir, de forma crítica, a aplicação, no âmbito do INSS, da inteligência artificial Isaac para analisar requerimentos administrativos previdenciários e proferir decisões administrativas, de forma a questionar sua (in)compatibilidade em relação aos princípios processuais do devido processo legal, contraditório e da transparência/motivação. Os resultados da pesquisa revelam que a forma como o Robô Isaac tem sido utilizado pelo INSS viola garantias fundamentais do regime jurídico administrativo-constitucional. Constatou-se a ausência de explicabilidade nas decisões automatizadas, o que compromete a transparência, dificulta a compreensão pelos segurados e inviabiliza o exercício do contraditório. A ferramenta opera como uma ?caixa-preta?, sem clareza sobre os critérios aplicados ou a lógica decisória. Identificaram-se, ainda, deficiências estruturais no Cadastro Nacional de Informações Sociais (CNIS), cuja fragilidade compromete a confiabilidade das decisões produzidas. Também se evidenciou a insuficiência de supervisão humana, o que transfere à tecnologia, de forma acrítica, o poder de decidir sobre direitos previdenciários. Diante desse cenário, propõe-se a adoção de parâmetros normativos e técnicos que assegurem a compatibilidade da decisão automatizada com os princípios constitucionais processuais, quais sejam a explicabilidade, à robustez e rastreabilidade dos dados utilizados, e à supervisão humana ativa e proporcional ao risco.

Abstract: The research explores the minimum parameters required to align algorithmic decision-making with the constitutional principles applicable to administrative decision-making within the context of Brazil?s Social Security system. In this regard, through the case study of the Robô Isaac?a decision automation tool developed by Dataprev and implemented by the INSS for analyzing administrative procedures for the granting of social security benefits?the study seeks to understand the challenges and limitations of this technology concerning due process of law, adversarial proceedings, and transparency. The research is guided by the following question: How can the implementation of automated decision-making tools in Social Security, especially in benefit concession procedures, be reconciled with procedural principles such as due process, adversarial proceedings, and transparency? The central hypothesis posits that the use of artificial intelligence by the INSS, as exemplified by Robô Isaac, is not compatible with these constitutional procedural guarantees. Algorithmic decision-making, to be legally legitimate, must be supported by technical and regulatory mechanisms that ensure explainability, data traceability and robustness, and human oversight. The general objective is to critically assess the application of AI systems like Isaac in the administrative context of the INSS and to evaluate their (in)compatibility with constitutional procedural principles. The research findings reveal that the current implementation of Robô Isaac violates fundamental guarantees of the administrative-constitutional legal regime. It was found that the lack of explainability in automated decisions undermines transparency, hinders beneficiaries? understanding, and prevents effective contestation. The system operates as a ?black box,? offering no clarity regarding decision-making criteria or logic. Additionally, structural deficiencies were identified in the National Social Information Database (CNIS), which compromise the reliability of decisions made by AI. The research also highlights the absence of adequate human oversight, which results in an uncritical delegation of decision-making power to the algorithm in matters involving fundamental social rights. In light of these findings, the study proposes the adoption of normative and technical standards to ensure the compatibility of automated decision-making with constitutional procedural principles. These standards include mandatory explainability of the system?s operation, robustness and traceability of the data used, and active human supervision proportional to the level of risk involved.