Gerando inteligência: considerações etnográficas sobre a construção de objetividade no campo da inteligência artificial

Abstract

A partir de 2010, o termo ?Inteligência Artificial? (IA) foi reavivado no mainstream. Com a evolução das técnicas da subárea conhecida como ?machine learning? (ML), empresas começaram a investir em IA gerando uma expansão rápida da área. Essa expansão foi acompanhada pela cobertura midiática e acadêmica de casos de discriminação algorítmica, assim como práticas de invasão de privacidade, que estimularam o debate público sobre as implicações éticas da adoção de aplicações de IA. Entretanto, o uso do conceito nessas discussões permanece indefinido. A presente pesquisa busca abordar o modo como o crescimento da atenção direcionada à IA incidiu nas práticas dos especialistas do campo da tecnologia, envolvidos na elaboração de modelos de IA. Trata-se de uma etnografia realizada, principalmente, em conferências voltadas ao tema. Também abrange a participação em cursos, grupos de comunidades voltadas à IA em redes sociais e conversas com interlocutores conhecidos nesses espaços. Através da inspiração em trabalhos no campo dos Science and Technology Studies (STS) e dos New Media Studies, o objetivo é abordar como a construção de objetividade se deu em meio aos especialistas. Desse modo, a pesquisa aborda o tema através de três ângulos: o mercado, a ciência e a ética. Tratam-se de enquadres que surgiram como relevantes para o modo como interlocutores desenvolvem e reivindicam a objetividade de aplicações de IA perante as críticas direcionadas a elas no senso comum. Assim, a discussão identifica a centralidade da divisão entre ?dois tipos? de IA nos discursos dos especialistas, sendo o desenvolvimento recente da área associado à ênfase no caráter técnico e segmentado dela. Além disso, a divisão aponta para a transposição das pesquisas em IA da academia para o mercado. Ainda, a pesquisa aborda a recursividade entre metáforas computacionais e naturais como parte constitutiva dos processos de criação de modelos, apontando para noções econômicas de natureza e de pessoa. Por fim, focamos no modo como a discussão ética, principalmente acerca da noção de ?vieses? que atrapalham a performance objetiva dos modelos, atua na manutenção de divisões entre o âmbito da técnica e o âmbito do social.

Abstract: As of 2010, the term ?artificial intelligence? (AI) has been revived in the mainstream. With the evolution of techniques in the sub-area known as ?machine learning? (ML), companies began to invest in AI. This expansion was amplified by the media and academic coverage of algorithmic discrimination cases, as well as privacy-invasion practices, which spurred public debate on the ethical implications of adopting AI applications. However, the use of the concept in these analyzes remains undefined. The present research seeks to address the way in which the growth of attention directed to AI has influenced the practices of experts in the field of technology, those involved in the elaboration of AI models. It is an ethnography carried out, mainly, in conferences focused on the subject. It also encompasses the participation in courses, social media groups created by AI communities and conversations with interlocutors known in those spaces. Inspired by works in the field of Science and Technology Studies (STS) and New Media Studies, this work aims to address how the construction of objectivity took place among the experts. The research approaches the subject through three angles: the market, science and ethics. These are frames that emerged as relevant in the way interlocutors develop and claim the objectivity of AI applications in the face of criticism directed at them in common sense. Thus, the discussion identifies the centrality of the division between ?two types of AI? in the experts? discourses, and the association between the recent development of the area with the emphasis on its technical and segmented character. The division points to the transposition of AI research from academia to the market. The dissertation also addresses the recursive relationship between computational and natural metaphors as a constitutive part of the construction of AI models, which point to economic views of nature and personhood. Finally, we focus on the way in which the ethical discussion, mainly about the notion of \"biases\" that hinder the objective performance of the models, acts in the maintenance of the divisions between the technical and the \"social\" scope.