NEUTROS, OBJETIVOS E EFICIENTES? O USO DE ALGORITMOS EM PROCESSOS INSTITUCIONAIS DE TOMADAS DE DECISÃO

Resumo

Neste trabalho propomo-nos a analisar as controvérsias em torno da neutralidade e da eficiência dos algoritmos em tecnologias de informação presentes em instituições públicas e, de modo geral, em processos de tomadas de decisão. Em países como Brasil, Estados Unidos e Nova Zelândia, o uso de algoritmos já é realidade em procedimentos que visam à neutralidade, a objetividade e a modernização através do uso de tecnologias e sistemas como a Inteligência Artificial. Na Nova Zelândia, por exemplo, um sistema foi utilizado para prever a probabilidade de que crianças recém-nascidas sofram ou não maus-tratos com base em dados como a idade dos pais, saúde mental e situação financeira. Já no Brasil, constata-se o uso de algoritmos em setores do judiciário, nos quais sistemas de Inteligência Artificial realizam a triagem de processos e sugerem a tomada de decisões, e da administração pública, que se vale de tecnologias de coleta e cruzamento de dados para a melhoria dos serviços e concessão de benefícios sociais. Nesse sentido, poderiam os algoritmos nos fornecer análises e sugestões neutras e objetivas? Para tanto, apoiamo-nos nos Estudos Sociais da Ciência e Tecnologia e, para fins de fundamentação empírica, utilizamos de estudos e matérias jornalísticas sobre os algoritmos e as polêmicas em torno da sua atuação. Nossas análises levam-nos a questionar sobre suas qualidades políticas e como, em alguns casos, as análises e sugestões dadas por eles podem emitir vieses políticos, econômicos e socioculturais que corroboram opiniões e atitudes baseadas em discriminação e preconceito.