DETECÇÃO AUTOMATIZADA DE CONTEÚDO INFRINGENTE NO COMITÊ DE SUPERVISÃO DA META

Resumo

Sistemas automatizados de detecção de conteúdo tornaram-se uma ferramenta poderosa para categorizar rapidamente conteúdos infringentes, já que os provedores de plataformas online vêm adotando um papel paulatinamente mais ativo na moderação da expressão. Contudo, o uso suscita questões sobre direitos exercidos em âmbito digital, especialmente a liberdade de expressão, pois, devido ao alcance global das plataformas, contextos diversos, além de idiomas diferentes, são abrangidos, o que pode levar a dificuldades na identificação precisa de conteúdos não permitidos em tais ambientes. Para tanto, a estrutura de decisão do Comitê de Supervisão da Meta (doravante Comitê) é examinada, com base na seleção de casos publicados pelo Conselho até 28.03.2024 que envolvam sistemas automatizados de moderação de conteúdo. Sendo assim, o problema de pesquisa consiste em analisar de que maneira é possível estruturar as razões para decidir e as recomendações do Comitê para os casos que envolvem detecção automatizada de conteúdo infringente. Em que pese o trabalho ainda esteja em andamento, destaca-se desde logo que: (i) 34 decisões do Comitê envolvem mecanismos automatizados, dos quais 28 envolvem casos de detecção automatizada de conteúdo e 6 envolvem uso de sistema automatização de priorização de denúncias dos usuários; (ii) das 28 decisões que envolvem casos de detecção automatizada de conteúdo, 19 incluem ou reiteram recomendações para aprimoramento de procedimentos que envolvam detecção automatizada de conteúdo infringente.