A regulação do discurso de ódio nas redes sociais : o caso do oversight board da meta

Abstract

Resumo: A presente dissertação tem como objetivo compreender e apresentar as tensões existentes para a regulação do discurso de ódio online através de uma análise das primeiras decisões sobre o tema do recém-criado Oversight Board da Meta. Para tanto, partiu-se das premissas da presença de discursos odiosos no ambiente virtual, da necessidade de sua regulação e do reconhecimento da existência de um sistema de moderação privado deste discurso pelas redes sociais. Desta forma, a problemática sobre a qual se desenvolveu o estudo é se a atual regulação privada do discurso de ódio online desenvolvida em particular pela empresa Meta através da criação do Board incorpora valores democráticos e respeita os direitos humanos. Portanto, trata-se de uma pesquisa de cunho exploratório que promove uma análise qualitativa das decisões do Board, por meio do método de análise de conteúdo. Amparando-se nas técnicas de pesquisa documental e bibliográfica, o estudo foi organizado em três capítulos. O primeiro capítulo ilustrou o atual contexto da liberdade de expressão e do ódio nas redes sociais, desde a ascensão das grandes redes e suas infraestruturas que facilitam a disseminação do hate speech até os desafios enfrentados pelos Estados para a sua regulação. As iniciativas que buscam a regulação ou não dos discursos odiosos nas redes sociais foram apresentadas nos capítulos um e dois, na perspectiva das previsões legais dos Estados e dos mecanismos de moderação de conteúdo adotados pelas próprias redes, respectivamente. Por fim, no último capítulo, insights empíricos sobre o tema foram delineados através da análise das decisões do Oversight Board. Como conclusão, observou-se que os mecanismos adotados pelas redes são essenciais para o combate do ódio online e que as decisões do Board partem de obstáculos já conhecidos sobre o tema, mas que são intensificados no contexto virtual. Ainda, foi constado que esse novo mecanismo de regulação, o Board, pode fornecer informações importantes e contribuir para o desenvolvimento, transparência e fiscalização do processo moderação de conteúdo da Meta

Abstract: This thesis aims to understand and present the existing tensions for the regulation of online hate speech through an analysis of the first decisions on the subject of the newly created Meta Oversight Board. Thus, the work started from the premises of the presence of hateful speeches in the virtual environment, the need for its regulation and the recognition of the existence of a moderation system deprived of this speech by social networks. In this way, the problem on which the study was developed is whether the current private regulation of online hate speech developed by the company Meta through the creation of the Board incorporates democratic values and respects fundamental rights. Therefore, this is exploratory research that promotes a qualitative analysis of the Board's decisions, using the content analysis method. Based on documentary and bibliographical research techniques, the study was organized into three chapters. The first illustrated the current context of freedom of expression and hate in social networks, from the rise of large networks and their infrastructures that facilitate the spread of hate speech to the challenges faced by States for their regulation. The initiatives that seek to regulate or not hate speech on social networks were presented in chapters one and two, from the perspective of the legal provisions of the States and the content moderation mechanisms adopted by the networks themselves, respectively. Finally, in the last chapter, empirical insights on the subject were outlined through the analysis of the Oversight Board decisions. In conclusion, it was observed that the mechanisms adopted by the networks are essential for combating online hate and that the Board's decisions are based on obstacles that are already known on the subject, but which are intensified in virtual contexts. Furthermore, it was found that this new regulatory mechanism, the Board, can provide important information and contribute to the development, transparency and supervision of the Meta content moderation process.