por Jônatas Pereira*

Imagine viver em um mundo em que cada pensamento seu é controlado. Cada ideia que passa pela sua mente é monitorada e tudo aquilo que não estiver de acordo com o que os governos aprovam é considerado como um crime.

Não é a restrição à liberdade de expressão, de expor sua opinião, mas ao próprio ato de pensar.

Agora, imagine viver em um mundo em que as pessoas falam tudo o que pensam, sem limites ou qualquer preocupação ética com o outro. Pessoas que exprimem seus preconceitos e ódio, incitando a violência e o ataque a grupos sociais como se fosse um direito absoluto. O direito a expressar opiniões sem repercussões ou consequências.​

A primeira cena está presente no livro 1984, de George Orwell (Ed. Secker and Warburg, Londres, 1949), na qual o autor criou a categoria de “crimes de pensamento” para representar os governos que impedem a livre manifestação do pensamento ou da divergência de opiniões. Já a segunda cena representa a realidade atual do Brasil e do mundo. Em que indivíduos confundem qual o limite entre a liberdade de expressão e o discurso de ódio.​

De acordo com o advogado João Capelotti, especialista em Direito Digital, a liberdade de expressão pode ser entendida como a liberdade de publicar opiniões e fatos de relevância social, englobando a liberdade de manifestação artística, política, científica e de informação, sendo um direito fundamental para exercício da democracia.​

No entanto, na dinâmica das plataformas digitais, os indivíduos se esquecem de que são cidadãos com responsabilidades perante a lei. Presos em seus estigmas, isolados no ódio e se sentindo inalcançáveis pela invisibilidade que as telas escuras dos aparelhos digitais oferecem, eles criam conteúdos maliciosos e põem em risco o bem-estar social do outro.​

Segundo a advogada Milena Baker, pesquisadora de minorias na área de Direitos Humanos, o discurso de ódio tem uma intenção clara: “é o ataque a determinados grupos de pessoas que tem características que não se pode mudar: a cor, a religião, orientação sexual, nacionalidade.” É a intolerância ao diferente que encoraja atos de ódio e violência contra essas minorias.​

Essa intolerância veste a capa de liberdade de expressão para desqualificar e agredir as pessoas buscando ocupar o espaço das plataformas digitais no sentido de dar voz as ideias radicais.

Nas eleições presidenciais de 2022, Raian Sena sofreu ataques de ódio de um grupo neonazista por ter discordado dos comentários desses indivíduos em uma publicação jornalística no Twitter (atual X). “Eles acessaram meu Instagram, pegaram fotos minhas, começaram a expor no Twitter, a fazer chacota. Eu percebi que esse grupo tinha muita ligação com neonazistas porque no perfil deles dava para ver esse tipo de conteúdo e eu logo entendi do que se tratava”, conta Raian.

Ele denunciou as contas para a plataforma. Esperou durante um mês, mas não houve banimento ou consequências para o grupo extremista.

Desse modo, as plataformas digitais que mediam nossos afetos e memórias, chegando até mesmo influenciar nossas escolhas, tem sido um espaço abarcado pela misoginia extrema, o antissemitismo, a apologia ao nazismo, pelas propagandas violentas e terroristas. Além de subculturas online que incentivam a automutilação, transtornos alimentares e comportamentos obsessivos e compulsivos entre adolescentes, como conta a historiadora e escritora, Michele Prado especialista em estudos sobre discurso de ódio.​

Aqueles que cometem o discurso de ódio não aceitam que suas palavras sejam monitoradas e até mesmo devidamente punidas, valendo-se de uma retórica que deixa as plataformas e governos diante de um quê de autoritarismo quando buscam limitar conteúdos insidiosos das ambiências digitais.​

Ainda que o Artigo Terceiro, inciso quatro da Constituição Brasileira, afirme que é garantida a manifestação de pensamento, há também uma contrapartida. O inciso cinco esclarece a garantia do direito de resposta. O direito que cada indivíduo tem de ser indenizado seja por dano moral ou material sofrido nesses espaços digitais.

O dito popular de que a Internet é uma terra sem lei, não se aplica. Inclusive, remover conteúdos violentos das mídias digitais não se caracteriza como censura, como alegam os usuários que cometem discurso de ódio no ambiente online. A remoção desses conteúdos não se configura como um crime de pensamento, um ataque à liberdade de pensar, mas aponta “a responsabilidade como o outro lado de uma moeda do exercício de uma liberdade”, explica João Capelotti. Ou seja, conteúdo com teor violento publicado nas plataformas têm consequências civis e/ou criminais.​

Por isso, há necessidade de uma atuação combativa das plataformas digitais para a moderação de conteúdos maliciosos. Na visão da pesquisadora e historiadora, Michele Prado, as Big Techs possuem normas e políticas de segurança que já apresentam alguns avanços nesse quesito.​

“As plataformas, por exemplo, já trabalham com muitos limites. Elas têm os escritórios de segurança e confiança que trabalham dentro de muitas categorias para moderar os conteúdos online. No meu campo específico que é o extremismo e terrorismo online são bem atuantes, embora ainda, não o suficiente pra gente conter todo o dilúvio de conteúdo terrorista e extremista no discurso de ódio que são disseminados nas plataformas”, ressalta Michele.​

Para a pesquisadora, o Google, a Meta e a Discord, por exemplo, possuem avanços nas normas de segurança e confiança com políticas mais amplas e restritivas do que a legislação de alguns governos. No entanto, parece não haver transparência nesse processo de moderação e a sociedade civil fica com a impressão de que as plataformas nada fazem para monitoramento desses conteúdos. ​

Michele explica que as plataformas vêm mantendo uma constância de atualização para poder garantir o que é o discurso válido dentro do debate público, nessa praça virtual, e o que ultrapassa os limites da liberdade de expressão juridicamente. Ainda assim, o monitoramento/patrulha das plataformas digitais é um trabalho contínuo e dificultoso, pois os usuários que têm suas contas banidas, rapidamente criam outros perfis para disseminação do ódio e extremismo, num ciclo sem fim.

“O discurso de ódio está presente nos conteúdos limítrofes, que são os conteúdos mais difíceis de moderar, não sendo tão explícitos em sua intencionalidade e gerando uma complexidade para sua moderação”, diz a pesquisadora.

No entanto, as grandes corporações de tecnologia também possuem interesses na publicidade digital. Elas atuam sem regra ou transparência, lucrando com anúncios criminosos que espalham a desinformação e incitam a violência. De acordo com o levantamento da Forbes, apenas neste ano de 2023, as plataformas declararam que a publicidade digital brasileira movimentou R$ 32,4 bilhões.

Essa falta de clareza e diálogo com a população sobre como a moderação acontece ou não, é mais uma das problemáticas que traz contornos econômicos, políticos e sociais ao cenário caótico e complexo das ambiências digitais.