por Lucas Valença*

O Tribunal Superior Eleitoral (TSE) divulgou, em 27 de julho, a Portaria nº 463, exigindo que as big techs apresentem um plano de conformidade, estabelecendo mecanismos de transparência, verificabilidade e responsabilização sobre seus sistemas de IA no processo eleitoral. A portaria é direcionada a redes sociais, aplicativos de mensagem instantânea e IAs generativas com mais de cinco milhões de usuários ativos mensais no Brasil. O plano de conformidade das empresas precisa incluir as “medidas que serão adotadas, incluindo os respectivos prazos de implementação, critérios aplicáveis e mecanismos de controle […] em nível de detalhamento funcional suficiente”. As empresas também são obrigadas a “apresentar, para cada medida de natureza técnica ou algorítmica, descrição funcional em linguagem clara e acessível, sem prejuízo de descrição técnica complementar destinada a uma análise especializada”. 

A portaria do TSE vai ao encontro da preocupação crescente entre engenheiros e cientistas da computação no desenvolvimento de algoritmos e sistemas de inteligência artificial considerados justos, transparentes e responsáveis. Exemplos desse esforço são as conferências Fairness, Accountability and Transparency (FAccT), encontro internacional de computação interdisciplinar que tem crescido expressivamente desde sua primeira edição, em 2018, e a Conferência da Sociedade Brasileira em Computação com os já consolidados Workshop sobre Aspectos Sociais, Humanos e Econômicos de Software e Workshop sobre as Implicações da Computação na Sociedade.

Neste campo, a noção de fairness (justiça) se tornou central para cientistas da computação que se propunham a investigar os impactos sociais dos algoritmos, e isso se deu sob influência do caso COMPAS, um software utilizado pela justiça estadunidense que classificava negros não-reincidentes criminalmente como alto risco quase o dobro que brancos não-reincidentes, O resultado tem sido o desenvolvimento de técnicas e ferramentas voltadas principalmente às classificações e a distribuição de resultados de algoritmos sob indivíduos ou grupos. “Como tornar o resultado desse algoritmo justo?” é a pergunta que fundamenta muitas das práticas da computação. 

Os impactos sociotécnicos de algoritmos não se resumem, contudo, a classificações discriminatórias, e o uso de IAs e deepfakes em um contexto eleitoral tem demonstrado isso. O Observatório IA nas eleições tem mapeado conteúdos eleitorais sintéticos e deepfake nas redes sociais e plataformas digitais. Alguns exemplos são deepfakes de Flávio Bolsonaro prometendo aumentar o salário mínimo para R$3 mil, e de Lula aplicando Mounjaro em Flávio Dino.

A portaria demanda de big techs medidas para mitigar e prevenir conteúdos como as postagens acima, buscando elucidar como operam os algoritmos de plataformas digitais. Em algoritmos de inteligência artificial, essa é uma tarefa complexa inclusive para cientistas da computação. Um dos principais métodos de aprendizagem de máquina (machine learning) é o aprendizado não-supervisionado (unsupervised learning). Aqui, o sistema é construído de forma que o desenvolvedor não precise categorizar os dados que serão analisados pelo modelo de IA. Isso é, o modelo recebe dados “não rotulados”, sem nenhum exemplo de resposta correta, e terá que analisá-los e encontrar padrões de maneira autônoma. É como se uma rede social agrupasse usuários com base em suas postagens sobre acontecimentos eleitorais, sem que o desenvolvedor precisasse fornecer exemplos de usuários de esquerda e de direita – uma tarefa muito mais eficiente em termos de seus resultados, mas complexa em termos de seu rastreio.

Um estudo na International Conference on Web and Social Media 2026 analisou cerca de 1,35 milhão de vídeos no TikTok, publicados por cerca de 362 mil usuários, relacionados à eleição presidencial dos EUA de 2024. O objetivo era desenvolver uma forma computacional para detectar comportamento inautêntico coordenado na plataforma (coordinated inauthentic behaviour – CIB). Esses comportamentos dizem respeito a atividades de usuários que são inferidas como genuínas ou independentes, embora haja indícios de organização, automação ou manipulação da visibilidade. A metodologia consistiu em procurar sinais como sequências idênticas de hashtags, publicações sincronizadas e links para os mesmos domínios externos. Com isso, redes de similaridade de usuários eram formadas e técnicas computacionais eram aplicadas para encontrar grupos com similaridade extrema. Isso permitiu encontrar um caso em que 68 contas publicavam vídeos contendo exatamente a mesma sequência de hashtags, com a mesma marca d’água, em intervalos de menos de 5 minutos, sobre o mesmo candidato.

É verdade que, possivelmente, as técnicas deste estudo permitiram encontrar e caracterizar como conteúdo inautêntico coordenado as publicações com informações falsas sobre aumento do salário mínimo mostradas anteriormente, e esse seria um mecanismo que cumpre os requisitos da portaria do TSE. Ainda assim, não seria suficiente. Ocorre que um comportamento orgânico, na perspectiva dos desenvolvedores, tal como inscrita em suas técnicas, diz respeito apenas às características do comportamento dos usuários, sem considerar o papel das próprias plataformas digitais na produção e organização desses comportamentos. É realmente possível considerar um comportamento no TikTok como completamente orgânico, mesmo em meio a todas as mediações algorítmicas que ali acontecem e nos levam a consumir e reagir àquele conteúdo?

Outro estudo, publicado em 2019 na Conferência de Inteligência Artificial, propôs técnicas de detecção não supervisionada de fake news em redes sociais. Dessa vez a partir da rede social X, os autores perguntam se seria possível inferir se uma notícia é verdadeira ou falsa observando como os usuários se relacionam com ela. Como não podem tratar todos os usuários como confiáveis, estabelecem uma relação entre a veracidade da notícia e a credibilidade do usuário. Uma conta verificada, por exemplo, possui uma maior credibilidade presumida, assim como um histórico de concordância com notícias estimadas verdadeiras garante mais credibilidade a um usuário. Como na maioria dos estudos, a decisão de uma abordagem não supervisionada é justificada porque métodos supervisionados – que requerem uma classificação manual de notícias verdadeiras e falsas –, exigem muito trabalho e são pouco eficientes. É difícil confiar, no entanto, mais em algoritmos de reconhecimento automatizado de fake news que em projetos como o Observatório IA na eleições e Agência Lupa.

O que esses dois exemplos de técnicas computacionais parecem ter em comum é que, em ambos, a capacidade de agir é atribuída apenas aos usuários, e não às próprias plataformas. Nessa perspectiva, o funcionamento das plataformas existe em si e é presumido como orgânico e natural, de modo que os mecanismos de transparência, verificação e responsabilidade recaem mais sobre as práticas dos usuários, tidas como independentes das plataformas, do que sobre os próprios sistemas algorítmicos das mídias sociais. É o oposto do que a antropóloga Letícia Cesarino propõe: “pensar objetos técnicos como inacabados, que só são completados mediante sua apropriação por atores concretos”. Esses atores são, claro, os usuários, mas também – e talvez mais evidente –, os próprios desenvolvedores. O que é menos evidente é que os algoritmos não são necessariamente completados nos termos em que seus desenvolvedores pressupõem que o sejam.

Fosse essa uma questão que se resolvesse apenas pela detecção dos comportamentos dos usuários, o Facebook não haveria restringido a página de anúncios de Lula, nem o Instagram teria derrubado o perfil da série Revelando, após a publicação de um episódio com o humorista Fábio Porchat sobre o Banco Master, o ex-banqueiro Daniel Vorcaro, e a Igreja de Lagoinha. Mas as técnicas computacionais exemplificadas acima tomam como pressuposto certa neutralidade algorítmica e estabelecem como ponto de partida analítico as dinâmicas dos usuários, como se os algoritmos que medeiam, ordenam e amplificam estas dinâmicas fossem uma instância anterior e exterior ao próprio problema.

Ocorre que algoritmos são políticos, intencionalidades são projetadas no código, algo que ficou particularmente evidente quando a Meta passou a permitir, deliberadamente, determinadas formas de discurso de ódio. Técnicas de detecção de comportamento inautêntico coordenado estão presentes no plano de conformidade da Meta, mas elas pouco podem fazer diante de práticas que a própria plataforma decide admitir ou mesmo favorecer por meio de suas políticas e infraestruturas algorítmicas.

O que parece estar em falta nas práticas da computação, então, é que os próprios mecanismos de transparência, verificabilidade e responsabilização digam respeito não apenas ao comportamento dos usuários, mas também, e necessariamente, à capacidade de ação e aos efeitos dos algoritmos, às intencionalidades inscritas em seu desenvolvimento, aos objetivos que orientam sua construção, aos efeitos que produzem e, por fim, às potencialidades que fazem emergir a partir das suas lógicas.

AUTOR

Marco Zero Conteúdo

É um coletivo de jornalismo investigativo que aposta em matérias aprofundadas, independentes e de interesse público.