Existe uma moderação algorítmica ideal? E, se existe, como se chega até ela? Em tese, a moderação ideal seria aquela capaz de retirar de circulação, com rapidez e em escala, o que é efetivamente danoso à coletividade, sem silenciar o que é legítimo, e de fazê-lo de modo que quem foi afetado saiba o que aconteceu, por quê e como contestar.
Dois casos brasileiros mostram como é difícil reunir esses atributos. Em janeiro de 2023, um vídeo com trechos do discurso de um general convocando as pessoas a ir ao Congresso e ao Supremo foi denunciado sete vezes, mantido no ar após todas as análises e só removido depois dos ataques de 8 de janeiro.[1] Em 2025, um carrossel que homenageava histórias de amor entre lésbicas foi removido por conter a palavra “sapatão”, ressignificada pela própria comunidade como expressão de orgulho.[2] No primeiro, a moderação falhou por omissão; no segundo, por excesso. Moderar é, afinal, uma espécie de análise do discurso, e é justamente o contexto que a máquina tem mais dificuldade de capturar.[3]
A avaliação do sucesso ou do fracasso da moderação pode chegar a resultados distintos, a depender de quem define os critérios e de como o faz. O usuário que teve a publicação removida, o grupo que vê circular o discurso que o ataca, a empresa que precisa provisionar o risco de litígio e tantos outros atores podem não compartilhar a mesma régua.
A literatura já indicou os problemas que afastam a moderação do ponto ideal. Plataformas pequenas conseguem moderar caso a caso, com atenção ao contexto, enquanto as grandes operam em escala industrial, com regras padronizadas, e por isso trocam a análise do contexto por volume.[4] Nessa escala, erros individuais são inevitáveis, e o que deve ser avaliado é o desenho do sistema que os produz.[5] Há, ainda, o risco de remoção excessiva quando a regulação pune sobretudo a falha em remover.[6]
Todos esses atributos e problemas compõem o objeto da regulação, em especial da regulação de plataformas. No pacto social, abrimos mão de parte da nossa liberdade em troca de alguma ordem. Quando quem exerce o poder de ordenar é o Estado, a Constituição estabelece o que pode e o que não pode ser feito. Quando ele é exercido por plataformas, por meio de sistemas automatizados, abre-se um questionamento significativo sobre como, quando, por quê e de que maneira isso deveria acontecer.[7]
Regulação é um termo usado de muitas formas. Aqui, adoto o conceito do estudo da regulação enquanto disciplina, na linha de Julia Black, para quem regular é alterar ou influenciar comportamentos segundo padrões ou propósitos definidos.[8] Cary Coglianese, em trabalho para a OCDE, propõe um mapa causal em que a norma depende de quem a implementa e fiscaliza para mudar comportamentos, convive com outras regulações e produz, além dos resultados que buscava, outros que não buscava.[9] Rachel Potter, em Bending the Rules, mostra como a própria elaboração das normas é atravessada pelo cenário político em que as decisões são tomadas.[10]

A regulação pode, ainda, atuar antes ou depois do fato. A norma ex ante estabelece, de antemão, deveres de conduta cujo cumprimento é verificado independentemente da ocorrência de dano; a norma ex post atua depois, responsabilizando quem o causou. A escolha entre uma e outra não é aleatória: a primeira tende a ser preferida quando o dano é disperso, difícil de atribuir ou maior do que a capacidade de reparação de quem o causa, e a segunda, quando é individualizável e quem exerce a atividade conhece melhor os seus riscos.[1] A moderação de conteúdo reúne as duas condições: o vídeo do general produz um dano difuso e talvez irreversível, enquanto a remoção do carrossel atinge alguém identificável, que pode reclamar e ser restituído.
Regular é, então, um exercício de calibragem, e a palavra serve tanto ao direito quanto à técnica. Assim como o classificador opera a partir de um limiar, em que mais rigor significa mais remoções indevidas e menos rigor, mais conteúdo ilícito no ar, o quadro normativo distribui pesos entre prevenir e reparar, entre o coletivo e o individual. A moderação que observamos é o resultado da aderência dos atores regulatórios (plataformas, reguladores, tribunais e usuários) a essa calibragem.
O Brasil não tem uma norma específica sobre moderação de conteúdo, e o PL 2.338/2023, que trata da regulação da inteligência artificial, segue pendente na Câmara dos Deputados.[2] O que existe vem de normas e decisões sobre responsabilidade de plataformas e proteção de dados, que preveem deveres para antes da decisão de moderar e remédios para depois dela.
No plano ex ante, o principal marco é a tese do STF sobre o artigo 19 do Marco Civil da Internet.[3] Ao declarar o dispositivo parcialmente inconstitucional, o Supremo impôs às plataformas deveres de cuidado, autorregulação, relatórios anuais de transparência e um devido processo que permita aos usuários entender os fundamentos das remoções e recorrer delas. Na mesma linha, o ECA Digital, em vigor desde março de 2026, impõe deveres de prevenção e moderação voltados à proteção de crianças e adolescentes, sob fiscalização da ANPD.[4]
No plano ex post, a mesma tese prevê que as plataformas respondam quando, por falha sistêmica, deixarem de prevenir ou remover imediatamente conteúdos ligados a crimes graves, como atentados contra o Estado democrático, terrorismo e racismo. Para o indivíduo, a LGPD, no artigo 20, assegura a revisão de decisões tomadas unicamente com base em tratamento automatizado,[5] dispositivo que tem sido invocado nos tribunais para exigir explicações sobre bloqueios automatizados de perfis, como mostra o Painel LGPD nos Tribunais.[6] A Justiça estadual, com base no Código de Defesa do Consumidor, tem tratado a suspensão de contas sem prova de violação e sem contraditório como falha na prestação de serviço,[7] e o STJ admite a responsabilização por remoções indevidas.[8]
A calibragem atual é, portanto, assimétrica. O sistema pune sobretudo a falha em remover, enquanto a proteção contra o excesso foi construída caso a caso pelos tribunais, a partir de normas que não foram pensadas para a moderação.
Essa assimetria, que leva a uma regulação residual pelos tribunais, merece atenção no desenho regulatório da moderação algorítmica. O conteúdo que incita um ataque às instituições não espera o trânsito em julgado, mas também é preciso defender o tempo de análise necessário para verificar se os requisitos estabelecidos foram atingidos. Os deveres impostos pelo STF e pelo ECA Digital são recentes, e ainda não sabemos como as plataformas os traduziram em seus sistemas, que taxas de erro produzem e para quais grupos, nem se os canais de recurso funcionam. Sem esses dados, não é possível avaliar o desempenho da moderação.
Há ainda a tradução dessa calibragem para o algoritmo. E aqui entra a minha limitação: sou advogada, não programadora. Imagino que os desafios dessa tradução sejam tantos quantos os de aplicar a própria norma, e a literatura técnica indica que não são poucos.[9]
A moderação algorítmica ideal talvez não exista como ponto ótimo. Existe como ponto possível, definido por aquilo que o quadro jurídico-normativo permite mobilizar e sempre em observação, porque o direito é uma ciência social aplicada e o que consideramos permitido ou desejável muda ao longo do tempo. Chegar mais perto dele depende menos de uma nova tecnologia do que de calibrar, medir e recalibrar, sem perder de vista que por trás de cada limiar há uma escolha sobre quem fala e quem é silenciado. É importante, também, que a documentação desse processo esteja disponível, para que se possa reconstituir esse quadro e usá-lo para decidir casos concretos. Na corda bamba, afinal, ninguém se equilibra de uma vez por todas: corrige-se o passo a cada instante.
__________________________________________________________________
[1]SHAVELL, Steven. Liability for Harm versus Regulation of Safety. Journal of Legal Studies, v. 13, n. 2, p. 357-374, 1984. Disponível em: https://chicagounbound.uchicago.edu/jls/vol13/iss2/6/.
[2]BRASIL. Senado Federal. Projeto de Lei nº 2.338, de 2023. Em tramitação na Câmara dos Deputados.
[3]BRASIL. Supremo Tribunal Federal. RE 1.037.396 (Tema 987), rel. Min. Dias Toffoli, e RE 1.057.258 (Tema 533), rel. Min. Luiz Fux. Tese fixada em 26 jun. 2025 e aperfeiçoada em embargos em 17 jun. 2026. Disponível em: https://noticias.stf.jus.br/postsnoticias/plataformas-terao-60-dias-para-implementar-medidas-estruturais-decide-stf/. O dispositivo é o art. 19 da Lei nº 12.965, de 23 de abril de 2014 (Marco Civil da Internet).
[4]BRASIL. Lei nº 15.211, de 17 de setembro de 2025 (ECA Digital).
[5]BRASIL. Lei nº 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais), art. 20.
[6]CEDIS-IDP; JUSBRASIL. Relatório Painel LGPD nos Tribunais. Coordenação científica de Laura Schertel Mendes e Mônica Fujimoto. São Paulo, 2026. Disponível em: https://cdn-conjur.s3.amazonaws.com/uploads/2026/05/relatorio-lgpd-digital.pdf.
[7]BRASIL. Lei nº 8.078, de 11 de setembro de 1990 (Código de Defesa do Consumidor). Ver, por exemplo: CONJUR. Bloqueio de conta em rede social sem defesa prévia configura abuso. 10 fev. 2026. Disponível em: https://www.conjur.com.br/?p=886721.
[8]BRASIL. Superior Tribunal de Justiça. REsp 2.139.749/SP, 3ª Turma, rel. Min. Ricardo Villas Bôas Cueva, j. 27 ago. 2024, DJe 30 ago. 2024.
[9]GORWA; BINNS; KATZENBACH, 2020, cit.
[1]COMITÊ DE SUPERVISÃO (Oversight Board). Brazilian general’s speech, caso 2023-001-FB-UA, 22 jun. 2023. Disponível em: https://www.oversightboard.com/decision/FB-659EAWI8/.
[2]COMITÊ DE SUPERVISÃO (Oversight Board). Post Honoring Lesbian Relationships, caso 2026-030-IG-UA, 28 abr. 2026. Disponível em: https://www.oversightboard.com/decision/ig-6ar5yqal/.
[3]GORWA, Robert; BINNS, Reuben; KATZENBACH, Christian. Algorithmic content moderation: technical and political challenges in the automation of platform governance. Big Data & Society, v. 7, n. 1, 2020. Disponível em: https://doi.org/10.1177/2053951719897945.
[4]CAPLAN, Robyn. Content or Context Moderation? Artisanal, Community-Reliant, and Industrial Approaches. Nova York: Data & Society, 2018. Disponível em: https://datasociety.net/output/content-or-context-moderation/.
[5]DOUEK, Evelyn. Content Moderation as Systems Thinking. Harvard Law Review, v. 136, p. 526, 2022.
[6]KUCZERAWY, Aleksandra. Remedying Overremoval. Verfassungsblog, 3 nov. 2022. Disponível em: https://verfassungsblog.de/remedying-overremoval/.
[7]KELLER, Daphne. Who Do You Sue? State and Platform Hybrid Power over Online Speech. Hoover Institution, Aegis Series Paper n. 1902, 2019. Disponível em: https://www.hoover.org/sites/default/files/research/docs/who-do-you-sue-state-and-platform-hybrid-power-over-online-speech_0.pdf.
[8]BLACK, Julia. Critical Reflections on Regulation. Australian Journal of Legal Philosophy, v. 27, p. 1-35, 2002. Disponível em: http://eprints.lse.ac.uk/35985/.
[9]COGLIANESE, Cary. Measuring Regulatory Performance: Evaluating the Impact of Regulation and Regulatory Policy. Expert Paper No. 1. Paris: OECD, 2012.
[10]POTTER, Rachel Augustine. Bending the Rules: Procedural Politicking in the Bureaucracy. Chicago: University of Chicago Press, 2019.
Aproveite as Melhores Ofertas do Prime Day
Descontos exclusivos em notebooks, celulares, livros, eletrônicos, escritório, casa inteligente, Alexa, Kindle, SSD, monitores, impressoras e muito mais.
⚡ Ofertas por tempo limitado. Os estoques podem acabar rapidamente.
🛒 Acessar Ofertas do Prime DayTransparência: O SpedTax participa do Programa de Associados da Amazon e pode receber comissão por compras qualificadas realizadas por meio deste link, sem custo adicional para você.
Regulação brasileira pune falhas na remoção, mas proteção contra excessos ainda depende dos tribunais