Moderação algorítmica ideal ou como se equilibrar na corda bamba
🔥 PRIME DAY AMAZON

Aproveite as Melhores Ofertas do Prime Day

Descontos exclusivos em notebooks, celulares, livros, eletrônicos, escritório, casa inteligente, Alexa, Kindle, SSD, monitores, impressoras e muito mais.

⚡ Ofertas por tempo limitado. Os estoques podem acabar rapidamente.

🛒 Acessar Ofertas do Prime Day
🚚 Frete Prime 💳 Parcelamento 🏷️ Descontos Exclusivos 🔒 Compra Segura

Transparência: O SpedTax participa do Programa de Associados da Amazon e pode receber comissão por compras qualificadas realizadas por meio deste link, sem custo adicional para você.

Moderação algorítmica ideal ou como se equilibrar na corda bamba
regulação das plataformasRegulação brasileira pune falhas na remoção, mas proteção contra excessos ainda depende dos tribunais

Existe uma moderação algorítmica ideal? E, se existe, como se chega até ela? Em tese, a moderação ideal seria aquela capaz de retirar de circulação, com rapidez e em escala, o que é efetivamente danoso à coletividade, sem silenciar o que é legítimo, e de fazê-lo de modo que quem foi afetado saiba o que aconteceu, por quê e como contestar.

Dois casos brasileiros mostram como é difícil reunir esses atributos. Em janeiro de 2023, um vídeo com trechos do discurso de um general convocando as pessoas a ir ao Congresso e ao Supremo foi denunciado sete vezes, mantido no ar após todas as análises e só removido depois dos ataques de 8 de janeiro.[1] Em 2025, um carrossel que homenageava histórias de amor entre lésbicas foi removido por conter a palavra “sapatão”, ressignificada pela própria comunidade como expressão de orgulho.[2] No primeiro, a moderação falhou por omissão; no segundo, por excesso. Moderar é, afinal, uma espécie de análise do discurso, e é justamente o contexto que a máquina tem mais dificuldade de capturar.[3]

A avaliação do sucesso ou do fracasso da moderação pode chegar a resultados distintos, a depender de quem define os critérios e de como o faz. O usuário que teve a publicação removida, o grupo que vê circular o discurso que o ataca, a empresa que precisa provisionar o risco de litígio e tantos outros atores podem não compartilhar a mesma régua.

A literatura já indicou os problemas que afastam a moderação do ponto ideal. Plataformas pequenas conseguem moderar caso a caso, com atenção ao contexto, enquanto as grandes operam em escala industrial, com regras padronizadas, e por isso trocam a análise do contexto por volume.[4] Nessa escala, erros individuais são inevitáveis, e o que deve ser avaliado é o desenho do sistema que os produz.[5] Há, ainda, o risco de remoção excessiva quando a regulação pune sobretudo a falha em remover.[6]

Todos esses atributos e problemas compõem o objeto da regulação, em especial da regulação de plataformas. No pacto social, abrimos mão de parte da nossa liberdade em troca de alguma ordem. Quando quem exerce o poder de ordenar é o Estado, a Constituição estabelece o que pode e o que não pode ser feito. Quando ele é exercido por plataformas, por meio de sistemas automatizados, abre-se um questionamento significativo sobre como, quando, por quê e de que maneira isso deveria acontecer.[7]

Regulação é um termo usado de muitas formas. Aqui, adoto o conceito do estudo da regulação enquanto disciplina, na linha de Julia Black, para quem regular é alterar ou influenciar comportamentos segundo padrões ou propósitos definidos.[8] Cary Coglianese, em trabalho para a OCDE, propõe um mapa causal em que a norma depende de quem a implementa e fiscaliza para mudar comportamentos, convive com outras regulações e produz, além dos resultados que buscava, outros que não buscava.[9] Rachel Potter, em Bending the Rules, mostra como a própria elaboração das normas é atravessada pelo cenário político em que as decisões são tomadas.[10]

A regulação pode, ainda, atuar antes ou depois do fato. A norma ex ante estabelece, de antemão, deveres de conduta cujo cumprimento é verificado independentemente da ocorrência de dano; a norma ex post atua depois, responsabilizando quem o causou. A escolha entre uma e outra não é aleatória: a primeira tende a ser preferida quando o dano é disperso, difícil de atribuir ou maior do que a capacidade de reparação de quem o causa, e a segunda, quando é individualizável e quem exerce a atividade conhece melhor os seus riscos.[1] A moderação de conteúdo reúne as duas condições: o vídeo do general produz um dano difuso e talvez irreversível, enquanto a remoção do carrossel atinge alguém identificável, que pode reclamar e ser restituído.

Regular é, então, um exercício de calibragem, e a palavra serve tanto ao direito quanto à técnica. Assim como o classificador opera a partir de um limiar, em que mais rigor significa mais remoções indevidas e menos rigor, mais conteúdo ilícito no ar, o quadro normativo distribui pesos entre prevenir e reparar, entre o coletivo e o individual. A moderação que observamos é o resultado da aderência dos atores regulatórios (plataformas, reguladores, tribunais e usuários) a essa calibragem.

O Brasil não tem uma norma específica sobre moderação de conteúdo, e o PL 2.338/2023, que trata da regulação da inteligência artificial, segue pendente na Câmara dos Deputados.[2] O que existe vem de normas e decisões sobre responsabilidade de plataformas e proteção de dados, que preveem deveres para antes da decisão de moderar e remédios para depois dela.

No plano ex ante, o principal marco é a tese do STF sobre o artigo 19 do Marco Civil da Internet.[3] Ao declarar o dispositivo parcialmente inconstitucional, o Supremo impôs às plataformas deveres de cuidado, autorregulação, relatórios anuais de transparência e um devido processo que permita aos usuários entender os fundamentos das remoções e recorrer delas. Na mesma linha, o ECA Digital, em vigor desde março de 2026, impõe deveres de prevenção e moderação voltados à proteção de crianças e adolescentes, sob fiscalização da ANPD.[4]

No plano ex post, a mesma tese prevê que as plataformas respondam quando, por falha sistêmica, deixarem de prevenir ou remover imediatamente conteúdos ligados a crimes graves, como atentados contra o Estado democrático, terrorismo e racismo. Para o indivíduo, a LGPD, no artigo 20, assegura a revisão de decisões tomadas unicamente com base em tratamento automatizado,[5] dispositivo que tem sido invocado nos tribunais para exigir explicações sobre bloqueios automatizados de perfis, como mostra o Painel LGPD nos Tribunais.[6] A Justiça estadual, com base no Código de Defesa do Consumidor, tem tratado a suspensão de contas sem prova de violação e sem contraditório como falha na prestação de serviço,[7] e o STJ admite a responsabilização por remoções indevidas.[8]

A calibragem atual é, portanto, assimétrica. O sistema pune sobretudo a falha em remover, enquanto a proteção contra o excesso foi construída caso a caso pelos tribunais, a partir de normas que não foram pensadas para a moderação.

Essa assimetria, que leva a uma regulação residual pelos tribunais, merece atenção no desenho regulatório da moderação algorítmica. O conteúdo que incita um ataque às instituições não espera o trânsito em julgado, mas também é preciso defender o tempo de análise necessário para verificar se os requisitos estabelecidos foram atingidos. Os deveres impostos pelo STF e pelo ECA Digital são recentes, e ainda não sabemos como as plataformas os traduziram em seus sistemas, que taxas de erro produzem e para quais grupos, nem se os canais de recurso funcionam. Sem esses dados, não é possível avaliar o desempenho da moderação.

Quer receber reportagens do JOTA com mais frequência? Clique aqui e selecione o JOTA como fonte de informação no Google Notícias

Há ainda a tradução dessa calibragem para o algoritmo. E aqui entra a minha limitação: sou advogada, não programadora. Imagino que os desafios dessa tradução sejam tantos quantos os de aplicar a própria norma, e a literatura técnica indica que não são poucos.[9]

A moderação algorítmica ideal talvez não exista como ponto ótimo. Existe como ponto possível, definido por aquilo que o quadro jurídico-normativo permite mobilizar e sempre em observação, porque o direito é uma ciência social aplicada e o que consideramos permitido ou desejável muda ao longo do tempo. Chegar mais perto dele depende menos de uma nova tecnologia do que de calibrar, medir e recalibrar, sem perder de vista que por trás de cada limiar há uma escolha sobre quem fala e quem é silenciado. É importante, também, que a documentação desse processo esteja disponível, para que se possa reconstituir esse quadro e usá-lo para decidir casos concretos. Na corda bamba, afinal, ninguém se equilibra de uma vez por todas: corrige-se o passo a cada instante.

__________________________________________________________________

[1]SHAVELL, Steven. Liability for Harm versus Regulation of Safety. Journal of Legal Studies, v. 13, n. 2, p. 357-374, 1984. Disponível em: https://chicagounbound.uchicago.edu/jls/vol13/iss2/6/.

[2]BRASIL. Senado Federal. Projeto de Lei nº 2.338, de 2023. Em tramitação na Câmara dos Deputados.

[3]BRASIL. Supremo Tribunal Federal. RE 1.037.396 (Tema 987), rel. Min. Dias Toffoli, e RE 1.057.258 (Tema 533), rel. Min. Luiz Fux. Tese fixada em 26 jun. 2025 e aperfeiçoada em embargos em 17 jun. 2026. Disponível em: https://noticias.stf.jus.br/postsnoticias/plataformas-terao-60-dias-para-implementar-medidas-estruturais-decide-stf/. O dispositivo é o art. 19 da Lei nº 12.965, de 23 de abril de 2014 (Marco Civil da Internet).

[4]BRASIL. Lei nº 15.211, de 17 de setembro de 2025 (ECA Digital).

[5]BRASIL. Lei nº 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais), art. 20.

[6]CEDIS-IDP; JUSBRASIL. Relatório Painel LGPD nos Tribunais. Coordenação científica de Laura Schertel Mendes e Mônica Fujimoto. São Paulo, 2026. Disponível em: https://cdn-conjur.s3.amazonaws.com/uploads/2026/05/relatorio-lgpd-digital.pdf.

[7]BRASIL. Lei nº 8.078, de 11 de setembro de 1990 (Código de Defesa do Consumidor). Ver, por exemplo: CONJUR. Bloqueio de conta em rede social sem defesa prévia configura abuso. 10 fev. 2026. Disponível em: https://www.conjur.com.br/?p=886721.

[8]BRASIL. Superior Tribunal de Justiça. REsp 2.139.749/SP, 3ª Turma, rel. Min. Ricardo Villas Bôas Cueva, j. 27 ago. 2024, DJe 30 ago. 2024.

[9]GORWA; BINNS; KATZENBACH, 2020, cit.

[1]COMITÊ DE SUPERVISÃO (Oversight Board). Brazilian general’s speech, caso 2023-001-FB-UA, 22 jun. 2023. Disponível em: https://www.oversightboard.com/decision/FB-659EAWI8/.

[2]COMITÊ DE SUPERVISÃO (Oversight Board). Post Honoring Lesbian Relationships, caso 2026-030-IG-UA, 28 abr. 2026. Disponível em: https://www.oversightboard.com/decision/ig-6ar5yqal/.

[3]GORWA, Robert; BINNS, Reuben; KATZENBACH, Christian. Algorithmic content moderation: technical and political challenges in the automation of platform governance. Big Data & Society, v. 7, n. 1, 2020. Disponível em: https://doi.org/10.1177/2053951719897945.

[4]CAPLAN, Robyn. Content or Context Moderation? Artisanal, Community-Reliant, and Industrial Approaches. Nova York: Data & Society, 2018. Disponível em: https://datasociety.net/output/content-or-context-moderation/.

[5]DOUEK, Evelyn. Content Moderation as Systems Thinking. Harvard Law Review, v. 136, p. 526, 2022.

[6]KUCZERAWY, Aleksandra. Remedying Overremoval. Verfassungsblog, 3 nov. 2022. Disponível em: https://verfassungsblog.de/remedying-overremoval/.

[7]KELLER, Daphne. Who Do You Sue? State and Platform Hybrid Power over Online Speech. Hoover Institution, Aegis Series Paper n. 1902, 2019. Disponível em: https://www.hoover.org/sites/default/files/research/docs/who-do-you-sue-state-and-platform-hybrid-power-over-online-speech_0.pdf.

[8]BLACK, Julia. Critical Reflections on Regulation. Australian Journal of Legal Philosophy, v. 27, p. 1-35, 2002. Disponível em: http://eprints.lse.ac.uk/35985/.

[9]COGLIANESE, Cary. Measuring Regulatory Performance: Evaluating the Impact of Regulation and Regulatory Policy. Expert Paper No. 1. Paris: OECD, 2012.

[10]POTTER, Rachel Augustine. Bending the Rules: Procedural Politicking in the Bureaucracy. Chicago: University of Chicago Press, 2019.

🔥 PRIME DAY AMAZON

Aproveite as Melhores Ofertas do Prime Day

Descontos exclusivos em notebooks, celulares, livros, eletrônicos, escritório, casa inteligente, Alexa, Kindle, SSD, monitores, impressoras e muito mais.

⚡ Ofertas por tempo limitado. Os estoques podem acabar rapidamente.

🛒 Acessar Ofertas do Prime Day
🚚 Frete Prime 💳 Parcelamento 🏷️ Descontos Exclusivos 🔒 Compra Segura

Transparência: O SpedTax participa do Programa de Associados da Amazon e pode receber comissão por compras qualificadas realizadas por meio deste link, sem custo adicional para você.

Scroll to Top