Nesta quinta-feira, 12, ministro Alexandre de Moraes votou, no plenário do STF, pela inconstitucionalidade parcial do art. 19 do marco civil da internet (lei 12.965/14), dispositivo que condiciona a responsabilidade civil de plataformas digitais à existência de ordem judicial prévia para remoção de conteúdo gerado por terceiros.

A análise ocorre no âmbito de dois recursos extraordinários com repercussão geral reconhecida - RE 1.037.396 (Tema 987) e RE 1.057.258 (Tema 533).

Até o momento, além de Moraes, sete ministros já votaram. Faltam os votos da ministra Cármen Lúcia e dos ministros Edson Fachin e Nunes Marques.

Devido ao adiantado da hora, a sessão foi suspensa e o julgamento continuará no próximo dia 25.

Após a apresentação dos votos restantes, a análise será suspensa para a consolidação das teses, com o objetivo de unificar os entendimentos majoritários formados ao longo das sessões.

O que está em debate?

O art. 19 do marco civil prevê que os provedores de aplicações só respondem por danos se, após ordem judicial específica, não retirarem o conteúdo apontado como ilícito.

A controvérsia está na constitucionalidade dessa exigência, especialmente diante de casos de ilicitude manifesta - como discursos de ódio, deepfakes ou ameaças à integridade física, ou moral.

O STF analisa se esse dispositivo viola a CF por restringir indevidamente o direito à reparação de danos e favorecer a impunidade em ambientes digitais. Também se avalia se determinadas situações justificam a responsabilização direta das plataformas, mesmo sem ordem judicial, como em casos de contas falsas ou impulsionamento pago de conteúdo ofensivo.

Impunidade

Nesta quinta-feira, 12, ministro Alexandre de Moraes ao votar, criticou a conduta das plataformas digitais e a ausência de regulação das big techs. Para o ministro, é necessário romper com a ideia de que essas empresas estão acima das legislações nacionais e operam sob uma espécie de "cláusula geral de impunidade".

"Temos que nos perguntar se as redes sociais, as big techs, possuem uma cláusula absoluta de impunidade para a prática de ilícitos civis ou criminais, ou para induzimento, instigação e auxílio a esses ilícitos", afirmou Moraes.

O ministro questionou o modelo de negócios dessas empresas, que, embora juridicamente tratadas como meras depositárias de conteúdo, hoje lideram o mercado global de mídia e publicidade. "O faturamento dessas empresas é superior a todas as empresas de comunicação tradicional no Brasil", observou.

Para Moraes, é necessário reconhecer que as big techs deixaram de ser simples intermediárias tecnológicas para se tornarem verdadeiras empresas de comunicação.

"Não se compara à revolução que foi feita quando se criou o rádio ou a televisão. E me lembro: rádio e televisão não são consideradas empresas meramente de tecnologia."

Além das questões econômicas e regulatórias, o ministro também fez referência à CF, apontando para o art. 3º, III, que estabelece como objetivo da República promover o bem de todos, sem discriminações.

Nesse contexto, questionou: "A manutenção da atual conduta das big techs está de acordo com esse objetivo da República? Se permitir que as redes sociais continuem como uma verdadeira terra sem lei se adequa à proibição de qualquer forma de discriminação?".

O ministro criticou a noção de liberdade de expressão absoluta e reiterou a necessidade de respeitar os preceitos constitucionais de proteção contra a discriminação, o racismo, o nazismo, a homofobia e a violência contra crianças.

"Devemos ignorar todos esses princípios constitucionais protetivos contra a discriminação, contra o racismo, contra o nazismo, contra a homofobia, contra a tentativa de golpes de Estado, contra a agressão a crianças e adolescentes em nome da defesa de uma suposta entidade mitológica, que seria a liberdade absoluta de expressão?", questionou o ministro.

Para Moraes, a invocação de liberdade irrestrita de expressão tem servido como escudo para práticas ilícitas nas redes sociais. Ironizou a diferença de tratamento entre o mundo real e o ambiente virtual.

"Se fizer no mundo real, aí não pode. Mas na grande entidade, redes sociais, tudo pode ser feito."

O ministro também rebateu críticas que classificam a proposta de regulação como autoritária.

"Alguns vêm dizendo que aqueles que defendem a regulação, os princípios constitucionais, os preceitos legais, são ditadores, porque querem impor à Constituição o respeito aos direitos fundamentais", pontuou, ironizando o poder das big techs.

"Como alguém pode querer impor alguma coisa às big techs, que tudo podem e nada respondem?"

Liberdade ou crime?

Utilizando o telão do plenário, Moraes exibiu publicações com conteúdo racista e homofóbico, afirmando que tais postagens não estão protegidas pela liberdade de expressão:

"Isso não é utilização da liberdade de expressão, isso é crime."

Demonstrou indignação com a permanência desses conteúdos mesmo após denúncias e ressaltou que manter as redes como "terra sem lei" contraria os objetivos constitucionais, especialmente o art. 3º, III, que veda qualquer forma de discriminação.

Moraes também denunciou a omissão consciente das plataformas que admitem possuir tecnologia para coibir discursos de ódio, mas se omitem para manter engajamento:

Para o ministro, o modelo atual favorece a impunidade e é incompatível com os valores democráticos.

"Cultos"

Moraes criticou o uso seletivo da obra do filósofo liberal John Stuart Mill por parte de quem o acusa de cercear a liberdade de expressão.

"Dizem que somos ditadores porque queremos cercear o chamado mercado livre de ideias, idealizado por John Stuart Mill. E quem diz isso jamais leu John Stuart Mill", ironizou.

"Você dá um Google e vem uma frasezinha lá, então você virou culto."

Segundo Moraes, Mill jamais defendeu a liberdade de expressão como um direito absoluto, tendo previsto, ainda no século XIX, a possibilidade de sua limitação diante do "dano injusto" causado a terceiros.

Falsa neutralidade

O ministro defendeu que a Corte adote interpretação constitucional condizente com os avanços tecnológicos e com a proteção dos direitos fundamentais.

Segundo Moraes, redes sociais e serviços de mensageria privada têm sido utilizados para alimentar "inconstitucionalização silenciosa", promovida por discursos de ódio, desinformação e manipulação digital.

Moraes argumentou que o modelo atualmente adotado - no qual as plataformas se limitam a alegar que apenas intermediam conteúdos - tornou-se insustentável diante da complexidade tecnológica.

"As big techs sabem o que você lê, o que você compra, o que você come... Nenhum regime totalitário jamais teve tantos dados sobre as pessoas quanto essas empresas têm", declarou.

Para o ministro, esses dados são empregados inicialmente para influenciar decisões de consumo e, em seguida, para manipular preferências políticas.

Criticou o uso dos algoritmos para direcionar ideologicamente os usuários e classificou o ambiente digital como um "mercado livre de ideias anabolizado por inteligência artificial".

Nesse cenário, afirmou, são as próprias big techs que decidem quais conteúdos terão maior ou menor visibilidade, o que, segundo o ministro, impõe a necessidade de transparência e responsabilidade.

Na avaliação do ministro, a atuação das plataformas revela ausência de neutralidade - um pressuposto que, no início da regulação digital, ainda era tolerado.

Também alertou para a gravidade do uso das redes por grupos extremistas, populistas digitais e organizações que estimulam a automutilação entre jovens, além da propagação de conteúdos antidemocráticos.

Nesse contexto, Moraes defendeu uma nova interpretação do art. 19 do marco civil da internet, adaptada à realidade tecnológica atual e compatível com os princípios constitucionais.

Por fim, comparou o Brasil a outros países que já avançaram na regulação do ambiente digital.

"Hoje, 35 países aplicam leis específicas - sendo 27 da União Europeia. Enquanto não sobrevém regulamentação pelo Congresso Nacional, há necessidade de uma interpretação constitucional que afaste esse reiterado descumprimento dos princípios e preceitos constitucionais."

Proposta de tese

Ao final, propôs a formulação de tese robusta, que equipare as redes sociais e serviços de mensageria privada aos demais meios de comunicação, impondo-lhes deveres de transparência, responsabilização e aderência aos princípios constitucionais.

Moraes defendeu que as plataformas devem ser tratadas legalmente como meios de comunicação, já que "exercem atividade de desenvolvimento de informações mediante sons, imagens e textos" e "transmitem ideias e informações a destinatários indeterminados".

Segundo o ministro, essa equiparação impõe às redes sociais os mesmos limites constitucionais da liberdade de comunicação previstos no art. 220 da CF, em conjugação com o art. 5º, IX.

O ministro propôs que os provedores sejam solidariamente responsáveis, civil e administrativamente, por conteúdos:

Impulsionados por algoritmos ou publicidade paga, com identificação da conta ou anunciante;

Divulgados por contas inautênticas ou redes artificiais de distribuição (robôs);

Não removidos imediatamente, quando se tratarem de discurso de ódio ou conteúdo antidemocrático.

A responsabilização se estende também a condutas dolosas, o que pode implicar responsabilidade penal para pessoas físicas responsáveis por omissões graves.

Moraes votou para que as plataformas:

Tenham representação obrigatória em território nacional, como condição para operar no país;

Sejam obrigadas a identificar conteúdos publicitários, com dados acessíveis do anunciante ou da conta impulsionadora;

Implementem transparência algorítmica, revelando critérios decisórios que priorizam certos conteúdos, sem violar segredo industrial;

Informem o uso de inteligência artificial em manipulações de áudio e vídeo, com indicação clara ao usuário.

Inspirado na legislação da União Europeia, o ministro propôs que plataformas com mais de 45 milhões de usuários mensais tenham obrigações preventivas: monitorar riscos sistêmicos à democracia, avaliar impactos dos algoritmos e comunicar autoridades competentes sempre que houver indícios de manipulação que ameace o regime democrático.

Ainda, apontou que a tese deve prever que as plataformas sejam obrigadas a coibir conteúdos que violem os arts. 286 (incitação ao crime), 359-L, 359-M, 359-P e 359-R do CP, além de:

Fake news graves e descontextualizadas que afetem a integridade do processo eleitoral;

Crimes contra a honra com condenação civil ou penal;

Ameaças ou incitação à violência contra crianças e adolescentes;

Discurso de ódio, incluindo racismo, homofobia, antissemitismo, misoginia, ideologias fascistas ou nazistas.

Moraes acompanhou a proposta do relator, ministro Dias Toffoli, para responsabilizar objetiva e solidariamente os provedores que operam como marketplaces por anúncios de produtos ilegais ou sem certificação.

Para S. Exa., a conduta se aproxima do dolo eventual, dado que a plataforma, ao monetizar conteúdos ilícitos, assume o risco de sua prática.

Para garantir a fiscalização e o enfrentamento da desinformação, Moraes defendeu a criação de um órgão multissetorial, com participação da sociedade civil, do poder público e da Anatel - entidade que possui o conhecimento técnico necessário e atua na efetivação de decisões judiciais.

Citou como modelo o Centro Integrado de Enfrentamento à Desinformação em Defesa da Democracia, instituído pelo TSE por meio da portaria 180/24 e já atuante nas eleições passadas. O centro conta com a colaboração da PGR, MJSP, OAB, Anatel e representantes das próprias plataformas.

Votos até o momento

Os relatores, ministros Dias Toffoli e Luiz Fux, votaram pela inconstitucionalidade do art. 19, defendendo que plataformas digitais podem ser responsabilizadas independentemente de ordem judicial, sobretudo em casos graves, como perfis falsos, discurso de ódio e desinformação.

Ambos também sugeriram deveres objetivos de cuidado e reconheceram que conteúdos impulsionados ou oriundos de contas inautênticas devem ensejar responsabilização direta.

Ministro Luís Roberto Barroso adotou uma posição intermediária: manteve a exigência de ordem judicial para crimes contra a honra, mas admitiu notificação extrajudicial para ilícitos evidentes.

Defendeu um sistema dual com dever de cuidado em relação a riscos sistêmicos (como terrorismo e pornografia infantil) e propôs relatórios de transparência nos moldes europeus, além da necessidade de futura regulação pelo Congresso.

Ministro André Mendonça votou pela constitucionalidade do art. 19, valorizando o devido processo legal e a liberdade de expressão. Propôs modelo de autorregulação regulada, com protocolos internos de moderação e transparência.

Votou para que remoções de conteúdo e suspensões de perfis ocorram apenas com base legal ou judicial e alertou para os riscos da moderação automatizada.

Ministro Flávio Dino defendeu modelo segmentado, com notificação extrajudicial para conteúdos ilícitos evidentes, ordem judicial para crimes contra a honra e responsabilização direta das plataformas por atos próprios, como impulsionamento pago e perfis inautênticos.

Sugeriu deveres procedimentais mínimos, educação digital e relatórios de transparência, sem necessidade de novo órgão regulador.

Ministro Zanin reconheceu a inconstitucionalidade parcial do art. 19, por considerar que a exigência de ordem judicial para remoção de conteúdo oferece proteção insuficiente diante da disseminação de conteúdos ilícitos.

Propôs regime diferenciado: notificação extrajudicial para conteúdos manifestamente ilícitos (art. 21), ordem judicial para casos complexos (art. 19), além de deveres de cuidado, regras procedimentais e modulação dos efeitos da decisão.

Gilmar Mendes também reconheceu a superação do modelo atual, ressaltando que o art. 19 parte de um paradigma ultrapassado, que ignora a atuação ativa das plataformas na curadoria de conteúdo.

Propôs quatro regimes distintos de responsabilidade, a depender do grau de interferência da plataforma, com destaque para hipóteses de presunção em conteúdos patrocinados e responsabilização direta em casos graves.

Defendeu ainda obrigações procedimentais e atribuição da fiscalização à ANPD.