Justiça determina que Discord reforce proteção de crianças e adolescentes, sob pena de multa diária de R$ 100 mil

A Justiça Federal determinou que o Discord, plataforma de conversas por texto, áudio e vídeo, impeça a recriação de grupos investigados por ameaças e violência contra crianças e adolescentes e comunique às autoridades casos de aliciamento e incentivo à automutilação ou ao suicídio identificados no serviço.

A empresa também terá de comprovar como verifica a idade dos usuários e quais ferramentas oferece para que os responsáveis acompanhem o uso por menores. O descumprimento injustificado das ordens poderá resultar em multa de R$ 100 mil por dia.

A decisão é da 14ª Vara Federal Cível do Distrito Federal e atende parcialmente a um pedido da Advocacia-Geral da União (AGU), que entrou com uma ação contra a empresa em agosto. Algumas obrigações devem ser cumpridas assim que o Discord for notificado. Outras têm prazos de cinco a 30 dias.

A ação cita um episódio ocorrido em julho que terminou com a morte de uma adolescente de 13 anos. Segundo os documentos técnicos mencionados no processo, ela e outra adolescente, de 17 anos, foram submetidas a ameaças e coação em comunidades da plataforma. Os fatos subsidiaram a Operação Lívia, deflagrada em agosto.

No Discord, usuários podem criar espaços chamados servidores, que reúnem canais de conversa e compartilhamento de arquivos. Esses ambientes podem ser privados, com entrada apenas por convite. A AGU argumenta que essa estrutura dificulta a identificação de situações de risco e que os mecanismos de segurança da empresa são insuficientes para proteger crianças e adolescentes.

A Justiça determinou que a plataforma comprove, em cinco dias, as medidas adotadas para evitar que grupos removidos por ligação com os fatos investigados sejam recriados com outros nomes ou contas. A empresa também deverá impedir o retorno fraudulento de usuários suspensos ou banidos vinculados a esses espaços.

No mesmo prazo, o Discord terá de demonstrar que possui um procedimento específico para casos com indícios de ‘sextorsão’ envolvendo menores — chantagem com conteúdo íntimo ou sexual. Caso ainda não exista, deverá implementá-lo. O protocolo deve permitir o envio às autoridades das informações disponíveis para avaliar a situação e definir a prioridade do atendimento.

O que o Discord terá de cumprir

Grupos investigados: impedir a recriação de comunidades removidas e o retorno fraudulento de contas banidas.

Verificação de idade: comprovar os mecanismos utilizados e, se necessário, apresentar um plano de adequação.

Supervisão dos responsáveis: demonstrar ferramentas de acompanhamento do uso, controles de privacidade e restrições a contatos não autorizados.

Chantagem sexual: implementar ou comprovar a existência de um protocolo para comunicar às autoridades casos envolvendo crianças e adolescentes.

Situações de risco: retirar conteúdos de aliciamento e incentivo à automutilação ou ao suicídio identificados na plataforma, preservar os dados e comunicar as autoridades.

Atendimento em português: comprovar capacidade de moderação e funcionamento de um canal de denúncias no idioma.

Preservação de registros: guardar por pelo menos seis meses informações relacionadas aos fatos investigados.

Vídeos e materiais de incitação: remover republicações idênticas após notificações que atendam aos requisitos legais.

Os prazos variam de cinco a 30 dias.

A preservação dos registros e as providências diante de situações de risco devem começar assim que a empresa for notificada.

Interrupção das lives é mantida

Na última sexta-feira (25), a Superintendência de Fiscalização da Agência Nacional de Proteção de Dados (ANPD) negou o recurso do Discord e manteve a interrupção das transmissões ao vivo no Brasil. A decisão foi comunicada na quinta-feira (24) à empresa.

A agência considera que o retorno das lives poderia gerar novos danos. A suspensão das ferramentas de vídeo foi determinada após a morte de uma menina de 13 anos durante uma live, em 22 de julho. A ANPD condicionou a retomada à adoção de medidas de proteção a menores.

“A retomada das lives e do compartilhamento de vídeos ao vivo, sem adoção de medidas que tornem essa funcionalidade mais segura para crianças e adolescentes, poderia gerar risco de repetição das condutas investigadas e de novos danos antes mesmo da conclusão do processo de fiscalização”, justificou a agência.

Não comprovou o bloqueio

Ainda segundo a ANPD, o Discord não apresentou provas técnicas suficientes da implementação integral do bloqueio. A documentação, afirma a agência, não demonstra, “de forma técnica e verificável”, que a suspensão foi cumprida.

Para a ANPD, comunicações públicas da empresa e capturas de tela mostrando a indisponibilidade das funcionalidades demonstra apenas o que o usuário final passou a visualizar ou deixou de conseguir acessar. Tais documentos não permitem, segundo a agência, verificar, com grau de segurança, de que modo a restrição foi efetivamente implementada na infraestrutura da plataforma.

Na nota técnica que embasou a suspensão, a ANPD apontou que, desde 2 de março, o Discord passou a adotar criptografia de ponta a ponta, que impede o acesso direto às comunicações de áudio e vídeo em mensagens, canais de voz e transmissões ao vivo. Segundo a agência, a mudança tornou o produto “menos protetivo” para menores.

No recurso, o Discord pediu a reconsideração da suspensão e o restabelecimento das funcionalidades durante o processo. A empresa propôs ainda substituir a medida por um plano de conformidade, com obrigações, prazos e métricas, ou reativar os serviços gradualmente conforme os compromissos fossem cumpridos.

Como a Superintendência de Fiscalização negou a retomada das lives, o recurso seguirá agora para análise do Conselho Diretor da ANPD, que funciona como uma espécie de segunda instância e última palavra na via administrativa. Até a decisão final, as ferramentas de vídeo seguirão suspensas. A Superintendência de Fiscalização, porém, segue em diálogo com a empresa sobre medidas de proteção a crianças e adolescentes.

A reversão da suspensão das transmissões ao vivo, segundo a ANPD, continua condicionada à demonstração, pelo Discord, da implementação de “salvaguardas capazes de mitigar os riscos identificados”.

‘Escravidão digital’

A morte da menina no Mato Grosso do Sul é investigada pela Polícia Civil de Mato Grosso do Sul, que — em duas fases da Operação Lívia, nome da vítima — apreendeu 11 adolescentes e prendeu um jovem de 18 anos. Segundo a investigação, o grupo, que reunia integrantes de vários estados, fazia parte de um servidor privado do Discord em que a menina teria sido vítima de “escravidão digital”.

Ela teria sido aliciada por outra adolescente, que se passou por sua melhor amiga, coletou informações íntimas e ajudou a chantagear a vítima no servidor do Discord para cumprir ordens do grupo, incluindo automutilação.

Os cinco menores detidos na primeira fase foram soltos esta semana após o vencimento do prazo cautelar de 45 dias. O jovem de 18 segue preso. Na terça-feira, o Ministério Público de Mato Grosso do Sul recorreu ao Tribunal de Justiça para tentar reverter a soltura, citando a “excepcional gravidade dos fatos, a complexidade da investigação e a proximidade da sentença”.

Na peça encaminhada pela 4ª Promotoria de Justiça de Naviraí ao Tribunal, o MPMS sustenta que a “excepcional gravidade dos fatos, a complexidade da investigação e a proximidade da sentença” justificam a manutenção da medida de apreensão dos menores.

Segundo o recurso, as apurações revelaram a atuação de grupos organizados em plataformas digitais, com divisão de tarefas, hierarquia e suposta participação em práticas de violência psicológica, automutilação, crueldade contra animais e indução de adolescentes vulneráveis ao suicídio.

Em setembro, uma segunda fase da “Operação Lívia” apreendeu outros seis adolescentes na Bahia, Distrito Federal, Rio Grande do Sul, Rio de Janeiro e São Paulo.