O Discord admitiu formalmente, em documento enviado ao Ministério da Justiça, que seus sistemas automatizados de proteção falharam ao não identificar uma transmissão ao vivo que resultou na morte de uma menina de 13 anos em Naviraí, no Mato Grosso do Sul.
A confissão ocorreu nesta semana, após a Agência Nacional de Proteção de Dados (ANPD) determinar a suspensão imediata da funcionalidade de transmissões ao vivo da plataforma em todo o território nacional.
Falha técnica
Em seu relatório, a empresa reconheceu que o algoritmo de monitoramento atribuiu à transmissão um índice de risco de apenas 0,12, valor muito abaixo do limiar de 0,95 necessário para acionar automaticamente uma revisão humana e a possível derrubada do conteúdo.
Devido a essa falha de calibração, a live, na qual a adolescente foi coagida à automutilação e ao suicídio, permaneceu no ar por quase duas horas.
De acordo com as informações sobre o caso, a transmissão teve início por volta das 02h20 da madrugada do dia 22 de julho. O Discord só removeu o servidor às 04h15, após receber um alerta externo da Polícia Civil às 03h50.
A empresa confessou que, embora houvesse sinais no nome do servidor e em comunicações de texto que indicavam um “ecossistema de alto dano”, esses indicadores não foram suficientes para disparar os protocolos de segurança da plataforma.
Suspensão da ANPD
Diante das “evidências robustas” de que o Discord não adotou medidas razoáveis para prevenir violações graves contra crianças e adolescentes, a ANPD aplicou uma medida preventiva com base no Estatuto da Criança e do Adolescente Digital (ECA Digital).
A ordem determina que a rede social tem três dias úteis para desativar completamente as transmissões ao vivo e recursos equivalentes de compartilhamento de vídeo no Brasil.
Vale destacar que a suspensão é apenas para e não bloqueia o uso do aplicativo para mensagens de texto ou chats de voz, mas impede qualquer nova transmissão ao vivo até que a empresa comprove à agência a implementação de medidas técnicas, de segurança e de governança eficazes.
A ANPD destacou que a arquitetura atual da plataforma “depende excessivamente de denúncias de usuários”, o que coloca menores em risco.
Resposta da empresa
O Discord classificou a decisão da ANPD como “prematura”, argumentando que ainda estava dentro do prazo legal para apresentar sua defesa no processo administrativo.
Além disso, a empresa também afirmou que “a caracterização feita pela ANPD não reflete a plataforma que construímos” e ressaltou que as atividades criminosas foram coordenadas inicialmente em outras redes sociais antes de migrarem para um servidor privado no Discord.
O caso, investigado no âmbito da “Operação Lívia“, já resultou na prisão de um adulto e na apreensão de cinco adolescentes acusados de induzir a vítima ao suicídio.
A investigação revelou ainda falhas graves na verificação de idade da plataforma, permitindo que menores acessassem conteúdos restritos utilizando datas de nascimento fictícias, como o ano de 1877.
