Menu
O Discord admitiu que seu sistema de moderação baseado em inteligência artificial falhou ao identificar a tempo o risco em uma transmissão envolvendo uma adolescente de 13 anos que morreu após cometer suicídio, mas contesta a versão de que a plataforma tenha permanecido com a live no ar até a morte da garota.
Em uma investigação interna, a empresa afirma ter encontrado evidências de que a transmissão foi encerrada antes da morte da adolescente. Ao mesmo tempo, reconheceu que seus mecanismos automatizados não detectaram o nível de risco necessário para interromper a transmissão de forma preventiva.
O caso provocou uma reação das autoridades brasileiras. A Agência Nacional de Proteção de Dados (ANPD) determinou a suspensão da ferramenta Go Live, utilizada para transmissões ao vivo no Discord, e abriu uma investigação sobre os mecanismos de proteção oferecidos pela plataforma a crianças e adolescentes.
Discord reconhece falha, mas apresenta outra versão sobre a transmissão
A principal controvérsia envolvendo o caso está no momento em que a transmissão foi interrompida. O Discord reconhece que sua inteligência artificial não conseguiu identificar o risco com a rapidez necessária. Segundo a empresa, porém, uma análise posterior dos registros indicou que a live foi encerrada antes de a adolescente morrer. A empresa sustenta, portanto, que a falha do sistema de moderação não significa que a plataforma tenha deixado a transmissão disponível durante todo o episódio.
A versão apresentada pelo Discord é diferente das informações divulgadas pelas autoridades brasileiras durante a investigação. Segundo relatos sobre o caso, houve demora na retirada da transmissão e falhas nos mecanismos destinados a proteger usuários menores de idade.
Inteligência artificial do Discord falhou
Segundo a explicação apresentada pela empresa, o sistema de inteligência artificial utilizado na moderação atribuiu ao servidor envolvido uma pontuação de risco abaixo do limite necessário para acionar uma intervenção.
Na prática, isso significa que os mecanismos automatizados existentes na plataforma não classificaram a atividade como suficientemente perigosa para provocar uma resposta imediata. O problema ganha uma dimensão maior porque o próprio Discord reconheceu que havia sinais de risco que deveriam ter sido identificados.
A plataforma também afirma que áudio e vídeo passaram a utilizar criptografia de ponta a ponta no Discord em 2026, o que altera a capacidade de monitoramento em tempo real da plataforma.
ANPD suspendeu transmissões ao vivo do Discord no Brasil
A resposta das autoridades foi além da investigação sobre o caso individual. A ANPD determinou que o Discord suspendesse a função Go Live no Brasil, após concluir que havia risco elevado para crianças e adolescentes diante de conteúdos relacionados a violência, automutilação e suicídio.
A medida não bloqueia o Discord inteiro. A determinação atinge especificamente a funcionalidade de transmissão ao vivo e exige que a empresa apresente mecanismos capazes de demonstrar que adotou medidas efetivas de proteção.
A empresa recebeu prazo de três dias úteis para demonstrar o cumprimento da determinação. O descumprimento pode resultar em multas de até R$ 50 milhões por violação, segundo a Reuters.
Adolescente de 13 anos morreu durante live
A adolescente morreu após uma transmissão uma live realizada em julho no Discord, em um caso que passou a ser investigado pelas autoridades. Segundo as investigações, a menina teria sido incentivada por outros adolescentes a praticar autolesão e cometer suicídio durante a transmissão.
O episódio levou à prisão ou apreensão de envolvidos e também chamou atenção para grupos virtuais nos quais crianças e adolescentes podem ser submetidos a manipulação, coerção e incentivo a comportamentos autodestrutivos. O caso ocorreu em Mato Grosso do Sul e envolveu uma transmissão que teria durado aproximadamente 45 minutos, segundo informações divulgadas pelas autoridades brasileiras.
Cinco adolescentes foram detidos no caso
As investigações policiais identificaram adolescentes suspeitos de participação no episódio. Cinco menores foram detidos em decorrência do caso, segundo informações divulgadas e repercutidas pela imprensa internacional. A polícia também interveio em outro episódio envolvendo uma adolescente que estaria prestes a cometer suicídio durante uma transmissão pela internet.
Os casos aumentaram a pressão para que plataformas digitais adotem mecanismos mais eficazes de identificação de riscos envolvendo menores.
Discord diz que já removeu milhares de contas e servidores no Brasil
A empresa afirma que possui mecanismos próprios para combater conteúdos relacionados a violência, automutilação e abusos. Segundo dados apresentados pelo Discord, entre 2024 e 2026, a plataforma removeu quase 10 mil servidores e 260 mil contas no Brasil por riscos relacionados a violência, autolesão e abusos.
A empresa, porém, rejeita a caracterização de que o episódio represente uma falha sistêmica de toda a plataforma e afirma que investe continuamente em mecanismos de segurança.
A discussão agora envolve justamente a efetividade dessas ferramentas e se elas são suficientes para identificar situações de risco antes que ocorram consequências irreversíveis.
Criptografia também entrou no centro da discussão
Outro ponto analisado pelas autoridades é a adoção de criptografia de ponta a ponta em áudio e vídeo no Discord. Segundo a ANPD, a mudança implementada em março de 2026 pode ter dificultado a capacidade da empresa de detectar determinados conteúdos nocivos em tempo real.
O Discord, por sua vez, sustenta que mantém investimentos em segurança e que a caracterização feita pela autoridade brasileira não representa adequadamente os mecanismos de proteção existentes na plataforma.
Caso reacende debate sobre responsabilidade das plataformas e ECA digital
O episódio colocou novamente em discussão até onde vai a responsabilidade de empresas de tecnologia diante de crimes e comportamentos de risco praticados por usuários. O ocorrido ganhou ainda mais importância no Brasil com a entrada em vigor de novas regras voltadas à proteção de crianças e adolescentes no ambiente digital.
No caso do Discord, a investigação deverá determinar se os mecanismos disponíveis eram suficientes para identificar a situação de risco e se a empresa cumpriu as obrigações previstas na legislação brasileira. A plataforma afirma que pretende colaborar com as autoridades e contestou a decisão de suspensão das transmissões ao vivo, classificando a medida como prematura.