Discord admite falha em caso da morte de menina de 13 anos

O Discord admite que os seus mecanismos de segurança falharam para derrubar a live que culminou no suicídio de uma adolescente de 13 anos. Segundo um relatório da empresa obtido pela GloboNews, a companhia entende que demorou demais para tirar a live do ar e inicialmente não avaliou o conteúdo como ameaçador.

A documentação revela que a livestream foi iniciada às 2h20 da manhã (horário de Brasília) de 22 de julho, mas a plataforma só foi entender algum tipo de periculosidade atrelada ao conteúdo por volta das 3h50. No entanto, o servidor só foi efetivamente retirado do ar para que a live fosse interrompida às 4h15, ou seja, quase duas horas depois do início.

Os sistemas de segurança do Discord funcionam por meio de um indicador de gravidade para esses conteúdos. A princípio, a live teria marcado somente 0,12 ponto de perigo, o que não gera preocupações. Todavia, o sistema de intervenção automático da rede social entra em ação a partir de 0,95 ponto.

Um dos motivos para a dificuldade do Discord em entender que o conteúdo era criminoso ocorreu por um tipo de “máscara” criada pelos integrantes. O servidor exigia um convite por link específico e os nomes e as comunicações usadas pelos membros não eram explícitos, então o sistema entendia que tudo estava dentro da normalidade.

Mesmo com o erro, o Discord avalia a eficácia do seu modelo de detecção de segurança. “Reduzir o limiar de detecção aplicável aumentaria materialmente os falsos positivos e poderia comprometer a eficácia da intervenção proativa automatizada”, diz. A plataforma explica no relatório que estuda mudanças nos seus critérios.

ANPD suspendeu lives do Discord

Na última quarta-feira (12), a Agência Nacional de Proteção de Dados (ANPD) determinou a suspensão das livestreams do Discord no Brasil. A medida ocorreu após forte pressão da primeira-dama, Janja da Silva, e pela avaliação de que é necessária a suspensão dos conteúdos ao vivo por conta dos altos riscos identificados.

O objetivo da ANPD com essa suspensão é contornar um eventual bloqueio total do Discord no Brasil, como defende Janja. A agência explica que monitora a rede social desde o ano passado e a medida continuará em vigor até que a plataforma “comprove a adoção de medidas para proteger crianças e adolescentes”.

Em entrevista à CNN, o diretor da ANPD, Iagê Miola, explica que a decisão não encerra as investigações contra a rede social. Já o Discord explica que trabalha com equipes especializadas para encontrar e derrubar grupos que ameacem seus usuários. “Continuaremos trabalhando de forma incansável para coibir esse tipo de comportamento e auxiliar na identificação, prisão e responsabilização criminal dos indivíduos envolvidos”, revela.

Por enquanto, a suspensão definitiva do Discord parece improvável, mas será necessário aguardar pelos planos de segurança da plataforma e a reação das instituições governamentais diante do caso. Uma investigação formal está em andamento pelo Ministério da Justiça e Segurança Pública.

Inclusive, parte dos criminosos que estavam na live da morte da menina de somente 13 anos foram presos, e as autoridades buscam mais envolvidos.