Facebook remove 2,5 milhões de posts com discurso de ódio em 6 meses

Foto: AFP / LOIC VENANCE / CPO Facebook retirou do ar 2,5 milhões de publicações que foram identificadas como contendo discurso de ódio no primeiro semestre do ano. A informação foi divulgada no relatório de transparência da plataforma, publicado pela primeira vez na semana passada. O documento traz os resultados das ações de moderação de conteúdo praticadas pela empresa, como o monitoramento e a exclusão de mensagens publicadas. A avaliação é feita com base em diretrizes estabelecidas pela companhia.

Segundo elas, discurso de ódio é considerado "um ataque direto a pessoas com base no que chamamos de características protegidas: raça, etnia, nacionalidade, filiação religiosa, orientação sexual, sexo, gênero, identidade de gênero e doença ou deficiência grave", além do status migratório. "Ataques" são "discursos violentos ou degradantes, declarações de inferioridade ou incentivo à exclusão e segregação". O Facebook também excluiu 3,5 milhões de conteúdos violentos. Estes são definidos nas diretrizes como uma mensagem "que exalte a violência ou celebre a humilhação ou o sofrimento de outras pessoas".

São permitidas publicações com imagens explícitas em alguns casos mas, segundo a empresa, "para ajudar as pessoas a gerar conscientização sobre algumas questões". O monitoramento de conteúdo do Facebook identificou e derrubou 21 milhões de conteúdos de nudez ou pornografia. A empresa estima que a cada 10 mil publicações, entre 7 e 9 traziam algum tipo de conteúdo que violava os padrões sobre nudez ou pornogafia. A moderação também busca contas falsas.

De acordo com o relatório, no primeiro semestre foram derrubados 583 milhões de perfis deste tipo. O número representa 26,5% do total de usuários que a plataforma tem (2,2 bilhões, segundo dados de abril).  Contudo, não necessariamente as contas já existiam. De acordo com o documento, a maioria dos perfis considerados falsos é excluída minutos após a criação. Automatização Um dos pontos exaltados pelo Facebook em seu relatório é a atuação de seus sistemas para identificar os conteúdos violadores de suas regras para exclusão.

No caso das publicações com nudez e pornografia, 96% foram marcadas pela tecnologia da plataforma. Nas mensagens com imagens de violência, o índice ficou em 86%. Já nos conteúdos com discurso de ódio, a proporção de mensagens sinalizadas pelo sistema da companhia cai bastante, ficando em 38%. "Tecnologias como a inteligência artificial, que embora seja promissora, ainda está longe de ser efetiva para a maioria dos conteúdos de baixa qualidade, ja que uma análise do contexto também é muito importante.

 



 

 

Por exemplo, a inteligência artificial não é boa o suficiente para determinar se alguém está proclamando ódio ou se está descrevendo uma situação ocorrida consigo mesma para gerar conscientização sobre o assunto", disse Guy Rosen, vice-presidente de gerenciamento de produto, em texto publicado no site oficial da empresa.

O que dizem os especialistas

Em um debate no evento Rightscon, em Toronto, no Canadá, o relator para a liberdade de expressão das Nações Unidas, David Kaye, questionou a moderação de conteúdos por grandes plataformas, como o Facebook. Na avaliação do relator, o fato das regras serem privadas, e de decisão exclusiva da plataforma, gera um problema para o debate no interior destes espaços, afetando a liberdade de expressão. "Os termos de serviço outorgam um poder discricionário às companhias para a remoção de conteúdos.

As empresas as explicam em seus blogs, mas elas são vagas. Há questionamentos também sobre a consistência destas", destacou o relator. Na avaliação de Natália Neris, pesquisadora sobre o tema e integrante da ONG InternetLab, há que se tomar cuidado no uso de tecnologias para remoção de conteúdo, pois estes sistemas apresentam grandes limitações para compreender contextos. Por conta disso, a identificação pode ser falha, o que pode resultar na exclusão de mensagens que não deveriam ser deletadas. Ela relata que a entidade recebeu denúncias de conteúdos derrubados por supostas discriminações raciais contra brancos e preconceito de homossexuais contra heterossexuais.

"A inteligência artificial não consegue entender que não é possível racismo reverso. O contexto é importante e varia demais de lugar para lugar. Ainda vai gerar muita confusão", pondera. Neste mês, pesquisadores de organizações norte-americanas que trabalham com direitos digitais - como Eletronic Frontier Foundation, Center for Democracy & Technology e New America´s Open Technology Institute - realizaram um seminário sobre o tema e publicaram uma série de recomendações, que denominaram "princípios de Santa Clara".

Entre as diretrizes defendidas pelos especialistas estão: - Companhias devem publicar regularmente o número de publicações removidas e contas suspensas ou bloqueadas em razão da violação de suas regras; - Empresas devem notificar os autores da publicação ou da conta sobre os motivos da remoção da mensagem ou suspensão do perfil; - As plataformas devem disponibilizar opção de recurso para quem teve conteúdos removidos ou contas bloqueadas.

Fonte: Agência Brasil