YouTube recomenda vídeos que violam diretrizes da plataforma, aponta estudo

[Atualizado 8/7/2019 às 15:37 com o posicionamento do YouTube]

Um estudo feito pela Mozilla Foundation identificou um evento estranho no sistema de recomendação de vídeos do YouTube, a maior plataforma de vídeos da internet. Segundo o relatório, a rede social está recomendando para seus usuários vídeos que violam as próprias políticas de uso da empresa.

Os usuários de língua não-inglesa são os mais afetados. O índice de arrependimento após consumir as recomendações chega a 60% entre usuários de países que não possuem o inglês como língua nativa.

O relatório foi feito com base na coleta de dados do RegretsReporter, uma extensão que permite aos usuários informar sobre conteúdo ofensivo e as recomendações do algoritmo que as fizeram chegar a esses vídeos. Para chegar ao resultado, mais de 30 mil usuários tinham a ferramenta instalada em seu navegador.

A Mozilla afirma ainda que sinalizou um total de 3.362 vídeos “arrependíveis”, vindos de 91 países diferentes no período entre julho de 2020 e maio de 2021. Entre essa seleção, as categorias de vídeos mais frequentemente recomendados tinham desinformação, conteúdo violento, discurso de ódio e spam.

Quase 200 vídeos recomendados pelo próprio algoritmo do YouTube (em torno de 9% do total) foram removidos pela própria plataforma depois. Mas, a essa altura, o estrago já estava feito, já que juntos, eles coletaram por volta de 160 milhões de visualizações.

Vale notar ainda que 70% do tempo assistido no YouTube vem de conteúdos sugeridos pelo algoritmo, o que corresponde a 700 milhões de horas diárias. A plataforma possui um sistema de recomendações projetado para te manter no site assistindo a vídeos, o que pode fazer com que o usuário passe horas e horas consumindo conteúdo das categorias citadas.

Em comunicado enviado à imprensa, o YouTube comentou a notícia: “O objetivo do nosso sistema de recomendação é conectar os espectadores com o conteúdo que os agrada e, por dia, mais de 200 milhões de vídeos são recomendados apenas na nossa página inicial. Mais de 80 bilhões de informações são usadas para calibrar nossos sistemas, incluindo dados de pesquisas com usuários sobre o que eles querem assistir. Trabalhamos constantemente para melhorar a experiência no YouTube e, somente no ano passado, implementamos mais de 30 mudanças diferentes para reduzir as recomendações de conteúdo potencialmente prejudicial. Graças a essa mudança, o consumo de conteúdo que chega perto de violar nossas regras proveniente das nossas recomendações está agora significativamente abaixo de 1%”.