Com erro, filtro parental do iOS 14 vê cultura asiática como conteúdo adulto

A Apple oferece o sistema de controle parental para que adultos possam deixar seus filhos utilizarem iPhones e iPads sem correr o risco de acessarem conteúdo adulto. O sistema, porém, não é perfeito, e uma falha preocupante foi detectada pelo The Independent: conteúdo asiático está sendo confundido com pornografia e sendo bloqueado.

Os filtros utilizados pelo iOS 14 limitam acesso a sites de conteúdo adulto e impede os usuários de pesquisarem pela palavra “asiático” no Safari e em outros navegadores. O bloqueio não só impede que você pesquise pela palavra, ele também pode impedir quaisquer pesquisas relacionadas que possuam a palavra. “Comida asiática”, por exemplo, pode não ter os resultados de busca exibidos no modo de controle parental, bem como “países asiáticos” ou “culturas asiáticas”.

Pesquisas semelhantes substituindo os asiáticos por africanos, indianos, europeus ou árabes funcionam normalmente, o que deixa claro o problema do algoritmo do iOS 14. A essa altura, ainda é incerto como a Apple define quais termos podem ou não ser pesquisados dentro do controle parental. A empresa ainda não se manifestou após a notícia, e é esperado que, ao menos, o filtro parental receba uma atualização corrigindo o erro.

Como nota o Engadget, entretanto, a parte triste da história é que erros do tipo não são novidade. Houve relatos de problemas parecidos no controle parental em 2019 e 2020. Pelo fato do filtro servir para quando uma criança estiver utilizando um gadget da Apple, a situação fica ainda mais séria pois crianças podem pesquisar por sua própria cultura e verem o sistema operacional informar que a busca não pode ser completada por se tratar de “conteúdo impróprio”.