Software de reconhecimento facial da Amazon consegue identificar medo

Nesta semana, a Amazon anunciou que melhorou a precisão de seu sistema de reconhecimento facial, o Rekognition, que agora tem capacidade de “detectar emoções”. Além de detectar as emoções “feliz, triste, zangado, surpreso, enojado, calmo e confuso”, Amazon diz que “adicionou uma nova emoção: o medo”.

Tecnicamente, o algoritmo funciona aprendendo como os rostos das pessoas costumam parecer quando expressam medo. Então, quando você mostra uma nova imagem ao sistema, ele consegue dizer a você com certa probabilidade se aquele rosto está comunicando a emoção do medo, deixando que o ser humano decida o que fazer com a informação.

Além de vender o seu Rekognition para empresas de publicidade e marketing, a Amazon também tem comercializado o software em áreas mais específicas de atuação, como a polícia e as agências de imigração, o que não tem sido visto com bons olhos.

Segundo Evan Greer, vice-diretor do grupo de defesa dos direitos digitais: “O reconhecimento facial já automatiza e agrava abusos, discriminação e a discriminação da polícia. Agora, a Amazon está nos colocando em um caminho em que agentes armados do governo podem fazer julgamentos em segundos com base no testemunho frio de um algoritmo defeituoso. Pessoas inocentes podem ser detidas, deportadas ou presas porque um computador decidiu que elas pareciam ter medo quando questionadas pelas autoridades. O estado de vigilância distópico de nossos pesadelos está sendo construído em um local plano – por uma corporação faminta por lucros, ávida por agradar governos de todo o mundo”.

Já há algum tempo, diversos grupos de Direitos Civis, especialistas em inteligência artificial e até mesmo alguns dos próprios investidores da Amazon pediram à empresa que parasse de implementar sua tecnologia de reconhecimento facial com precisão. Vale ressaltar que, especialmente nos Estados Unidos, o reconhecimento facial já é usado em espaços públicos, aeroportos e até mesmo em escolas.

A capacidade de qualquer algoritmo para medir com precisão emoções como raiva e medo usando apenas características faciais também é contestada pelos cientistas, inclusive com artigos recentes que sugerem uma revisão da ideia que a emoção pode ser detectada através do levantamento das expressões faciais, já que “as chamadas expressões emocionais são mais variáveis ​​e dependem do contexto do que se supunha originalmente”.

A Amazon se recusou a comentar publicamente sobre as manifestações contrárias ao seu software.