Softwares usam inteligência artificial para criar vídeos falsos e espalhar desinformação

Um recente estudo feito em conjunto entre a Universidade de Stanford, a Universidade de Princeton, o Instituto Max Planck de Informática e o Adobe Research mostra que novos softwares estão usando inteligência artificial para alterar a transcrição de vídeos e mudar o conteúdo das informações.

A pesquisa mostra que esses softwares têm facilitado a criação e disseminação de fake news. E embora essas ferramentas ainda não sejam de fácil acesso do público, a projeção é que elas acabem se popularizando em pouco tempo.

Várias técnicas são combinadas para manipular os vídeos, desde escanear cada palavra do material até a criação de um modelo 3D só da parte inferior do rosto do indivíduo para que ao alterar as frases, o movimento dos lábios seja verosímil.

Nos testes feitos nas pesquisas, em um grupo de 138 voluntários, cerca de 60% dos participantes disseram que os vídeos eram reais. E os pesquisadores ainda acham que o número poderia ser maior, caso as pessoas não soubesse que estavam participando de um “estudo sobre edição de vídeo”.

Vale ressaltar que essas ferramentas também têm suas limitações. Elas funcionam para vídeos nos quais o falante está em destaque no plano, bem no modelo de gravação dos Youtubers, por exemplo. O material também precisa ter pelo menos 40 minutos de duração, entre outros detalhes.

Mesmo ainda não sendo uma tecnologia perfeita, tudo ainda está em estágio inicial. Então, podemos esperar pelo avanço de técnicas, como a mudança no tom de voz através da edição, coisa que ainda não é possível.

O estudo ressalta: “Embora os métodos de manipulação de imagens e vídeos sejam tão antigos quanto os próprios meios de comunicação, os riscos de abuso aumentam quando aplicados a um modo de comunicação que às vezes é considerado evidência autoritária de pensamentos. e intenções. Reconhecemos que os maus atores podem usar essas tecnologias para falsificar declarações pessoais e difamar indivíduos proeminentes”.

Há benefícios para o uso dessa tecnologia, é claro, como ajudar a indústria audiovisual, principalmente diminuindo a necessidade de regravações para corrigir cenas, além da possibilidade de criar dublagens mais realistas. Ainda assim, as vantagens parecem não superar os problemas que essas ferramentas podem causar em um futuro breve.