O Deepfake é uma ameaça?

Imagem: Anon/pixabay

O deepfake é uma tecnologia do tipo Machine Learning utilizada para produzir vídeos e áudios com grande riqueza de detalhes que simula falas e ações de pessoas famosas ou anônimas. O termo é derivado do deep learning, que caracteriza o constante aprendizado das máquinas, ou tecnologia, através do estudo de reconhecimento de padrões. O algoritmo utiliza inteligência artificial para manipular imagens de rostos e criar movimentos, simulando expressões e falas.

• O problema da desinformação no Facebook

Conteúdo do artigo:

• Como surgiu e funciona

• Riscos

• Benefícios

• Como reconhecer um deepfake

Como surgiu e funciona

O primeiro registro que se tem do termo “deepfake” vem de 2017 no Reddit, na ocasião, um usuário que utilizava esse nome postava vídeos pornográficos falsos com celebridades. A partir daí a prática se espalhou pela internet, as pessoas descobriram um verdadeiro leque de usos para a tecnologia o que a fez se popularizar cada vez mais.

A forma como o deepfake funciona é simples. Através de APIs de deep learning, é possível montar vídeos e áudios simulando acontecimentos ou pronunciamentos que não ocorreram. Os deepfakes normalmente contam com um software de inteligência artificial, a IA utiliza uma biblioteca com centenas ou até milhares de imagens de pessoas, a rede neural analisa e aprende os padrões dos rostos, de movimento e até de falar, a ponto de poder os reproduzir em outros vídeos.

Na internet existem vários vídeos onde o deepfake é usado como uma forma de piada, com as vítimas normalmente sendo personalidades famosas. Não há problema quando as criações são de famosos falando algo engraçado ou absurdo, entretanto, muitos conteúdos problemáticos são criados através do deepfake, incluindo vídeos pornográficos ou que sujam a imagem das vítimas.

Riscos

Existe uma vasta gama de possibilidades para a tecnologia do deepfake, entretanto, algumas delas podem ser prejudiciais para pessoas que tiveram sua imagem utilizada indevidamente ou, até mesmo, problemas políticos. Conheça alguns desses riscos.

• Alterações da realidade:  A nova tecnologia permite gerar algumas variações no conteúdo audiovisual alterando ou recriando fatos que nunca aconteceram. Pessoas mal-intencionadas podem utilizar isso para atos prejudiciais para outras pessoas, por exemplo: simular uma confissão de uma pessoa ligada a um partido político com declarações falsas sobre seus colegas, o que pode gerar prejuízos ainda maiores a honra e a dignidade das pessoas.

• Bullying: Os efeitos desta tecnologia não se limitam apenas a manipular a realidade de figuras públicas. Em uma escala menor, pode agravar casos de bullying, fazer publicidade com estereótipos de beleza totalmente falsos, manipular o físico e inclusive reproduzir vídeos pornográficos.

• Problemas políticos e sociais: A forma como essa tecnologia levanta preocupações e pautas políticas em alguns países. Existem nações que buscam frear essa tecnologia a fim de frear a incidência de casos que podem traumatizar vítimas por toda vida.

Benefícios

Apesar dos malefícios, a tecnologia possui muitos usos úteis e benéficos às redes sociais, por exemplo, utilizam dessa tecnologia para reconhecer rostos em fotos, o Instagram e o AR Android em especial utilizam esse artifício para mapear e adicionar efeitos em vídeos feitos em tempo real pelos usuários. 

Já no cinema, em produções cinematográficas é utilizada essa tecnologia para dar vida a personagens de atores impossibilitados de atuar ou já mortos. Como, por exemplo, no filme Velozes e Furiosos 7, onde as cenas protagonizadas pelo personagem Bryan após a morte do ator Paul Walker, foram feitas através de CGI inserido no rosto de um dublê.

Como reconhecer um deepfake

Apesar de algumas produções serem extremamente convincentes, os deepfakes não são perfeitos. Existem alguns detalhes sutis que entregam a veracidade — ou falta dela — de um vídeo. Veja abaixo algumas formas de reconhecer um deepfake.

Analise o vídeo com mais atenção. Alguns erros podem passar despercebidos na criação do vídeo, seja os movimentos da boca não casarem com a fala do interlocutor; o rosto não acompanhar corretamente os movimentos da cabeça; ou até mesmo, se o conteúdo do vídeo parecer absurdo demais para ser verdade.

Busque por outras fontes. Utilizando a mesma expressão do tópico passado, se algo parecer absurdo demais para ser verdade, isso é um sinal de que talvez aquela fonte não seja confiável. Busque outros vídeos ou notícias (caso exista) do ocorrido.

Procure por evidências que denuncie a artificialidade do vídeo. Detalhes como mudanças bruscas no tom de voz e cortes repentinos são boas evidências de uma manipulação. Além disso, como citado anteriormente, alguns erros podem ser encontrados caso o vídeo seja artificial, tais como má sincronizações entre a voz e a boca ou nos movimentos do rosto.

O que achou deste conteúdo? Como pôde ver, apesar de impressionante, a tecnologia do deepfake ainda tem muito a evoluir e não é de todo um mal. 

Leia mais artigos como esse clicando aqui!

Este artigo foi escrito por Gabriel Pereira e publicado originalmente em Prensa.li.