Sorria, você está sendo duplicado
Você deve ter visto pelo menos um vídeo no último ano em que uma celebridade fala ou faz algo fora do comum - para aquela personalidade - e jura de todas as formas que aquilo é verdade. Aí você descobre que aquele vídeo é apenas uma montagem.
De acordo com dados da startup Deeptrace, essas montagens, chamadas de deepfake, cresceram 330% de outubro de 2019 a junho de 2020.
Em março de 2021, imagens falsas de Tom Cruise foram utilizadas para criar uma conta não verificada na rede social TikTok e rendeu mais de 11 milhões de visualizações no aplicativo, sem contar os milhões de acessos em outras plataformas.
O que são deepfakes?
Reprodução: Buzzfeed
Os deepfakes nada mais são do que vídeos criados a partir de inteligência artificial e de machine learning que reproduzem a aparência, as expressões e até a voz de alguém do mundo real.
A expressão deepfake se popularizou em 2017, através de um perfil com o mesmo nome na plataforma Reddit.
O usuário começou a publicar vídeos com conteúdo sexual utilizando um software de deep learning para aplicar a face de pessoas famosas nesses vídeos. Infelizmente, as atrizes Gal Gadot e Emma Watson foram vítimas desse ataque.
A expressão deepfake logo passou a ser usada para indicar uma variedade de vídeos editados com software de machine learning e deep learning através de Inteligência Artificial.
Qualquer pessoa com acesso a algoritmos, conhecimentos de deep learning, um bom processador gráfico e um amplo acervo de imagens pode criar um vídeo falso convincente. São utilizados softwares baseados em bibliotecas de código aberto voltadas ao aprendizado de máquina.
O fácil acesso à essa tecnologia pode ser usado na produção de vídeos ingênuos que possuem a única intenção de entreter o público. Mas como nem tudo são flores, o deepfake anda se tornando um risco.
Quando a tecnologia vem para o mal
Reprodução: Buzzfeed
Apesar da má intenção não fazer parte do conceito dos deepfakes, ela está na equação e deve ser levada em conta. Há diversos problemas sérios em torno das Deepkakes, como:
Humilhar, chantagear ou difamar alguém;
Atacar organizações;
Incitar violência política;
Cancelar acordos diplomáticos;
Fraudar eleições;
A criação de “fatos” difíceis de categorizar como falsos;
A popularização de aplicativos especializados em criar esse tipo de material e seus interesses comerciais.
Junto com os perigos já conhecidos, como ransomware e outros ataques cibernéticos, as deepfakes complicam o mundo da segurança da informação.
Algumas ferramentas de segurança automatizadas e produtos que incorporam IA, especialmente em software forense, podem detectar e combater essa forma de fraude.
Junto com protocolos de segurança cibernética, são medidas de proteção comuns contra deepfakes a utilização de redes sociais, visto que elas ganham amplo alcance e imediatismo.
Um exemplo recente de como as plataformas digitais podem combater as deepfakes através de tecnologias ou outros recursos é o novo método desenvolvido pelo Facebook. Pesquisadores de inteligência artificial da plataforma e da Michigan State University criaram um novo software que pode revelar de onde vêm os deepfakes.
O objetivo é que o software de IA desenvolvido por eles possa ser treinado para reconhecer uma peça de mídia falsa ou alterada à partir de uma imagem estática ou de um único quadro de vídeo.
Outra informação é que o software também poderá identificar a IA que foi utilizada para criar a peça de deepfake, não importa quão nova seja tecnologia utilizada.
Tal Hassner, líder de pesquisa aplicada do Facebook, disse à CNBC que é possível treinar o software de IA "para olhar para a foto e dizer com um grau razoável de precisão qual é o design do modelo de IA que gerou aquela foto."
Além disso, outros especialistas defendem que algumas respostas possíveis às deepfakes e outras técnicas de manipulação de conteúdo devem estar amparadas em regulação e normas, educação midiática, na mudança de postura cultural da sociedade para evitar esse tipo de conteúdo e responsabilização das plataformas.
O lado bom das deepfakes
Deepfakes são, de certa forma, efeitos especiais, esses quais já são utilizados no audiovisual há muito tempo. Entretanto, o que difere o profissionalismo dos efeitos hollywoodianos ao deepfake é a facilidade com a qual ele pode ser produzido.
Nada mais benéfico para o audiovisual do que juntar sua técnica com a facilidade das deepfakes de produzir algo para levar o nível da sincronização de dublagens a outro nível.
A equipe da startup Flawless desenvolveu uma ferramenta que utiliza inteligência artificial para sincronizar o movimento facial de um ator com às palavras em um filme dublado.
A ferramenta funciona da seguinte forma: os clientes alimentam o software com vídeo de um filme ou programa de TV, juntamente com diálogos dublados, gravados por humanos. Os modelos de machine learning, então, criam novos movimentos labiais que correspondem à fala traduzida e os colam automaticamente na boca do ator.
Essas ferramentas têm um potencial interessante no meio cinematográfico: continuar a tornar a produção de filmes mais acessível e econômica, e popularizar culturas pelo mundo.
Isso se torna ainda mais simples com o alcance de plataformas de streaming globais como Netflix, Disney Plus e Amazon Prime Video. É mais fácil do que nunca para esse conteúdo chegar aos mercados internacionais.
Por exemplo, um ator de grande popularidade fez um filme em inglês. Entretanto, pessoas que vivem em Berlim não querem ver o filme legendado porque sentem que isso atrapalha distrai e tira o foco de tudo o que está acontecendo na tela. Com o auxílio da tecnologia de deepfake, o filme dublado em alemão terá mais naturalidade e parecerá que todos os atores estão realmente falando alemão, graças à sincronia das falas.
Apesar da ferramenta desenvolvida pela startup ser fascinante, ela ainda não entrega com perfeição seu objetivo principal: fazer com que a dublagem sincronizada seja tão boa quanto as performances originais. Mas nada que alguns anos a mais de desenvolvimento não possam tornar a tecnologia boa o suficiente para o que Hollywood necessita.