Deepfakes: tudo além da verdade
Com o início da campanha eleitoral no rádio e na TV, e sobretudo após o primeiro debate entre os presidenciáveis, foi aberta de vez a temporada de notícias falsas, calúnias, bravatas, mentiras e lorotas de todo tipo.
Já na sequência do debate, fervilhou nas redes sociais um depoimento da jornalista Fabíola Cidral, do UOL, “desmascarando” a também jornalista Vera Magalhães, da TV Cultura. Esta teria revelado à colega, antes do confronto, que provocaria propositalmente um certo candidato (atual ocupante da cadeira presidencial), para que perdesse de vez as estribeiras.
Nada mais falso. A tal postagem, que classifica Vera Magalhães como “militante”, usa um trecho reeditado do vídeo onde Fabíola Cidral conta a estratégia de outra candidata, esta admitindo que provocaria propositalmente o cidadão, tentando lhe tirar do sério.
Cabe recordar que o candidato da situação é que atacou verbalmente Vera Magalhães, recebendo condenação imediata de boa parte da opinião pública, e dos demais candidatos e jornalistas presentes. Sua militância partiu rapidamente para o ataque, colocando a jornalista no alvo.
Entretanto, este tipo de distorção ainda é fichinha se comparada com o que poderá – e deverá – vir daqui para frente.
Verdade seja dita
Uma história em quadrinhos da Turma da Mônica, há quase vinte anos, nos apresentou uma frase que tinha tudo para virar meme e, vejam só, virou mesmo. A dona da rua duvidava de uma informação passada pelo Cebolinha, ao que o garoto responde que havia visto na Internet. Mônica então concorda, afirmando “se tá na Internet, então é verdade”.
Já naquela época, a brincadeira era feita em tom de crítica pelos roteiristas, devido ao imenso conteúdo de bobagens que desfilava pela web. Não esqueça que sequer a expressão fake news existia.
Fake news, aliás, foi um termo criado pelo megalomaníaco (e pouco ético) ex-presidente dos Estados Unidos, Donald Trump, classificando assim qualquer notícia que não lhe fosse favorável. A intenção, justamente, era propagar mais fake news. A nossa popular lorota, em bom português.
De lá para cá, muito mudou. As famosas tias do zap proliferaram mais rápido que as fake news. Quase como um vírus, passaram a propagar mais fake news. Trump ficaria orgulhoso e embevecido.
Ninguém, entretanto, estava preparado para algo pior e bem menos inocente que estas mentiras, se é que se pode chamá-las de inocentes: as deepfakes.
Realidades irreais
Numa tradução bem literal, “mentiras profundas”; termo que, apesar de não ser a verdadeira origem da expressão e parecer título de novela mexicana, denota algo sério, muito sério.
Trata-se de substituir a identidade de alguém, em algum fato ou declaração, via meios digitais. E essa "substituição" fica tão perfeita que não raro o próprio “substituído” tem dificuldade em reconhecer que não disse aquilo ou não esteve em tal lugar.
A coisa não é nova: lembro de participar de uma convenção de ficção científica em São Paulo, no distante 1995, onde se debatia sobre novas possibilidades da tecnologia na indústria cinematográfica.
Previa-se que, em alguns anos, poderia-se colocar o rosto de atores que já não se encontrariam entre nós, sobre outros bem vivos, e até mesmo emulando vícios posturais e outros trejeitos com riqueza de detalhes.
Em 2016 isso foi demonstrado, se não com perfeição, muito perto disso, no spin-off de Star Wars, Rogue One. O ator Peter Cushing, na ocasião falecido há mais de duas décadas, contracenou com o elenco como se estivesse vivo. Além dele, a atriz Carrie Fisher, na ocasião com 60 anos, surgiu com a mesma aparência da época da produção do primeiro filme da saga, em 1977. Pesa-se o fato que Carrie havia falecido recentemente.
Catacumbas da mentira
Saindo um pouco do glamour hollywoodiano e voltando ao terreno lamacento das fake news, às vésperas das eleições de 2018, o então candidato ao governo do Estado de São Paulo, João Dória Júnior, foi acusado de participar de uma orgia, conforme vídeo viralizado nas redes sociais.
O candidato jurou que tais imagens eram falsas, e logo aventou que seria uma montagem. A expressão deepfake não demorou a dar as caras no noticiário. Até hoje não houve consenso sobre a veracidade das imagens. Fato é que o candidato perdeu muitos votos com a acusação. Ganhou a eleição, mas com uma margem numérica aquém da esperada.
É bem nesse ponto onde o problema maior reside. Do mesmo modo em que a possível deepfake envolvendo o candidato atingiu pontos sensíveis de uma grande parcela da população, imagina-se que agora as coisas piorem muito.
Perigosamente simples
A tecnologia, a mesma prevista lá em 1995, não só teve um salto evolutivo, como também tornou-se economicamente mais acessível. Prato cheio para que um grande número de usuários criativos e sem grandes compromissos éticos ofereça seus serviços por uma boa quantia em dinheiro.
Não me deterei tanto nos detalhes técnicos da coisa: há muitos outros articulistas na Prensa mais gabaritados para explanar sobre a produção de deepfakes em nível subatômico ou. se preferir, bit a bit. Prefiro me alongar mais sobre os efeitos e possibilidades, a curto, médio e longo prazo.
Mas só para não passar batido, a expressão vem da junção de “fake” como você desconfiava, com “deep”, da expressão deep learning, ou seja, a aprendizagem profunda, recurso da inteligência artificial que faz o sistema, a grosso modo, aprender pela prática. A explicação parece tosca, mas na verdade as IAs aprendem direitinho. E muito rápido.
Antes das perigosas ligações com o mundo político, as deepfakes deram as caras – ou melhor, trocaram – em vídeos humorísticos. O jornalista brasileiro Bruno Sartori recebeu a alcunha de "bruxo dos vídeos” após realizar sátiras com as imagens de políticos brasileiros. Seu trabalho explodiu após colocar a face do atual presidente na personagem Carminha, da novela Avenida Brasil. Os vídeos logo alcançaram milhões de visualizações.
Mas, assim como quem fez em troca de boas risadas, houve quem enxergasse possibilidades bem menos inocentes. Não demorou para o rosto de atrizes famosas aparecerem no corpo de outras atrizes, desempenhando cenas desaconselháveis a menores de 18 anos, se me fiz claro. O tipo de recreação parecida com o caso daquele candidato ao governo paulista citado há alguns parágrafos.
Isso deu muita dor de cabeça, rendeu pano pra manga e trabalho para dezenas de advogados. Fica realmente difícil distinguir o verdadeiro do falso, podendo destruir a reputação ou a carreira de alguém.
Sem dúvida
Mesmo com a deepfake provada e comprovada, o fato de vivermos no mesmo universo das tias do zap (um tipo de Multiverso da Loucura 2.0), faz muita gente não acreditar que as vítimas dessas traquinagens sejam efetivamente inocentes. Nem São Tomé seria tão incrédulo quanto boa parte da opinião pública.
Sobre os efeitos pessoais, profissionais e políticos das deepfakes, podemos explicar através dos três conceitos básicos da semiótica. Antes que você pergunte o que isso significa, respondo: é o braço da comunicação que estuda todos os sinais visuais que nos cercam e o significado para o ser humano. Daquelas coisas que você aprende na faculdade e acha que não vai usar, mas vem a vida e te mostra o contrário.
Na semiótica, divide-se a compreensão das mensagens em três níveis: primeiridade, secundidade e terceiridade. Favor não confundir com “terceira idade”, certo?
Primeiridade é quando você vê algo pela primeira vez e leva aquela surpresa, seja boa ou ruim;
Na secundidade, você é confrontado novamente pelo mesmo fato. Ainda pode lhe causar estranheza, mas ok. Você já sabe o que é, e tá tudo bem.
A terceiridade é quando a coisa se tornou tão natural e banal que o seu cérebro já vai no “automático”. Ou seja, você nem repara mais naquilo. Por mais bizarro que seja.
É basicamente uma anestesia sensorial: você não presta atenção no caminho que faz do quarto para o banheiro, não é?
É por causa disto mesmo que às vezes chutamos algo com o mindinho, e saímos xingando pelo menos por três gerações algo que não era para estar lá. Mas seu cérebro não fez a menor questão de reparar. Para ele, estava tudo bem. Não estava?
Aqui vamos fazer o cruzamento perigoso da semiótica com publicidade. Propaganda, para ser mais exato.
Gênio do mal
Na primeira metade do século XX, uma das mais incríveis mentes publicitárias do planeta cunhou uma frase imortal: “uma mentira contada mil vezes se transformará em realidade”.
Mais ou menos isso, afinal a expressão original era em alemão e, para infelicidade da espécie humana, esta mente publicitariamente incrível estava a serviço do nazismo. Era o ministro da propaganda do Terceiro Reich, Joseph Goebbels. Para o desastre de meio mundo, deitou e rolou nesse conceito e, desafortunadamente, deixou um grande número de discípulos, inclusive nos dias de hoje, o que é de causar calafrios.
Mas, espera, que fim levaram nossas deepfakes, tema desta reportagem?
Esse é o problema. Elas não são fim. São meio. O meio perfeito para distorcer a realidade de modo crível, fáceis de ser transmitidas e retransmitidas pelas redes sociais (que certamente deixariam o ministro alemão orgulhoso e cheio de si). Se tornam tão comuns e arraigadas no dia-a-dia (olha nossa terceiridade aí) que ficam muito difíceis de contestar.
Cola e não descola
Ainda cabe um detalhe: por lei, existe o famoso direito de resposta, obrigação de retratação e outros recursos, quando se prova que alguém foi vítima de calúnia ou perjúrio, certo? Certíssimo.
Mas percebeu o quanto o impacto de uma “prova”, ainda que falsa, é dezenas de vezes maior que sua contraprova, por mais clara e evidente que esta seja?
Não exatamente que o público tenha memória fraca. É aquele efeito dos conceitos semiótica em ação. Uma vez que o público já “comprou” a notícia falsa, que o senso comum já normalizou como verdade, é muito mais difícil “vender” uma nova versão. Por mais lógica e honesta que seja.
O jogo começou
As cartas da eleição estão lançadas. Daqui até a data do pleito seremos expostos a uma quantidade incomensurável de abobrinhas temperadas com os mais agridoces venenos.
Caberá a nós não acreditar na primeira “verdade” que surgir, por mais saborosa que pareça. Procure. Confira. Cheque. Há dezenas de agências de fact checking na Internet, que prestam este serviço de utilidade pública de modo gratuito.
Pondere, antes de retransmitir qualquer notícia. Mesmo que possa atingir um determinado candidato ao qual você não tem nenhum apreço. Aliás, isso também é uma tremenda estratégia de campanha dos tempos modernos.
Cada vez que você compartilha algo demonstrando o absurdo que determinado político fez, está divulgando o nome do cidadão para dentro de públicos da sua bolha, onde possivelmente ele não teria penetração. É o famoso “falem mal, mas falem de mim”.
Esta é uma eleição onde nossos cérebros e estômagos serão postos à prova, como não foram em nenhuma outra. Usemos a inteligência, que é o que ainda nos resta.
Este artigo foi escrito por Arthur Ankerkrone e publicado originalmente em Prensa.li.