Como detectar um vídeo de troca de rostos “profundamente falsos”

Recentemente, o Reddit voltou a ser notícia com um subreddit no qual as pessoas usam uma ferramenta de aprendizado de máquina chamada “Deep Fake” para substituir automaticamente o rosto de uma pessoa por outro em um vídeo. Obviamente, como se trata da internet, as pessoas a estão usando para duas coisas: pornografia falsa com celebridades e inserir Nicolas Cage em filmes aleatórios.

Embora trocar o rosto de alguém em uma fotografia sempre tenha sido relativamente fácil , trocar o rosto de alguém em um vídeo costumava ser demorado e difícil. Até agora, isso só foi feito por estúdios VFX para filmes de grande orçamento de Hollywood, onde o rosto de um ator é trocado por seu dublê. Mas agora, com Deep Fake, qualquer pessoa com um computador pode fazer isso de forma rápida e automática.

Antes de prosseguir, você precisa saber como é um Deep Fake. Confira o vídeo SFW abaixo, que é uma compilação de diferentes trocas de rostos de celebridades, principalmente envolvendo Nic Cage.

O software Deep Fake funciona usando aprendizado de máquina. É treinado primeiro com uma cara-alvo. Imagens distorcidas do alvo são executadas através do algoritmo e ele aprende como corrigi-las para se parecerem com a face inalterada do alvo. Quando o algoritmo é alimentado com imagens de uma pessoa diferente, ele assume que são imagens distorcidas do alvo e tenta corrigi-las. Para obter vídeo, o software Deep Fake opera em cada quadro individualmente.

A razão pela qual Deep Fakes envolveu apenas atores é que há muitas imagens deles disponíveis de diferentes ângulos, o que torna o treinamento mais eficaz (Nicolas Cage tem 91 créditos de atuação no IMDB ). No entanto, dada a quantidade de fotos e vídeos que as pessoas publicam online e que você realmente só precisa de cerca de 500 imagens para treinar o algoritmo, não há razão para que pessoas comuns também não possam ser visadas, embora provavelmente com um pouco menos de sucesso.

Como detectar uma falsificação profunda

No momento, Deep Fakes são muito fáceis de detectar, mas ficará mais difícil conforme a tecnologia ficar melhor. Aqui estão alguns dos brindes.

Rostos de aparência estranha. Em muitos Deep Fakes, os rostos parecem estranhos. Os recursos não se alinham perfeitamente e tudo parece um pouco ceroso como na imagem abaixo. Se tudo mais parecer normal, mas o rosto parecer estranho, provavelmente é um Deep Fake.

Cintilando . Uma característica comum dos vídeos Deep Fake ruins é o rosto que parece piscar e os recursos originais ocasionalmente aparecem. Normalmente é mais óbvio nas bordas do rosto ou quando algo passa na frente dele. Se uma cintilação estranha acontecer, você está olhando para um Deep Fake.

Corpos diferentes. Deep Fakes são apenas trocas de face. A maioria das pessoas tenta obter uma boa combinação corporal, mas nem sempre é possível. Se a pessoa parece ser visivelmente mais pesada, mais leve, mais alta, mais baixa ou tem tatuagens que não têm na vida real (ou não tem tatuagens que têm na vida real), há uma boa chance de que seja falsa. Você pode ver um exemplo realmente óbvio abaixo, onde o rosto de Patrick Stewart foi trocado por JK Simmons em uma cena do filme Whiplash. Simmons é significativamente menor do que Stewart, então parece estranho.

Clipes curtos. No momento, mesmo quando o software Deep Fake funciona perfeitamente e cria uma troca de face quase indistinguível, ele só consegue fazer isso por um curto período de tempo. Em pouco tempo, um dos problemas acima começará a acontecer. É por isso que a maioria dos clipes Deep Fake que as pessoas compartilham têm apenas alguns segundos de duração, o resto da filmagem é inútil. Se você for mostrado um clipe muito curto de uma celebridade fazendo algo, e não há uma boa razão para ser tão curto, é uma pista de que é um Deep Fake.

Sem som ou sincronização labial inadequada. O software Deep Fake ajusta apenas as características faciais; não faz magicamente uma pessoa soar como outra. Se não houver som com o clipe, e não houver razão para não ser som, é outra pista que você está olhando para um Deep Fake. Da mesma forma, mesmo se houver som, se as palavras faladas não corresponderem corretamente aos lábios em movimento (ou se os lábios parecerem estranhos enquanto a pessoa fala, como no clipe abaixo), você pode ter um Falso Profundo.

Clipes inacreditáveis . Isso é quase desnecessário dizer, mas se você for mostrado um clipe realmente inacreditável, há uma boa chance de você não acreditar. Nicolas Cage nunca estrelou como Loki em um filme da Marvel. Isso seria legal, no entanto.

Fontes duvidosas. Como acontece com as fotos falsas, de onde o vídeo supostamente vem costuma ser uma grande pista sobre sua autenticidade. Se o New York Times está publicando uma matéria sobre isso, é muito mais provável que algo que você descubra em um canto aleatório do Reddit.

---

Por enquanto, Deep Fakes são mais uma curiosidade horrível do que um grande problema. Os resultados são fáceis de detectar e, embora seja impossível tolerar o que está sendo feito, ninguém ainda está tentando passar o Deep Fakes como vídeos genuínos.

À medida que a tecnologia fica melhor, no entanto, eles provavelmente serão um problema muito maior. Por exemplo, imagens falsas convincentes de Kim Jong Un declarando guerra aos EUA podem causar um grande pânico.