Como lidar com deepfakes indetectáveis

Deepfakes possibilitam replicar a voz e a aparência das pessoas. Um criador de deepfake pode fazer essa réplica dizer ou fazer quase qualquer coisa. Pior ainda, está se tornando quase impossível identificar um deepfake. Como você pode lidar com isso?

Deepfakes em poucas palavras

Deepfakes são nomeados após a tecnologia de aprendizado profundo, um tipo específico de método de aprendizado de máquina que usa redes neurais artificiais. O aprendizado profundo é uma parte importante de como a “visão de máquina” funciona. Esse é o campo da inteligência artificial que permite que sistemas de computador, por exemplo, reconheçam objetos. A tecnologia de visão de máquina torna tudo possível, desde carros autônomos até filtros do Snapchat .

Um deepfake é quando você usa essa tecnologia para trocar o rosto de uma pessoa por outra em um vídeo. A tecnologia Deepfake agora também pode ser aplicada a vozes, para que o rosto e a voz de um ator em um vídeo possam ser alterados para outra pessoa.

Deepfakes costumavam ser fáceis de detectar

Nos primeiros dias, era trivial identificar um deepfake. Semelhante a uma figura de cera de celebridade, qualquer um que olhasse para uma poderia sentir que algo estava errado. Com o passar do tempo, os algoritmos de aprendizado de máquina melhoraram pouco a pouco.

Hoje, os deepfakes de alta qualidade são bons o suficiente para que os espectadores médios não percebam, especialmente quando os vídeos são um pouco mascarados pela natureza de baixa fidelidade do compartilhamento de vídeos nas redes sociais. Mesmo os especialistas podem ter dificuldade em distinguir os melhores deepfakes de imagens reais a olho nu. Isso significa que novas ferramentas devem ser desenvolvidas para detectá-los.

Usando IA para detectar deepfakes

Em um exemplo do mundo real de luta com fogo com fogo, os pesquisadores criaram um software de IA próprio que pode detectar vídeos deepfake, mesmo quando os humanos não conseguem. Pessoas inteligentes do MIT criaram o projeto Detect Fakes para demonstrar como esses vídeos podem ser detectados.

Portanto, embora você não consiga mais ver esses vídeos deepfake de olho, podemos ficar tranquilos com o fato de que existem ferramentas de software que podem fazer o trabalho. Já existem aplicativos que afirmam detectar deepfakes para download. Deepware  é um exemplo e, à medida que a necessidade de mais detecção de deepfake aumenta, temos certeza de que haverá muito mais.

Então, problema resolvido? Não exatamente! A tecnologia para criar deepfakes está agora competindo com a tecnologia para detectá-los. Pode chegar um ponto em que os deepfakes se tornem tão bons que até mesmo o melhor algoritmo de detecção de IA não estará muito confiante de que um vídeo é falso ou não. Ainda não chegamos lá, mas para a pessoa comum que simplesmente navega na web, talvez não precisemos estar nesse ponto de avanço do deepfake para que isso seja um problema.

Como lidar com um mundo de deepfakes

Então, se você não pode dizer com segurança se um vídeo que você vê, por exemplo, o presidente de um condado é real, como você pode ter certeza de que não será enganado?

O fato é que nunca foi uma boa ideia usar uma única fonte de informação como sua única fonte. Se for sobre algo importante, você deve verificar várias fontes independentes que relatam as mesmas informações, mas não do material potencialmente falso.

Mesmo sem a existência de deepfakes, já é crucial que os usuários na internet parem e validem informações importantes relacionadas a áreas temáticas como política governamental, saúde ou eventos mundiais. Obviamente é impossível corroborar tudo, mas quando se trata de coisas importantes, vale a pena se esforçar.

É especialmente importante não passar um vídeo a menos que você tenha quase 100% de certeza de que é real. Deepfakes são apenas um problema porque são compartilhados de forma acrítica. Você pode ser aquele que quebra parte dessa cadeia de viralidade. Afinal, é preciso menos esforço para não enviar um vídeo potencialmente falso do que compartilhá-lo.

Além disso, você não precisa do poder de uma IA de detecção de deepfake para suspeitar de um vídeo. Quanto mais ultrajante for um vídeo, maior a probabilidade de ser falso. Se você vir um vídeo de um cientista da NASA dizendo que o pouso na lua foi falso ou que seu chefe é um lagarto, isso deve imediatamente levantar uma bandeira vermelha.

Não confies em ninguém?

Ser completamente paranóico que tudo o que você vê ou ouve em um vídeo é possivelmente falso e destinado a enganar ou manipular você de alguma forma é um pensamento assustador. Provavelmente também não é uma maneira saudável de viver! Não estamos sugerindo que você precise se colocar em tal estado de espírito, mas sim que você deve repensar a credibilidade das evidências de vídeo ou áudio.

A tecnologia Deepfake significa que precisamos de novas maneiras de verificar a mídia. Há, por exemplo, pessoas trabalhando em novas formas de marcar vídeos com marca d’água para que nenhuma alteração possa ser ocultada . Quando se trata de você como um usuário normal da internet, no entanto, a melhor coisa que você pode fazer é errar do lado do ceticismo. Suponha que um vídeo possa ter sido totalmente alterado até que seja corroborado por uma fonte primária, como um repórter que entrevistou o sujeito diretamente.

Talvez a coisa mais importante seja que você deve simplesmente estar ciente de quão boa é a tecnologia deepfake hoje ou será no futuro próximo. O que, como você chegou ao final deste artigo, você definitivamente é.