Você recebe um vídeo do seu chefe pedindo uma transferência urgente. A voz é idêntica. O rosto é idêntico. Os trejeitos, o jeito de falar, até a iluminação do escritório — tudo bate. Só que não era ele. Era um deepfake. E a empresa perdeu US$25 milhões. Isso aconteceu em Hong Kong, em 2024. O funcionário participou de uma videoconferência com o “CFO” e outros “colegas” — todos deepfakes. Era só ele de verdade na chamada.
Como deepfakes são feitos
A tecnologia se chama GAN — Generative Adversarial Network (Rede Generativa Adversarial). São duas redes neurais brigando: uma tenta criar imagens falsas (o “falsificador”), a outra tenta detectar quais são falsas (o “detetive”). Elas treinam uma contra a outra milhões de vezes, e a qualidade sobe exponencialmente. O falsificador aprende a criar rostos cada vez mais convincentes. O resultado é um vídeo onde o rosto de uma pessoa é sobreposto ao corpo de outra com precisão assustadora.
Hoje, com modelos de difusão (a mesma tecnologia por trás do Stable Diffusion e Midjourney), deepfakes ficaram acessíveis pra qualquer um. Em 2023, o número de deepfakes online cresceu 550%. A maioria é pornografia não-consensual (96% dos deepfakes, segundo a Sensity AI, são pornográficos, e 99% das vítimas são mulheres). Mas os deepfakes de áudio estão crescendo mais rápido — clonagem de voz com 3 segundos de áudio já é possível.
Os riscos reais
Fraude financeira (o caso de Hong Kong não é isolado). Desinformação política (um deepfake do presidente Zelensky “se rendendo” circulou em 2022). Extorsão e chantagem. Destruição de reputação. E o mais insidioso: o “dividendo do mentiroso” — quando deepfakes são tão comuns que qualquer pessoa pode alegar que um vídeo real é falso. Se tudo pode ser fake, nada precisa ser verdade.
Como detectar
Olhe para os olhos — deepfakes frequentemente têm reflexos inconsistentes entre os dois olhos (luzes que não batem). Observe o piscar — piscadas antinaturais ou ausentes. Verifique as bordas do rosto — artefatos de fusão. Verifique o áudio — sincronização labial ligeiramente errada. Mas a melhor defesa é contextual: essa pessoa diria isso? Isso faz sentido vindo dela? Se um vídeo parece bom demais pra ser verdade, confira fontes oficiais antes de compartilhar. E ative autenticação de dois fatores nas suas contas — o deepfake explora confiança, mas senhas boas e 2FA ainda seguram a porta.
Deixe um comentário