Hoje falaremos sobre o deepfake, que agora se tornou difundido e um fenômeno bastante comum. Graças a esta tecnologia, a manipulação da informação atingiu um novo patamar.
Você viu a rainha Elizabeth dançando na mesa durante a transmissão da mensagem de Ano Novo? Ou ouviu o discurso de Kim Jong-un sobre democracia, ou admirou Salvador Dali, que falou sobre sua morte (por que ele não acredita nela)?
Todos esses vídeos incríveis têm uma coisa em comum - eles são falsos. Deepfake é uma técnica de criação e publicação de informações falsas na forma de vídeos, áudios e fotos. Está cada vez mais fácil encontrar esses materiais, por isso preparamos para você uma instrução sobre como criar, reconhecer e pesquisar vídeos deepfake na Internet.
Leia também: Blockchains de amanhã: o futuro da indústria de criptomoedas em palavras simples
Deepfake - o que é?
Deepfake (Deepfake) é, na verdade, um material de foto, vídeo ou áudio que não é real, falso, ou seja, falso. Deepfake (combinação de duas palavras - deep learning "deep learning" e fake "fake") usa inteligência artificial (AI) para deep learning para criar a semelhança de uma pessoa com outra em vídeos e outros materiais de mídia digital. Ele é criado por algoritmos baseados em amostras reais de voz, som, vídeo ou foto que são costuradas. O algoritmo pega informações selecionadas de muitos lugares diferentes e as combina em um material. Como resultado, algo novo (falso) é criado, baseado em uma combinação de diferentes dados reais.
Mas isso não é tudo. O Deepfake também pode "pintar" uma foto do zero, por exemplo, criando os rostos de personagens que nunca existiram.
Qual é o objetivo de tais ações? Entre outras coisas, o Deepfake é usado para divulgar informações incorretas na Internet (por exemplo, sobre figuras ou eventos políticos), roubo (por exemplo, forjar comandos de voz) e criar pornografia (filmes com celebridades - deepfake porn). Também pode ser usado para fins educacionais e de entretenimento.
Leia também: Sobre computadores quânticos em palavras simples
Deepfake - Como funciona?
Em geral, existem duas maneiras de criar material deepfake. O primeiro método usa dois algoritmos. Primeiro, o primeiro (codificador) procura características comuns de duas imagens (aquelas a serem combinadas em uma), então o segundo (decodificador) pode transferi-las para a imagem recém-criada. Por exemplo, se queremos criar um vídeo em que um ator se mova como nós, o codificador pega o movimento do vídeo em que estamos dançando, e o decodificador já substituirá nosso rosto pelo rosto do ator e fará com que ele reproduza nossos movimentos . A chave aqui são as ações selecionadas que são copiadas para a nova imagem (por exemplo, movimentos, gestos, expressões faciais).
A segunda maneira é através de redes adversariais generativas (GANs), onde dois algoritmos trabalham juntos. O primeiro é chamado de gerador porque, usando informações gerais, cria imagens (por exemplo, a imagem de uma pessoa) que combinam suas características distintivas (uma pessoa tem um corpo, um rosto, olhos). O segundo algoritmo é um discriminador que avalia se as imagens dadas a ele pelo gerador são verdadeiras ou não.
Com o tempo, ambos os algoritmos se tornam mais avançados, então eles aprendem e se aprimoram. Se o gerador for treinado de forma que o discriminador não reconheça uma foto falsa (considerando-a real), o processo está completo.
Uma grande quantidade de software falsificado pode ser encontrada no GitHub, uma comunidade de código aberto para scripts, programas e código. Alguns desses programas são usados exclusivamente para fins de entretenimento, portanto, a criação de um deepfake não é proibida, no entanto, muitos deles também podem ser usados para fins criminosos.
Muitos especialistas acreditam que no futuro, com o desenvolvimento das tecnologias, os deepfakes se tornarão muito mais complexos e poderão criar ameaças mais sérias à sociedade, relacionadas à interferência em eleições, criação de tensão política e atividades criminosas.
Leia também:
- Observando o planeta vermelho: uma história de ilusões marcianas
- Teletransporte do ponto de vista científico e seu futuro
A ameaça do Deepfake - desde quando existe?
Pela primeira vez, essas informações falsas apareceram em 2017. Então o usuário é um alias deepfake publicou no Reddit vários filmes pornográficos em que estiveram envolvidas celebridades, incluindo Scarlett Johansson, Gal Gadot e Taylor Swift. Desde então, essa indústria vem se desenvolvendo rapidamente, porque quase qualquer pessoa pode fazer filmes deepfake.
https://youtu.be/IvY-Abd2FfM
Nos últimos anos, a tecnologia de deepfaking se desenvolveu tanto que agora é cada vez mais difícil determinar se é um vídeo fabricado ou uma gravação genuína de pessoas reais. Um exemplo pode ser um vídeo com uma mensagem de Elizabeth II ou um discurso de Barack Obama, que foi rapidamente publicado em diversos sites. O vídeo com a declaração do ex-presidente norte-americano abordou as ameaças globais que podem ser causadas por desinformação e notícias falsas publicadas na internet. No material publicado pelo canal BuzzFeedVideos, o diretor e ator americano Jordan Peele se tornou a voz do 44º presidente dos Estados Unidos. No entanto, atualmente a inteligência artificial já é capaz de gerar uma voz baseada em gravações de arquivo de uma pessoa que deveria aparecer em um filme falso.
Essas tecnologias avançadas podem se tornar uma ferramenta perigosa nas mãos de cibercriminosos e fraudadores da Internet no futuro. A publicação de vídeos falsos de discursos de políticos importantes pode causar danos reais em nível internacional. Esses filmes, baseados em tecnologia deepfake, podem causar conflitos e escândalos diplomáticos e, portanto, influenciar a opinião pública e o comportamento das pessoas.
Outra ameaça potencial é o conteúdo adulto, que sempre gerou mais tráfego no espaço virtual. Não é de admirar que a tecnologia deepfake tenha chegado à Internet tão rapidamente. De acordo com um relatório da empresa holandesa de segurança cibernética Deeptrace, 96% dos vídeos fabricados criados usando a tecnologia deepfake são conteúdos sobre esses tópicos. Na maioria das vezes, as imagens de estrelas de cinema, atletas e até políticos e representantes do governo são usadas para a produção desses materiais.
Leia também: Por que uma missão espacial não pode voar a qualquer momento: O que é uma janela de lançamento?
Como fazer um deepfake?
Se alguém pode fazer vídeos deepfake, eles também podem ser feitos em casa? Definitivamente sim, mas sua qualidade, é claro, não será perfeita. Criar esses vídeos requer grandes recursos de computação e placas de vídeo poderosas. Aqueles que normalmente temos em computadores domésticos não são suficientes, e o próprio processo de desenvolvimento pode durar semanas. A qualidade dos filmes também deixará muito a desejar - haverá erros visíveis, movimentos da boca podem não corresponder ao som, haverá lugares visíveis onde o conteúdo "antigo" se sobrepõe ao "novo".
No entanto, se quisermos "retocar" levemente uma foto ou fazer um vídeo deepfake curto, o programa para isso pode ser baixado diretamente no smartphone. O programa muito fácil de usar eliminará em poucos minutos as falhas de aparência, transformará você na celebridade escolhida ou permitirá que seu cão fale com uma voz humana.
Leia também:
- Observando o planeta vermelho: uma história de ilusões marcianas
- Teletransporte do ponto de vista científico e seu futuro
Como reconhecer um deepfake?
Vídeos de deepfake profissionais estão ficando cada vez mais difíceis de detectar. No início, os algoritmos tiveram problemas com o comportamento básico (como piscar os olhos), e ficou imediatamente claro que o filme era falso. Este erro já foi corrigido. Os personagens falsos piscam, se movem naturalmente e falam fluentemente. No entanto, às vezes eles ainda têm problemas com o movimento natural dos olhos.
Então, como identificar um deepfake? Aqui está o que você deve prestar atenção ao assistir ao vídeo:
- O som acompanha os movimentos da boca? Às vezes, eles não combinam, e a pessoa no vídeo move os lábios com um atraso em relação ao som ou articula as palavras incorretamente.
- Todos os tipos de fenômenos que parecem não naturais. Estamos falando aqui, entre outras coisas, da posição de todo o corpo ou da cabeça em relação ao tronco, reflexão incorreta da luz em objetos, reflexão incorreta da luz em joias, etc. Uma cor de pele não natural também pode ser um sinal de que o filme é falso.
- Qualidade de áudio e vídeo. A diferença entre eles ajudará a detectar um deepfake. Geralmente a trilha sonora é de qualidade inferior.
- Irregularidades de imagem. Na maioria das vezes, eles aparecem na junção do corpo e da cabeça. Quando a cabeça de uma celebridade está "colada" a outro corpo, pode aparecer um borrão na área do pescoço. Às vezes, há saltos de quadro (intermitência) e erros de quadro (diferente ângulo de luz, tipo ou direção).
- Alterar a hashtag durante o vídeo também pode significar que temos um vídeo deepfake.
Ao visualizar materiais do ponto de vista do deepfake, também vale a pena confiar em seus próprios sentimentos. Às vezes temos a impressão de que algo está "errado". Isso acontece, entre outras coisas, quando as emoções da pessoa retratada na tela não correspondem ao que a expressão facial ou tom de voz nos mostra. Isso também sugere que o vídeo pode ter sido falsificado.
Também interessante:
- 10 coisas mais estranhas que aprendemos sobre buracos negros em 2021
- Terraformação de Marte: o Planeta Vermelho poderia se transformar em uma nova Terra?
Como se proteger do deepfake?
Para evitar um golpe falso profundo, os especialistas aconselham seguir estas etapas:
- Crie uma palavra ou slogan secreto com seus entes queridos, como familiares ou colegas, que comprovarão a realidade da situação com um vídeo ou gravação. Isso permitirá que você verifique rapidamente a falsidade da situação e evite, por exemplo, extorsão de dinheiro.
- Acerte com parentes ou colegas uma lista de informações que nunca serão questionadas por meio de mensagens, por exemplo, em redes sociais ou SMS. É imperativo que todas as partes interessadas sejam informadas da verdadeira extensão do perigo.
- Implementação de canais de autenticação multifator para verificar cada solicitação. Se a comunicação começar com uma mensagem de texto, a forma mais segura de confirmar a informação é entrar em contato com o remetente da mensagem em forma de conversa através de um canal de comunicação seguro e pré-acordado.
- Melhoria contínua da competência de segurança, por exemplo, na forma de treinamento de pessoal em segurança e crimes cibernéticos. Aumentar a conscientização sobre o que é deepfake e como combater essa ameaça.
- Suporte e desenvolvimento de sistemas de segurança em ambientes de tecnologia da informação e comunicação (TIC).
Onde você pode encontrar um deepfake?
O material falso pode ser encontrado sempre que puder atingir um grande público, ou seja, o público potencial do deepfake. Facebook, Instagram, TikTok e outros sites de mídia social estão cheios desse tipo de coisa.
Estes não são apenas vídeos incríveis, mas também fotos e gravações de áudio "refinadas". Alguns dos perfis autênticos de celebridades às vezes foram completamente preenchidos com coisas deepfake!
Este não é o único lugar onde você pode encontrar um deepfake. Um aplicativo para smartphone também é baseado nessa tecnologia, que permite adicionar bigode e barba ou outros efeitos especiais a uma foto (por exemplo, envelhecer várias décadas). Portanto, pode acontecer que a última foto que você recebeu de seus amigos esteja um pouco "desenhada".
Também interessante:
- Por que as estrelas brilham?
- Por que as naves espaciais estão equipadas com processadores do século 20
Filmes deepfake não são apenas pornográficos
O uso de deepfake pode ser tanto positivo quanto negativo. Os filmes deepfake podem ser divertidos ou divertidos. Aqui devemos mencionar o vídeo da Rainha Elizabeth dançando sobre a mesa durante a mensagem de Ano Novo. Esse também é o objetivo da maioria das modificações de fotos que fazemos com o app deepfake em nossos smartphones. Deve ser engraçado e divertido.
Os materiais deepfake também podem desempenhar um papel educacional, por exemplo, "ressuscitar" artistas, cantores ou músicos já falecidos. Alguns museus, em especial, o Museu Salvador Dali, na Flórida, utilizam essa tecnologia, onde os visitantes são “apresentados” com suas obras pelo próprio artista, com quem você pode conversar e até tirar fotos.
A tecnologia Deepfake é usada em geradores de voz - dispositivos projetados para pessoas que perderam a capacidade de falar. Graças a eles, essas pessoas ainda podem falar conosco com sua própria voz. A voz de Val Kilmer, que ele perdeu para o câncer de laringe, foi modelada em Top Gun: Maverick.
Infelizmente, também temos muitos exemplos de usos negativos de deepfaking. A política é um exemplo em que esse tipo de informação falsa pode ter consequências globais de longo alcance, como desacreditar figuras públicas, influenciar o mercado de ações, a economia ou os resultados das eleições, ou até mesmo a condução da guerra em uma guerra. Um registro bem elaborado facilita a manipulação da opinião pública. O desenvolvimento progressivo das tecnologias tornará ainda mais difícil distinguir materiais reais de falsificações. Portanto, este é um passo para a queda da confiança social e do caos informacional.
Os vídeos deepfake, como já mencionamos, são muito difundidos na indústria pornográfica. Na maioria das vezes, as mudanças consistem em substituir o rosto da atriz/ator pornô pelo rosto de celebridades ou estrelas de cinema, claro, sem o seu consentimento.
Leia também: Missões espaciais tripuladas: por que o retorno à Terra ainda é um problema?
Deepfake é uma ameaça real para todos nós
Deepfake não é apenas um problema para atores e políticos. Qualquer pessoa pode ser afetada por conteúdo falso. Um elemento de chantagem e extorsão pode ser um vídeo fabricado em que cometemos um crime ou entramos em uma situação ambígua - ou você paga ou nós revelamos. Se você trabalha em negócios, deve entender que existe o perigo de usar deepfake para desacreditar a empresa entre suas contrapartes.
O aumento da quantidade de material manipulativo também pode afetar a confiança social e a confiança nas informações fornecidas. Como você pode acreditar em qualquer coisa quando um filme que é prova em um tribunal pode ser falso e as notícias relatam eventos inexistentes?
A tecnologia que permite criar uma imagem, gravação de áudio ou filme malicioso cujos personagens se assemelham a outras pessoas é um novo nível de ameaça dos cibercriminosos. Especialmente devido ao fato de que nas redes sociais eles podem extrair recursos quase ilimitados de material de origem para criar deepfakes.
O software de aprendizado de máquina pode pesquisar o Facebook або Instagram, por exemplo, e capture fotos ou vídeos interessantes de "atores" em potencial. Com base nisso, pode-se criar uma voz, imagem e vídeo muito claros da pessoa, mas com um apelo falso especialmente criado que simula, por exemplo, estar em sérios apuros - como vítima de um sequestro ou acidente. Na etapa seguinte, é gerado um pedido de ajuda falso, por exemplo financeiro, dirigido aos familiares da “vítima”.
Leia também: Telescópio Espacial James Webb: 10 alvos para observar
A luta contra o deepfake
O fluxo de informações falsas é tão grande que muitas redes sociais decidiram lutar contra os deepfakes. Facebook і Twitter tente detectar vídeos falsos e excluí-los automaticamente. Grandes corporações (incluindo Microsoft ou Amazon) estão investindo em software que detectará conteúdo falso. Os cientistas também estão trabalhando em uma solução para esse problema.
No entanto, em uma situação em que um aplicativo de smartphone é suficiente para criar um filme falso, combater um deepfake é como lutar contra moinhos de vento. Também não existem normas legais que determinem as consequências de manipular informações ou usar a imagem de outra pessoa dessa forma.
Deepfake está se tornando cada vez mais popular, e é cada vez mais difícil distingui-lo da verdade. Isso se deve ao aprimoramento de tecnologias que podem imitar melhor os movimentos e gestos humanos. Os deepfakes podem ser usados para bons propósitos, como criar materiais educativos ou ajudar pessoas que perderam a voz após uma cirurgia de laringe, mas também são uma ferramenta para hackers, chantagistas e trolls da internet.
Então, se você se deparar com um vídeo incrível novamente na Internet, primeiro verifique se ele às vezes é modificado ou falso. Talvez o que você está olhando nunca foi na realidade!
Leia também:
- 100 anos de física quântica: das teorias da década de 1920 aos computadores
- 5 futuras missões espaciais para pensar
No entanto, não se esqueça que há uma guerra acontecendo na Ucrânia. Se você quer ajudar a Ucrânia a combater os ocupantes russos, a melhor maneira de fazer isso é doar para as Forças Armadas da Ucrânia através Salva vida ou através da página oficial NBU.