Com a digitalização, a sofisticação das fraudes digitais também aumenta, tornando essencial compreender como o deepfake afeta a credibilidade das tecnologias de identificação.
Neste artigo, vamos explorar:
- O que é deepfake?
- Como o deepfake funciona?
- Tipos de deepfake;
- Quais são as ameaças apresentadas pelo deepfake?
- Como os deepfakes afetam empresas?
- A tecnologia de reconhecimento facial é afetada pelo deepfake?
- Como identificar um deepfake?
- Como se proteger de deepfakes?
E muito mais. Vamos nessa?
O que é deepfake?
Deepfakes são mídias visual e auditivamente manipuladas, onde rostos em imagens ou vídeos são alterados para se parecerem com outras pessoas. Essa tecnologia também se aplica a áudios, modificando vozes para enganar os ouvintes.
É fato que fraudadores têm encontrado mais facilidade e rapidez para utilizar essa técnica em golpes. Isso é alarmante, pois diferenciar um deepfake de um conteúdo autêntico pode ser uma tarefa extremamente difícil.
Como o deepfake funciona?
A base para o deepfake são os sistemas de Inteligência Artificial, além dos GANs (Generative Adversarial Networks, ou rede adversária generativa, em português). O desenvolvimento dessa tecnologia disponibiliza diversos recursos que permitem que fraudadores criem um deepfake em segundos, como:
- Softwares de códigos abertos (open source): São softwares que estão disponíveis gratuitamente para qualquer pessoa, que pode acessar, modificar e compartilhar o modelo;
- Aplicativos de IA gratuitos;
- Tutoriais online.
A principal técnica usada na produção de deepfakes é o deep learning – aprendizagem profunda, em português – que consiste em um sistema de análise de dados que vai treinando e aprendendo consigo mesmo ao longo do processo.
Por se tratar de uma operação de análise de dados, a criação de um deepfake depende da montagem de um banco de dados da pessoa que terá o rosto copiado. Uma vez formado, esse banco será analisado por um software de código aberto que, juntamente com um sistema de IA, permite que os movimentos dos olhos, boca e face sejam copiados e alterados.
O que são GANs?
O Generative Adversarial Network (Rede Adversária Generativa) é um sistema de aprendizagem. Ele é composto por duas redes que competem entre si para criar novos dados que sejam o mais realistas possível.
Essas redes são adversárias porque envolvem o treinamento de duas operações que estão em oposição uma à outra. Uma rede, a geradora, cria novos dados a partir de um conjunto de dados de treinamento. A outra rede, chamada discriminadora, tenta determinar se os dados gerados fazem parte do conjunto de dados original.
Essa arquitetura é capaz de realizar diversas tarefas, como gerar imagens a partir de instruções de texto, ou modificar imagens existentes.
Exemplos de deepfake
Nos últimos anos, os casos de deepfake vem ganhando notoriedade, e alguns exemplos recentes comprovam a relevância que essa tecnologia tem tomado. Debates sobre privacidade, responsabilidade e propriedade intelectual vem se tornando cada vez mais comuns no meio digital, evidenciando a presença e os impactos da Inteligência Artificial no cotidiano da sociedade.
Em 2023, uma imagem do Papa Francisco vestindo um casaco de marca viralizou nas redes sociais, e logo depois a foto foi denunciada como sendo falsa, produzida por IA. Outro exemplo aconteceu em 2019, quando um deepfake do presidente executivo da Meta, Mark Zuckerberg, falando sobre dominar o mundo foi publicado no Instagram.
Tipos de deepfake
Existem quatro tipos de deepfake. São eles:
- Deepfake de texto: Quando textos falsos são criados, aparentando terem sido escritos por uma pessoa de verdade;
- Deepfake de redes sociais: Quando perfis falsos são criados na internet;
- Deepfake de voz: Quando um software especializado cria áudios falsos;
- Deepfake em tempo real: Quando o rosto de alguém é alterado em uma transmissão ao vivo.
Quais são as ameaças apresentadas pelo deepfake?
A propagação de deepfake pode causar danos irreversíveis à reputação de indivíduos e organizações, influenciando negativamente relacionamentos e carreiras.
Políticos, celebridades, figuras públicas e até mesmo pessoas comuns podem ser vítimas de manipulações mal-intencionadas, comprometendo seriamente sua credibilidade e suas relações pessoais e profissionais. Algumas das ameaças apresentadas pelo deepfake incluem:
Aumento dos ataques de phishing
Ataques de engenharia social aumentam com a tecnologia de deepfake, possibilitando que mais pessoas caiam em algum tipo de golpe onde o fraudador induz a vítima a tomar alguma decisão arriscada, como é no caso dos golpes de phishing.
Phishing, um termo que lembra a palavra “pescar” em inglês (fishing), é a técnica de fraude onde os golpistas fingem ser empresas ou indivíduos confiáveis. Disfarçados como entidades legítimas, eles utilizam táticas de manipulação para enganar as vítimas e fazê-las clicar em links que levam a sites maliciosos que roubam suas informações.
Desinformação
Em um primeiro momento, é muito difícil diferenciar um deepfake de um material legítimo, o que aumenta a possibilidade do compartilhamento de fake news. Imagens ou vídeos que apresentam conteúdos falsos podem ser republicados milhares de vezes, sendo vistos por muitas pessoas em pouquíssimo tempo.
Dessa forma, os deepfakes podem espalhar informações falsas e influenciar a opinião pública em relação ao assunto retratado no material, o que, além da disseminação de informações errôneas, também causa graves consequências para as vítimas.
Impacto psicológico e emocional
Os ataques de deepfake podem causar consequências duradouras para a saúde mental das vítimas. Diagnósticos de ansiedade e depressão são comuns em pessoas que tiveram sua privacidade invadida, além do medo constante de estarem vulneráveis para outro ataque.
Criação de pessoas virtuais
Além de manipularem imagens de celebridades ou figuras políticas, os deepfakes também conseguem produzir materiais de uma pessoa que não existe. Esses personagens podem ser usados para os mais variados fins, como criação de bots ou aberturas de contas bancárias.
Criação de álibis e provas falsas
Investigações criminosas também podem ser afetadas por deepfakes. Com essa tecnologia, criminosos podem criar vídeos ou imagens para comprovar um álibi que não existe, além de também conseguirem produzir testemunhos falsos que irão atrapalhar o processo e até mesmo a ação judicial.
Perdas financeiras
Atualmente, o histórico e reputação online de alguém é imediatamente traduzido para como essa pessoa é vista no mundo offline. Se a imagem de alguém é manchada por um golpe de deepfake, isso pode afetar sua credibilidade e carreira, tornando desafiante a procura ou manutenção de emprego.
Além disso, ataques de deepfake em aplicativos bancários estão se tornando cada vez mais comuns, com fraudadores produzindo materiais para conseguirem acesso às contas das vítimas e seus dados financeiros.
Como identificar um deepfake?
Existem algumas formas de identificar um vídeo, foto ou áudio irreal, como: Movimentação dos olhos e face, aparência do cabelo e borrões e desalinhamentos de imagem.
Explicando melhor:
- Movimentação dos olhos e face: Procure por movimentos estranhos, ou expressões que não condizem com a situação apresentada;
- Aparência do cabelo: Um deepfake não consegue simular o movimento natural dos fios de cabelo, dando a ele um impressão de engessado. Repare se os fios parecem estar rígidos ou lisos demais;
- Borrões e desalinhamentos na imagem: Ao observar o rosto no material, note se os pescoço e o rosto estão desalinhados ou com uma aparência borrada.
Além disso, no caso de vídeos, você pode assistir ao material em uma velocidade reduzida, o que irá mostrar trechos que foram alterados. Para imagens, uma busca no Google pode revelar a existência de imagens bem similares ou até iguais às do material adulterado.
Como os deepfakes afetam empresas?
Além de celebridades e figuras públicas, ataques de deepfake podem ter empresas como alvo. Sendo assim, além da reputação e imagem da marca, um deepfake pode prejudicar financeiramente uma empresa, sem contar com a violação de dados dos clientes.
As empresas já estão percebendo a importância de investir na segurança. Em 2023, 71% das empresas estavam planejando adotar, complementar ou substituir sua tecnologia de integração em 2023.
Isso evidencia a necessidade de um brand safety bem preparado, onde as empresas percebem a instância de realizarem boas parcerias e usarem tecnologia de prevenção a fraudes em suas operações.
Como a tecnologia de reconhecimento facial é afetada pelo deepfake?
A tecnologia de deepfake está entrelaçada com a de reconhecimento facial. Por um lado, ambas as tecnologias estão dentro de um cenário onde a Inteligência Artificial cresce exponencialmente, o que apresenta diversas oportunidades para ambas operações.
Por outro lado, deepfakes são muito mais fáceis de serem fabricados do que um sistema robusto de reconhecimento facial. De acordo com o relatório da KPMG, mais de mil modelos de IA podem criar um deepfake, mas menos de 3% desses modelos conseguem detectar um.
Um deepfake pode tentar acessar ambientes protegidos por sistemas de reconhecimento facial, o que é especialmente preocupante para sistemas de segurança que dependem do reconhecimento facial para autorizações de acesso e autenticação.
As tecnologias de reconhecimento facial são frequentemente usadas em contextos financeiros e comerciais, ressaltando a importância das empresas instalarem um sistema de segurança confiável, que conte com uma tecnologia de reconhecimento facial apta para lidar com a ameaça de deepfakes.
Qual o futuro do deepfake?
A tendência dos deepfakes é que, nos próximos anos, essa tecnologia tenha um aumento significativo em sua utilização para fraudes e crimes cibernéticos. A aplicação de deepfakes já transformou profundamente o cenário de fraudes, afetando indivíduos e empresas de maneira ampla e devastadora.
Um número reduzido de fraudadores é capaz de conduzir milhares de ataques, criando rapidamente diversas identidades falsas com deepfakes. Isso facilita a execução de crimes em larga escala. A capacidade dos deepfakes de imitar vozes e aparências de pessoas conhecidas torna esses golpes ainda mais difíceis de detectar e prevenir.
A situação é especialmente alarmante no Brasil, que lidera em casos de deepfakes de 2023, representando quase metade dos incidentes reportados na América Latina. A taxa de crescimento desse tipo de fraude no Brasil é superior a 410%, indicando uma tendência preocupante de aumento.
Sendo assim, destaca-se a necessidade de desenvolver tecnologias de detecção de fraude mais robustas, além de implementar regulamentações eficazes e medidas de segurança aprimoradas para combater essa ameaça emergente.
Como se proteger de deepfakes?
Existem algumas medidas que tanto pessoas físicas quanto jurídicas podem tomar para se proteger contra deepfakes, sendo estas iniciadas pela identificação de um deepfake. Sempre que receber um conteúdo suspeito, analise-o várias vezes, buscando pelos pontos de atenção mencionados anteriormente.
Manter-se atento e informado também é uma arma poderosa contra os ataques de deepfake. Sempre denuncie conteúdos deepfake às plataformas e até mesmo autoridades quando necessário. Eduque-se continuamente sobre as possibilidades e riscos dos deepfakes, além das aplicações recentes que estão sendo desenvolvidas.
Para as empresas, é crucial utilizar sistemas antifraude, como autenticação biométrica e multifator, que dificultam o uso de deepfakes em fraudes. A criptografia é essencial para proteger conteúdos reais contra alterações, sendo muito importante em transações financeiras.
Implementar verificações automáticas em processos sensíveis, como retiradas de fundos, pode prevenir fraudes ao identificar e bloquear transações suspeitas rapidamente.
Adotar uma abordagem de “confiar, mas sempre verificar” e manter boas práticas de segurança cibernética, como backups regulares e o uso de senhas fortes e únicas, é fundamental para prevenir acessos não autorizados e proteger dados sensíveis.
Tanto indivíduos quanto corporações devem estar atentos ao phishing, evitando acessar sites ou aplicativos suspeitos e verificando sempre a fonte original das publicações, especialmente de marcas ou celebridades.
Como o reconhecimento facial pode ajudar?
O reconhecimento facial pode ajudar na proteção contra deepfakes de várias maneiras, e quando mais desenvolvido um sistema, maiores as chances de sucesso. Por essa razão, é crucial que a empresa escolhida para implantar a tecnologia seja cuidadosamente selecionada.
A proteção contra ataques de deepfake da QI Tech utiliza tecnologias avançadas como biometria facial e liveness para garantir que a pessoa apresentada é de fato a pessoa real e não uma reprodução manipulada, como um deepfake. O nosso reconhecimento facial foi desenvolvido pensando na proteção contra fraude, e é composto por três etapas.
Na primeira etapa, a captação, a tecnologia detecta e coleta dados faciais do usuário, utilizando o Liveness para assegurar que a pessoa está realmente presente e viva, prevenindo fraudes de identidade.
Na segunda etapa, chamada de análise, a biometria facial analisa características únicas do rosto, como a distância entre os olhos e o formato da boca, codificando essas informações em uma sequência numérica armazenada em um banco de dados seguro.
Por fim, na terceira e última etapa – o reconhecimento – essas informações são comparadas com uma vasta base de dados de faces, que contém mais de 140 milhões de faces registradas, permitindo uma identificação precisa e segura.
Esse processo não só impede que deepfakes acessem dados sensíveis e privados, mas também assegura que diversas outras tentativas de fraude sejam detectadas e bloqueadas.
O sistema de reconhecimento facial da QI também é integrado a outras soluções de segurança, como o device scan, que analisa o dispositivo do usuário para detectar aplicativos suspeitos ou dispositivos previamente comprometidos, garantindo uma camada adicional de proteção.
Assim, o reconhecimento facial torna-se uma ferramenta crucial na luta contra deepfakes, proporcionando uma autenticação segura e confiável, essencial para manter a integridade das operações financeiras.
O reconhecimento facial da QI Tech
A QI Tech tem um sistema de antifraude robusto que previne fraudes e garante conformidade regulatória. Um elemento central desse sistema é o reconhecimento facial avançado, que capta, analisa e compara dados faciais dos usuários utilizando biometria facial, liveness e técnicas anti-spoofing.
Essas tecnologias asseguram que os serviços financeiros sejam utilizados de maneira segura e legítima, protegendo tanto empresas quanto seus clientes contra fraudes e deepfakes.
