Organização criminosa é presa responsável pelo 1º caso de deepfake no Amazonas

A Polícia Civil do Amazonas (PC-AM), por meio do 1º Distrito Integrado de Polícia (DIP), apresenta, nesta quinta-feira (11/09), os resultados da Operação Holograma, que culminou na prisão de três integrantes de uma organização criminosa responsável por golpes milionários utilizando “plásticas digitais” por meio de Inteligência Artificial (IA). Este é o primeiro caso registrado no Amazonas envolvendo clonagem de biometria facial.

As prisões ocorreram em três estados, com o apoio do Grupo de Operações Especiais (GOE), da Delegacia de Investigações Gerais (DIG) e da Divisão Especializada de Investigações Criminais (DEIC) da Polícia Civil de São Paulo (PC-SP), em Ribeirão Preto (SP), além da colaboração da Delegacia Regional da Polícia Civil de Uberlândia (MG).

O que é um Deepfake?

São imagens ou vídeos gerados por IA para produzir conteúdo altamente realista.

Como são feitos os deepfakes?

O aprendizado profundo é um método avançado de Inteligência Artificial (IA) que usa múltiplas camadas de algoritmos de aprendizado de máquina para extrair recursos de nível progressivamente mais alto da entrada bruta.

O método consegue promover a aprendizagem com base em dados não estruturados, como o rosto humano.

Esses dados são processados para criar um vídeo Deepfake por meio de uma GAN (Generative Adversarial Network) – um sistema especializado em aprendizado de máquina. Duas redes neurais são usadas para competirem entre si na aprendizagem das características de um conjunto de dados de treinamento (como fotografias e rostos, por exemplo).

Em seguida, elas geram novos dados, com base nas características aprendidas (novas “fotografias“).

À medida que a rede testa as imagens criadas em relação ao conjunto de treinamento, as imagens, vídeos e áudios falsos se tornam mais convincentes.

Isso torna o Deepfake uma ameaça ainda mais potente, pois eles podem utilizar técnicas de sintetização para replicar vozes.

Outro método para criar deepfakes é usar a arquitetura de autocodificador. Uma rede neural autocodificadora é projetada para codificar dados (como uma imagem) em uma representação latente de dimensão inferior (ou seja, em vetores matemáticos em vez de pixels), compactar os dados e então reconstruir os mesmos dados na outra extremidade do pipeline.

Os autocodificadores são usados para muitos propósitos em visão computacional, como análise de caligrafia e reconhecimento facial.

Como os autocodificadores buscam dados “essenciais” de uma imagem (como a imagem de um rosto), eles são muito bons em eliminar ruído visual.

No caso de um software deepfake, isso significa que uma arquitetura de autocodificador pode aprender características e traços fundamentais da fotografia de um rosto, ignorando amplamente fatores estranhos, como granulação, sombras e outros elementos “não faciais” que possam estar presentes na imagem, resultando em modelos versáteis e bem generalizados (ou seja, modelos que podem executar transformações úteis em dados diferentes dos dados de treinamento originais).

Como os deepfakes são usados?

Embora o conceito de deepfakes também seja usado para criar efeitos visuais em filmes, os deepfakes online têm muitas intenções:

• Campanhas de desinformação e fake news:
• Ocorrem especialmente durante eleições, para influenciar a opinião das pessoas.
• Chantagem: Quando alguém cria um vídeo ou imagem deepfake de uma pessoa, e ameaça divulgá-la se ela não ceder às exigências.
• Deepfake Phishing: Se passar por alguém em tempo real sob o pretexto de ajudar um amigo, familiar ou colega.
• Fraude financeira: Usar deepfakes para roubo de identidade .

A tecnologia Deepfake pode ser usada para criar novas identidades e roubar as identidades de pessoas reais. Os invasores usam a tecnologia para criar documentos falsos ou falsificar a voz de sua vítima, o que lhes permite criar contas ou comprar produtos fingindo ser essa pessoa.