O que é a tecnologia deepfake e como ela funciona?

IE, 17/11/2022 

Por Maia Mulko 

E existe alguma maneira eficaz de detectá-lo?

• Em teoria, a tecnologia deepfake pode fazer parecer que alguém está dizendo ou fazendo alguma coisa, e é por isso que é tão controversa.

• Celebridades e figuras políticas são as mais "deepfaked" – com tudo o que isso implica.

• A tecnologia é legal, mas alguns usos são proibidos por regulamentos relativamente novos.

Todos nós já ouvimos falar de deepfakes.

Fizeram Elon Musk cantar uma canção espacial soviética e transformaram Barack Obama em Pantera Negra, entre outras paródias e memes.

Eles também foram usados ​​para cometer crimes e foram alvo de várias polêmicas quando seus criadores tentaram fazê-los passar por legítimos.

Por exemplo, durante a campanha presidencial dos EUA em 2020, houve vários vídeos deepfake de Joe Biden adormecendo, se perdendo e falando bobagens. Esses vídeos visavam reforçar o boato de que ele estava em declínio cognitivo devido à idade.

Deepfakes também têm sido usados ​​para criar pornografia de celebridades femininas — uma forma de abuso sexual baseado em imagens — e para espalhar desinformação por meio de contas de 'fantoches' e falsas testemunhas.

Como resultado, empresas como Facebook e Adobe, e até mesmo indivíduos, estão tentando desenvolver técnicas mais eficazes para detectar deepfakes.

O que é deepfake e como funciona?

O termo “deepfake” foi criado a partir das palavras “deep learning” e “fake”.

O aprendizado profundo é um tipo de aprendizado de máquina baseado em redes neurais artificiais, inspiradas no cérebro humano. O método é usado para ensinar as máquinas a aprender com grandes quantidades de dados por meio de estruturas multicamadas de algoritmos.

Os deepfakes geralmente empregam uma rede de computadores de aprendizado profundo chamada de codificador automático variacional, um tipo de rede neural artificial que normalmente é usada para reconhecimento facial.

Autoencoders podem codificar e compactar dados de entrada, reduzindo-os a um espaço latente dimensional inferior e, em seguida, reconstruí-los para fornecer dados de saída com base na representação latente.

No caso dos deepfakes, os autoencoders são usados ​​para detectar características faciais, suprimindo o ruído visual e elementos “não faciais” no processo. A representação latente contém todos esses dados básicos que o autoencoder utilizará para entregar um modelo mais versátil que permita a “troca de face”, apoiando-se em características comuns.

Para tornar os resultados mais realistas, os deepfakes também usam Generative Adversarial Networks (GANs).

As GANs treinam um “gerador” para criar novas imagens a partir da representação latente da imagem de origem e um “discriminador” para avaliar o realismo dos materiais gerados.

Se a imagem do gerador não passar no teste do discriminador, ele é incitado a desenvolver novas imagens até que haja uma que “engane” o discriminador.

Quanto tempo leva para fazer um deepfake?

O processo de criação de um deepfake pode parecer complicado, mas praticamente qualquer pessoa pode criar um deepfake, pois existem muitas ferramentas disponíveis para isso e não é necessário muito conhecimento para usá-las.

Quanto tempo leva para fazer um deepfake depende do software deepfake usado.

A complexidade do deepfake também é um fator determinante. Deepfakes de alta qualidade geralmente são feitos em computadores poderosos que são capazes de renderizar projetos mais rapidamente, mas vídeos deepfake complexos ainda podem levar horas para renderizar, enquanto uma simples troca de face pode ser feita em 30 minutos. Um deepfake mais simples pode até ser criado em poucos segundos usando aplicativos deepfake para smartphones.

A tecnologia deepfake é legal?

Deepfakes inspiraram uma série de reformas legislativas em todo o mundo.

• Na Califórnia, dois projetos de lei de 2019 proíbem o uso de deepfakes na política e na pornografia. Os estados da Virgínia e do Texas têm regulamentos semelhantes contra deepfakes.

• O Congresso dos EUA também está considerando a aprovação do Deep Fakes Accountability Act (oficialmente intitulado 'Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2021' ou HR 2395), um projeto de lei que visa “combater o disseminação de desinformação por meio de restrições à tecnologia de alteração de vídeo deep-fake”. O projeto de lei propõe exigências de divulgação e marca d'água para criadores de vídeos deepfake e estabelece penalidades (multas e até 5 anos de prisão) para quem não cumprir essas exigências.

• No início de 2022, o Escritório Estatal de Informações da Internet da China lançou as “Disposições sobre a Administração dos Serviços de Informações da Internet de Síntese Profunda”, um projeto de regulamentação para deepfakes e outros conteúdos gerados artificialmente.

• O Parlamento Europeu modificou a Lei de Serviços Digitais para impor o uso de rótulos em vídeos deepfake. A Lei de Serviços Digitais entrará em vigor em 1º de janeiro de 2024.

Quem inventou a tecnologia deepfake?

Nenhuma pessoa pode ser creditada por inventar a tecnologia deepfake, pois é baseada em várias tecnologias anteriores, como redes neurais artificiais (ANNs) e inteligência artificial (IA).

Em geral, o desenvolvimento desse tipo de mídia sintética pode ser rastreado até a década de 1990. Mas a tecnologia deepfake como a conhecemos hoje geralmente depende de GANs, e os GANs não existiam até 2014, quando foram inventados pelo cientista da computação Ian Goodfellow.

A palavra “deepfake” surgiu em 2017.

Como você detecta um deepfake?

Alguns deepfakes são mais fáceis de detectar do que outros. Tudo depende da qualidade e complexidade do material falsificado. Pessoas moderadamente treinadas, ou mesmo não treinadas, podem detectar deepfakes de qualidade inferior a olho nu, levando em consideração detalhes sutis.

Alguns deepfakes usam filtros que fazem os rostos falsos parecerem mais borrados em algumas áreas. Outros têm pequenas inconsistências em simetria, cor, iluminação, nitidez ou textura. Alguns vídeos deepfake podem brilhar ou piscar devido a essas inconsistências “acumulando” quadro a quadro.

A Inteligência artificial e redes neurais estão sendo treinadas para detecção automatizada de deepfakes, mas a eficácia desses métodos geralmente depende do realismo dos deepfakes, que estão sempre evoluindo. E como alguns métodos de detecção de deepfake são semelhantes aos usados ​​para criar deepfakes, os vídeos falsos podem ser aprimorados à medida que novos métodos de detecção aparecem. Como resultado, há um cabo de guerra constante onde ninguém ganha.

“O que torna a área de pesquisa deepfake mais desafiadora é a competição entre a criação e detecção e prevenção de deepfakes, que se tornará cada vez mais acirrada no futuro”, diz Amit Roy-Chowdhury, professor de engenharia elétrica e de computação e chefe do Video Computing Group at UC Riverside. Roy-Chowdhury ajudou a criar o método Expression Manipulation Detection (EDM), um sistema que identifica áreas específicas dentro de uma imagem que foram alteradas. Ele acrescenta que “com mais avanços nos modelos generativos, os deepfakes serão mais fáceis de sintetizar e mais difíceis de distinguir do real”.

Nota: vídeo real mostrando Biden com problemas cognitivos reais.

Artigos recomendados: DPF e IA

Fonte:https://interestingengineering.com/culture/deepfake-technology-how-work