Pesquisa revela que rostos falsificados por IA parecem mais reais do que fotos genuínas: Deepfake

PP, 25/01/2023 

Por Pesala Bandara 

A pesquisa revela que rostos deepfake gerados por inteligência artificial (IA) parecem mais reais do que fotos genuínas.

De acordo com o estudo, as pessoas não conseguem distinguir com segurança fotos de rostos reais e imagens geradas por IA.

À medida que a tecnologia deepfake de IA, como “redes adversárias generativas” (GAN), se torna mais amplamente disponível, “fotos” falsas podem corroer a confiança social e mudar a maneira como as pessoas se comunicam online.

Esses rostos foram gerados por computador.

As descobertas foram publicadas no artigo “On the Realness of People Who Do Not Exist: The Social Processing of Artificial Faces” na iScience.

Em um artigo para Reaction, Manos Tsakiris, que é um dos autores por trás do estudo, diz que ainda não está claro por que os humanos acham rostos deepfake mais reais do que fotos reais.

No entanto, esse fato destaca os principais avanços na tecnologia deepfake de IA usada para criar essas imagens.

Curiosamente, a pesquisa descobriu que os rostos que as pessoas classificaram como menos atraentes também foram considerados mais reais.

Tsakiris sugere que esses rostos gerados por GAN podem parecer mais reais para as pessoas “porque são mais semelhantes aos modelos mentais que as pessoas construíram na vida cotidiana”.

Potenciais consequências

No entanto, essa mudança para uma paisagem cultural onde se torna impossível distinguir entre rostos reais e rostos gerados por IA pode ter repercussões na “confiança social”.

A confiança social descreve como as pessoas estendem a confiança a um grupo de pessoas desconhecidas.

“Em geral, tendemos a operar com base na suposição padrão de que outras pessoas são basicamente verdadeiras e confiáveis”, escreve Tsakiris na Reaction .

“O crescimento de perfis falsos e outros conteúdos artificiais online levanta a questão de quanto sua presença e nosso conhecimento sobre eles podem alterar esse estado de 'padrão de verdade', acabando por corroer a confiança social.”

A onipresença potencial de conteúdo online realista, mas falso, pode exigir que as pessoas comecem a pensar e responder de maneira diferente.

Tsakiris explica: “Se questionarmos regularmente a veracidade do que experimentamos online, isso pode exigir que redistribuamos nosso esforço mental do processamento das próprias mensagens para o processamento da identidade do mensageiro”.

Ele diz que as pessoas precisam ser mais críticas quando se deparam com um rosto digital – empregando pesquisas de imagens reversas para verificar a autenticidade de uma foto e questionando perfis de mídia social com poucas informações pessoais.

Tsakiris diz que a próxima fronteira online pode ser algoritmos aprimorados para detectar rostos digitais falsos, para que as pessoas possam identificar o que é real e o que é falso na internet.

Artigos recomendados: DPF e Dados

Fonte:https://petapixel.com/2023/01/25/ai-deepfake-faces-look-more-real-than-genuine-photos/