Golpe 'deepfake' na China levanta preocupações de fraude alimentada por IA

IE, 23/05/2023 

Por Ameya Paleja 

Os cidadãos estão preocupados se as regras aplicadas são suficientes para os proteger.

Um golpe recentemente relatado na China que usou tecnologia 'deep fake' levantou preocupações sobre o uso de inteligência artificial (IA) na realização de atividades fraudulentas no país. A discussão no site de mídia social Weibo sobre a explosão no número de varreduras alimentadas por IA ganhou mais de 120 milhões de visualizações em um dia, informou a Reuters.

Ao longo dos anos, o termo "deep fakes" tem sido associado principalmente a celebridades, mas à medida que a tecnologia de IA se torna mais popular, também despertou temores de afetar o plebeu. Recentemente, um conselheiro das Nações Unidas alertou contra o uso destrutivo da tecnologia e instou as nações a trazerem regulamentações para proteger o público.

Golpe deep-fake na China

Poucos dias após o alerta do conselheiro da ONU, um golpe de deep fake foi relatado no norte da China, onde a vítima não era uma celebridade. De acordo com relatos da polícia de Baotou, uma região da Mongólia Interior, um homem recebeu uma chamada de vídeo de seu amigo onde este precisava urgentemente de dinheiro para fazer um depósito em um processo de licitação.

O homem transferiu imediatamente 4,3 milhões de yuans (US$ 622 mil). No entanto, quando contatado, seu amigo esclareceu sobre nunca ter feito tal pedido, o que levou à descoberta de que a tecnologia de troca de rosto alimentada por IA havia sido usada para se passar por ele durante a chamada de vídeo.

A proeza da computação avançada está se tornando comumente acessível a cada dia

A polícia já recuperou a maior parte dos fundos roubados e os esforços estão em andamento para localizar o restante. No entanto, as discussões no site de mídia social Weibo explodiram, com indivíduos expressando preocupações sobre a ameaça à privacidade e segurança online de tecnologias poderosas como a IA.

Usuários nas redes sociais opinaram que fotos, vozes e vídeos estavam à disposição dos golpistas, e as regras de segurança da informação dificilmente conseguiam acompanhar as técnicas já utilizadas atualmente.

Os usuários estavam se referindo às novas regras da China em janeiro deste ano, concentrando-se em apertar o escrutínio de aplicativos e tecnologias mais recentes. De acordo com as regras recém-implementadas, existem restrições mais rígidas à manipulação de dados de voz e faciais. No entanto, isso não impediu que os golpistas usassem a tecnologia para enganar um homem inocente.

Indivíduos e até mesmo grandes corporações têm sido alvo dos efeitos nocivos da tecnologia deep-fake. No ano passado, um relatório do Centro de Denúncias de Crimes na Internet (IC3) do FBI mostrou que indivíduos estavam usando a tecnologia para agir como outra pessoa e ocupar posições de trabalho remoto.

Este é apenas o começo da era da IA, e ainda não vimos seu lado feio.

Artigos recomendados: China e Metaverso

Fonte:https://interestingengineering.com/culture/deepfake-scam-china-concerns-ai-powered-fraud