VOA, 08/02/2023
WASHINGTON — Os "apresentadores de notícias" parecem incrivelmente reais, mas são deepfakes gerados por IA em vídeos de propaganda inéditos que um relatório de pesquisa publicado na terça-feira atribuiu a atores alinhados ao estado chinês.
Os âncoras fake – para um veículo de notícias fictício chamado Wolf News – foram criadas por um software de inteligência artificial e apareceram em imagens nas mídias sociais que pareciam promover os interesses do Partido Comunista Chinês, disse a empresa de pesquisa americana Graphika em seu relatório.
"Esta é a primeira vez que vimos uma operação coordenada com o estado (chinês) usar imagens de vídeo geradas por IA de uma pessoa fictícia para criar conteúdo político enganoso", disse Jack Stubbs, vice-presidente de inteligência da Graphika, à AFP.
Em um vídeo analisado por Graphika, um âncora fictício que se autodenomina Alex critica a inação dos EUA sobre a violência armada que assola o país. No segundo, uma âncora enfatiza a importância da "cooperação entre grandes potências" entre a China e os Estados Unidos.
Os avanços na IA fazem soar o alarme global sobre o potencial da tecnologia para desinformação e uso indevido, com imagens deepfake criadas do nada e pessoas mostradas falando coisas que nunca disseram.
No ano passado, a empresa mãe do Facebook, Meta, disse que retirou um vídeo deepfake do presidente ucraniano, Volodymyr Zelenskyy, pedindo aos cidadãos que depusessem suas armas e se rendessem à Rússia.
Não houve comentários imediatos da China sobre o relatório da Graphika, que surge apenas algumas semanas depois que Pequim adotou regras amplas para regular os deepfakes.
A China impôs novas regras no mês passado que exigirão que as empresas que oferecem serviços deepfake obtenham as identidades reais de seus usuários. Eles também exigem que o conteúdo deepfake seja marcado adequadamente para evitar "qualquer confusão".
O governo chinês alertou que os deepfakes representam um "perigo para a segurança nacional e a estabilidade social".
O relatório da Graphika disse que os dois âncoras do Wolf News foram quase certamente criados usando a tecnologia fornecida pela startup de inteligência artificial Synthesia, com sede em Londres.
No site da Synthesia, que não respondeu imediatamente ao pedido de comentário da AFP, anuncia um software para criar avatares deepfake "com base em imagens de vídeo de pessoas reais".
A Graphika disse que descobriu os deepfakes em plataformas como Twitter, Facebook e YouTube enquanto rastreava operações de desinformação pró-China conhecidas como "spamouflage".
"Spamouflage é uma operação de influência pró-chinesa que amplifica predominantemente vídeos de spam político de baixa qualidade", disse Stubbs.
"Apesar de usar alguma tecnologia sofisticada, esses vídeos mais recentes são praticamente os mesmos. Isso mostra as limitações do uso de deepfakes em operações de influência – eles são apenas uma ferramenta em uma caixa de ferramentas cada vez mais avançada."
Artigos recomendados: DPF e China
Fonte:https://www.voanews.com/a/research-deepfake-news-anchors-in-pro-china-footage/6953588.html
Nenhum comentário:
Postar um comentário