PP, 16/12/2022
Por Pesala Bandara
A Meta, empresa controladora do Facebook, está vendo um “rápido aumento” de fotos de perfil falsas geradas por inteligência artificial (IA).
À medida que a tecnologia de IA, como “redes adversárias generativas” (GAN), se torna mais amplamente disponível, qualquer pessoa pode criar um rosto deepfake realista em questão de segundos.
De acordo com um relatório da Meta publicado na quinta-feira, mais de dois terços dos 'agentes de ameaça' que encontrou e derrubou este ano usaram fotos de perfil geradas por software de IA.
Um agente de ameaça, também conhecido como agente mal-intencionado, é qualquer pessoa ou organização que cause danos ou comprometa a segurança na esfera digital.
“Mais de dois terços de todas as redes [de agentes de ameaças] que interrompemos este ano apresentavam contas que provavelmente tinham fotos de perfil geradas por GAN, sugerindo que os agentes de ameaças podem ver isso como uma maneira de tornar suas contas falsas mais autênticas e originais,” Meta escreve no relatório.
Mais fácil do que roubar uma foto real
De acordo com um estudo publicado recentemente, os rostos gerados por IA tornaram-se tão realistas que as pessoas têm apenas 50% de chance de adivinhar corretamente se um rosto é real ou falso.
“Parece que esses agentes de ameaças estão pensando, esta é uma maneira cada vez melhor de se esconder”, disse Ben Nimmo, que lidera a inteligência global de ameaças na Meta, à NPR.
“Isso porque é fácil simplesmente acessar a internet e baixar um rosto falso, em vez de roubar uma foto ou uma conta inteira.”
“Eles provavelmente pensaram… é uma pessoa que não existe e, portanto, ninguém vai reclamar dela e as pessoas não conseguirão encontrá-la da mesma forma”, diz Nimmo.
Sinais indicadores
No entanto, de acordo com Nimmo, as fotos de perfil geradas por IA geralmente apresentam sinais reveladores que os humanos podem aprender a identificar – como peculiaridades em suas orelhas e cabelos, o alinhamento dos olhos, bem como roupas e fundos incomuns.
“O globo ocular humano é uma coisa incrível”, disse Nimmo à NPR . “Depois de olhar para 200 ou 300 dessas fotos de perfil geradas por inteligência artificial, seus globos oculares começam a identificá-las.”
Isso tornou mais fácil para investigadores treinados da Meta e de outras empresas identificar essas fotos de perfil geradas por IA.
Os investigadores irão “olhar para uma combinação de sinais comportamentais” nas imagens. Este é um avanço em relação ao uso de pesquisas de imagens reversas para identificar fotos de perfil.
A CBS News relata que mais de 100 países foram alvo do que Meta chama de “comportamento inautêntico coordenado” (CIB) desde 2017.
Meta diz que o termo se refere a “esforços coordenados para manipular o debate público para um objetivo estratégico em que contas falsas são centrais para a operação”.
De acordo com o relatório da Meta, “os Estados Unidos foram o país mais visado pelas operações globais [CIB] que interrompemos ao longo dos anos, seguidos pela Ucrânia e pelo Reino Unido”.
A Rússia liderou a acusação como a fonte mais “prolífica” de comportamento inautêntico coordenado, com 34 redes originárias do país. O Irã (29 redes) e o México (13 redes) também tiveram uma classificação alta entre as fontes.
Artigos recomendados: Meta e DPF
Fonte:https://petapixel.com/2022/12/16/meta-sees-sharp-rise-in-ai-generated-fake-profile-photos/
Nenhum comentário:
Postar um comentário