Serviços de nudez deepfake de IA dispararam em popularidade: pesquisa

CTPH, 10/12/2023 

Por Amaka Nwaaokocha 

A empresa de análise de mídia social Graphika observou um aumento acentuado nas ofertas de serviços NCII sintéticos.

A empresa de análise de mídia social Graphika afirmou que o uso de “despir IA” está aumentando.

Essa prática envolve a utilização de ferramentas generativas de inteligência artificial (IA) ajustadas com precisão para eliminar roupas das imagens fornecidas pelos usuários.

De acordo com seu  relatório, o Graphika mediu o número de comentários e postagens no Reddit e X contendo links de referência para 34 sites e 52 canais do Telegram, que fornecem serviços NCII sintéticos, e totalizou 1.280 em 2022 em comparação com mais de 32.100 até agora este ano, representando 2.408 % de aumento no volume ano a ano.

Os serviços NCII sintéticos referem-se à utilização de ferramentas de inteligência artificial para criar imagens íntimas não consensuais (NCII), muitas vezes envolvendo a geração de conteúdo explícito sem o consentimento dos indivíduos retratados.

Graphika afirma que essas ferramentas de IA tornam a geração de conteúdo explícito realista em escala mais fácil e econômica para muitos provedores.

Sem esses provedores, os clientes enfrentariam o fardo de gerenciar eles próprios seus modelos personalizados de difusão de imagens, o que é demorado e potencialmente caro.

Graphika alerta que o uso crescente de ferramentas de IA para despir pode levar à criação de conteúdo explícito falso, e contribuir para questões como assédio direcionado, sextorção e produção de material de abuso sexual infantil (CSAM).

Embora as IAs de despir normalmente se concentrem em imagens, a IA também tem sido usada para criar vídeos deepfakes usando a imagem de celebridades, incluindo a personalidade do YouTube, Sr. Beast, e o ator de Hollywood, Tom Hanks.

Num relatório separado em Outubro, a empresa de vigilância da Internet com sede no Reino Unido, Internet Watch Foundation (IWF), observou que encontrou mais de 20.254 imagens de abuso infantil num único fórum da dark web em apenas um mês. A IWF alertou que a pornografia infantil gerada pela IA poderia “sobrecarregar” a Internet.

Devido aos avanços nas imagens generativas de IA, a IWF adverte que distinguir entre pornografia deepfake e imagens autênticas tornou-se mais desafiador.

Num relatório de 12 de junho, as Nações Unidas classificaram os meios de comunicação social gerados pela inteligência artificial como uma ameaça “séria e urgente” à integridade da informação, especialmente nas redes sociais. Os negociadores do Parlamento Europeu e do Conselho chegaram a acordo sobre as regras que regem o uso de IA  na União Europeia na sexta-feira, 8 de dezembro.

Artigos recomendados: DPF e ID

Fonte:https://cointelegraph.com/news/ai-deepfake-nude-services-skyrocket-in-popularity-research