Deepfakes não vão embora: identidade digital à prova de futuro – Deepfake reforça a Identidade Digital

VB, 10/09/2022 

Deepfakes não são novidade, mas essa tecnologia baseada em IA surgiu como uma ameaça generalizada na disseminação de desinformação e aumento da fraude de identidade. A pandemia piorou a situação ao criar as condições ideais para que os maus atores aproveitem os pontos cegos das organizações e dos consumidores, exacerbando ainda mais a fraude e o roubo de identidade. A fraude decorrente de deepfakes aumentou durante a pandemia e apresenta desafios significativos para instituições financeiras e fintechs que precisam autenticar e verificar identidades com precisão.

Esta campanha de IA usa uma garota deepfake para alertar sobre roubo de identidade

LBB, 05/07/2023 

A campanha de adam&eveBERLIN e DDB Germany para a Deutsche Telekom lança luz sobre os riscos crescentes associados ao uso indevido de dados e inteligência artificial

Em um filme de herói, a IA é dramaticamente usada para chamar a atenção para os riscos de si mesma - IA. Além das oportunidades de digitalização, a Telekom quer apontar a urgência do tratamento responsável de dados pessoais no mundo digital.

Deepfakes de IA estão por toda parte e os reguladores estão trabalhando em como responder

BU, 03/03/2023 

Por Joel R McConvey 

A questão da identidade digital está prestes a ficar muito mais complicada e muito mais importante, à medida que o mundo começa a contar com a proliferação de deepfakes. Internacionalmente, os governos estão alertando sobre os riscos que acompanham a inteligência artificial (IA) generativa, que pode combinar ferramentas como biometria facial, síntese de voz e modelos de linguagem para criar avatares realistas. Conforme relatado na Fast Company, no New York Times e em outros lugares, da geopolítica à pornografia, o potencial de desinformação, disrrupção e uso indevido é um problema sério.

Agência Europeia de Padrões regulatórios divulga relatório sobre deepfakes

BU, 08/09/2023 

Por Masha Borak 

À medida que os deepfakes florescem em todo o mundo, os países tentam criar regulamentações que controlem as ameaças que representam.

Os esforços mais recentes vêm da principal agência de padrões técnicos da Europa, que divulgou um relatório sobre os riscos do uso de inteligência artificial para manipular representações de identidade digital. Isto não inclui apenas casos de fraude, como os da autenticação biométrica, mas também o potencial para semear confusão, prejudicar eleições e criar conflitos.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

Os espectadores de pornografia na UE podem ter que provar a sua idade

BBC, 20/12/2023 

Três dos maiores sites pornográficos do mundo foram informados de que os seus usuários na União Europeia poderão ter de utilizar tecnologia de verificação de idade.

Pornhub, Xvideos e Stripchat enfrentam regulamentações mais rígidas porque foram avaliados como tendo pelo menos 45 milhões de usuários mensais nos países da UE.

As regras da UE significam que as empresas desta dimensão têm de tomar medidas adicionais para proteger as crianças.

Clones de IA feitos a partir de dados do usuário representam riscos estranhos

YN!, 04/06/2023 

Imagine, se quiser, um doppelgänger digital. Um clone que se parece, fala e se comporta exatamente como você, criado das profundezas da inteligência artificial, refletindo todos os seus maneirismos com uma precisão assustadora. Por mais emocionante que possa parecer, como você se sentiria sobre isso?

Nossa pesquisa na University of British Columbia chama a atenção para essa mesma questão. Com os avanços nas tecnologias de aprendizado profundo, como aplicativos deepfake interativos, conversão de voz e atores virtuais, é possível replicar digitalmente a aparência e o comportamento de um indivíduo.

Deepfakes de voz em alta; a biometria pode ajudar: deepfake reforça o estado de vigilância

BU, 01/02/2023 

Por Alessandro Mascellino

Um novo tipo de deepfake está se espalhando, baseado em gravações de voz. Os algoritmos biométricos de voz continuam a melhorar e os agentes de ameaças os estão usando para fraudes, roubo de identidade e outras atividades ilícitas.

Um artigo recente da Vice mostrou que vários membros da plataforma de mídia social 4chan usaram o software beta da ElevenLabs para gerar vozes que soam como notáveis, incluindo Joe Rogan, Ben Shapiro e Emma Watson, utilizando falas racistas ou comentários abusivos.

Ataques com deepfakes ocorrem a cada cinco minutos, alerta relatório da Entrust

Feito com IA

BU, 19/11/2024 

Por Abigail Opiah 

Um aumento acentuado em fraudes de identidade assistidas por IA está remodelando a cibersegurança em escala global, de acordo com o relatório de fraudes de identidade de 2025, divulgado pelo Entrust Cybersecurity Institute e pela Onfido. O relatório destaca a tendência crescente de ataques sofisticados que utilizam inteligência artificial, tornando-se mais frequentes e eficazes, com incidentes de deepfake ocorrendo a cada cinco minutos em 2024.  

O estudo revelou um aumento de 244% ano a ano na falsificação digital de documentos, marcando uma mudança significativa de falsificações físicas para credenciais manipuladas digitalmente. Atualmente, as falsificações digitais representam 57% dos casos de fraude documental. Os resultados mostram o uso crescente de ferramentas de IA generativa e plataformas “como serviço”, permitindo que agentes mal-intencionados escalem técnicas como ataques de injeção de identidade.  

China estabelece regras básicas para conter abuso de deepfake

ZN, 14/12/2022 

Por Elieen Yu 

A partir de 10 de janeiro do próximo ano, a nova lei exige que qualquer pessoa que ofereça tecnologia e serviços de "síntese profunda", incluindo deepfakes e realidade virtual, rotule essas imagens de acordo.

A China estabeleceu regras básicas para evitar que a tecnologia de "síntese profunda", incluindo deepfakes e realidade virtual, seja abusada. Qualquer pessoa que use esses serviços deve rotular as imagens de acordo e abster-se de usar a tecnologia para atividades que violem os regulamentos locais. 

Pesquisa revela que rostos falsificados por IA parecem mais reais do que fotos genuínas: Deepfake

PP, 25/01/2023 

Por Pesala Bandara 

A pesquisa revela que rostos deepfake gerados por inteligência artificial (IA) parecem mais reais do que fotos genuínas.

De acordo com o estudo, as pessoas não conseguem distinguir com segurança fotos de rostos reais e imagens geradas por IA.