Deepfakes não vão embora: identidade digital à prova de futuro – Deepfake reforça a Identidade Digital

VB, 10/09/2022 

Deepfakes não são novidade, mas essa tecnologia baseada em IA surgiu como uma ameaça generalizada na disseminação de desinformação e aumento da fraude de identidade. A pandemia piorou a situação ao criar as condições ideais para que os maus atores aproveitem os pontos cegos das organizações e dos consumidores, exacerbando ainda mais a fraude e o roubo de identidade. A fraude decorrente de deepfakes aumentou durante a pandemia e apresenta desafios significativos para instituições financeiras e fintechs que precisam autenticar e verificar identidades com precisão.

Deepfakes de âncoras de notícias com propaganda pró-China espalhados pela web

VOA, 08/02/2023 

WASHINGTON — Os "apresentadores de notícias" parecem incrivelmente reais, mas são deepfakes gerados por IA em vídeos de propaganda inéditos que um relatório de pesquisa publicado na terça-feira atribuiu a atores alinhados ao estado chinês.

Relatório alerta que IA representa ameaça à autenticação biométrica; mas quão em breve?

BU, 25/10/2024 

Por Anthony Kimery 

O avanço e a evolução da “tecnologia de deepfake convincente representam uma ameaça severa aos sistemas de autenticação tradicionais que dependem de pistas visuais ou auditivas para verificação”, alerta um novo relatório do Instituto de Tecnologia e Segurança (IST), com sede na Califórnia.

O relatório, As Implicações da Inteligência Artificial na Cibersegurança, afirma que “sistemas de autenticação biométrica que utilizam reconhecimento facial ou análise de voz já foram comprometidos pela tecnologia de deepfake em vários casos”.

No entanto, o relatório pode não fazer uma distinção clara entre violações de sistemas de autenticação que utilizam biometria facial e falsificação por IA. Violações de biometria facial poderiam levar a ataques de falsificação usando IA, mas a detecção de vivacidade ou ataques de apresentação já é amplamente implementada como uma defesa contra esse tipo de ataque.

China estabelece regras básicas para conter abuso de deepfake

ZN, 14/12/2022 

Por Elieen Yu 

A partir de 10 de janeiro do próximo ano, a nova lei exige que qualquer pessoa que ofereça tecnologia e serviços de "síntese profunda", incluindo deepfakes e realidade virtual, rotule essas imagens de acordo.

A China estabeleceu regras básicas para evitar que a tecnologia de "síntese profunda", incluindo deepfakes e realidade virtual, seja abusada. Qualquer pessoa que use esses serviços deve rotular as imagens de acordo e abster-se de usar a tecnologia para atividades que violem os regulamentos locais. 

Estudo mostra que invasores podem usar ChatGPT para aprimorar significativamente golpes de phishing e BEC

CSO, 11/01/2023 

Por Lucian Constantin 

Os pesquisadores demonstram como os invasores podem usar o modelo de linguagem natural GPT-3 para lançar campanhas de phishing e comprometimento de e-mail comercial mais eficazes e difíceis de detectar.

Pesquisadores de segurança usaram o modelo de geração de linguagem natural GPT-3 e o chatbot ChatGPT baseado nele para mostrar como esses modelos de aprendizado profundo podem ser usados ​​para tornar ataques de engenharia social, como phishing ou golpes de comprometimento de e-mail comercial, mais difíceis de detectar e mais fáceis de realizar.